株式会社博展 - 東芝実績動画
カリフォルニア大学バークレー校は、悪意のある人工知能が人類を破壊するのを防ぐために働いている評判の良い機関のリストにその名前を付け加えました。月曜日に発表された、その人間と互換性のある人工知能のための新しいセンターは、それを確実にすることを意図しています。有益なままであり、そしてまた、Ａ．黙示録。
バークレー自身のA.I.専門家、スチュアートラッセル教授は、ベンチャーをリードしています。 Open Philanthropyプロジェクトは同センターに550万ドルの助成金を提供し、他の人々も同様にチップを組んだ。バークレー、コーネル大学、およびミシガン大学からの他の何人かの専門家が共同主任研究員を務める。
コーネル教授のBart Selman教授はこう語った。 逆 センターについて、A.I.s すべき 恐怖、そしてなぜ世界が恐らくは駄目になるのをやめようとしていないのか。
あなたはCenter for Human-Compatible A.I.で何を達成したいと思いますか？
これらのセンターは比較的新しい開発です。人々は投資をします - 例えば、Future of Life Instituteは、TeslaからのElon Muskからの投資を持っています - そして、生命の未来、そして生命と社会の未来への可能性のある脅威に対処するために。バークレーの新しいセンターはそのような研究所のもう一つの例です。
それは私たちの社会における人工知能とコンピューティングの役割の変化に触発されています。これらの技術は私たちの社会に入り込んでおり、私たちに影響を与えます。これらの機関は、起こり得る悪影響を研究するために研究者を一堂に集めるため、またはどのようにして負の影響がないことを確認するためにあります。
センターの非常に高い称号は、それを示唆しています。そして人類は本質的に両立しません。あなたの意見ですか？
それは、これらのことが両立しないかもしれないという、人々が持つ最初の反応です。私たちは実際に、適切な予防措置、適切なガイドラインと研究によって、私たちは利益を一致させ、これらの技術が有益であることを確認できると確信しています。 A.I.テクノロジーは非常に良い面を持っています、そして社会の目的は私たちがプラス面にとどまることを確認することです。同研究所の研究者らは、それが実現可能であると考えています。
あなたが最後の審判の視点を採用することができれば、最も可能性の高いA.I.-誘導最後の審判の日のシナリオはどのようになるでしょうか？
明らかなリスクは、人工知能の軍事的発展であり、それは諸国間の自衛隊武器競争につながる可能性がある。自律兵器、彼ら自身の命令に従う自律無人偵察機、お互いに敵対的な異なる国によって開発された。それが私の最も具体的なリスクです。私は思うたとえば、自動運転車用に開発されたもの（社会における通常の役割用）は、非常に有益です。しかし、軍事的側面は気になる要素です。
それはもう苦しい戦いですか？
各国は実際にこの問題を検討しています。ある意味では、それは困難な戦いです：軍はA.Iを開発することを推進しています。技術。しかし、例えば生物兵器がおそらく最もよく知られたケースであるという合意がありました - ある時点で国はそれがすべての国に利益をもたらすと決心しました ではない 生物兵器を大規模に開発する。私たちは、各国が、すべての人にとってマイナス面が全面的なA.I.に入るには大きすぎることを認識していることを願っています。軍拡競争。
双方がこの技術を開発すれば、だれも先に進みません。
センターについて、または悪意のあるA.Iについて知っておくべきことは他にありますか。一般に？
ポジティブな面を与えることが重要です。リスクを強調するのは簡単です - そしてもちろん、それがこれらのセンターが設立された理由の一部です - しかし、多くの研究者がこのリスクは管理可能であると感じており、そして逆さまなものは途方もないものになると指摘することも重要です。
あなたはすでに終末の展望を与えました。 A.Iのいくつかの潜在的な積極的な用途は何ですか？あなたは本当に興奮していますか？
肯定的な面は、私たちがこの技術によって援助されている社会になるでしょう。たとえば中国語と英語の間の同時音声翻訳 - 世界中の人々がネイティブ言語を話しているかのように会話ができる場所です。高齢者介護：彼らは彼らが独立して生活するのを助ける家庭用補助ロボットを持っているので、人々は彼らが家に欲しい限り滞在することができます。
それはおそらく雇用全般、そして我々が優先していることに関して、人生全般にかなり劇的な影響を与えるでしょう。
はい。雇用に関する議論がありますが、これは別の議論が続いているようなものです。すべての人をサポートするのに十分なリソースがあるので、すべての人がこれらの開発から恩恵を受けることを確実にする方法の問題があります。それが働くことが何を意味するのか、人々がどんな種類の仕事をするのかの再認識があるでしょう。しかし、原則として、機械は他の多くの平凡なものを手助けするので、人々はもっと自由に、そして彼らが楽しむ活動をするためのより多くの時間を持つようになるでしょう。 作業 タイプのもの。それにはしばらく時間がかかりますが、私たちは社会が適応し、ゆっくりとこれらの変化を取り込むと信じています。
このインタビューは明確さと簡潔さのために編集されました。