OpenAI：Elon Muskの元会社が新しいA.I.の危機に瀕しています時代

2016年にElon Muskによって共同設立された人工知能を研究する非営利団体であるOpenAIは、ムスクが方向性について意見の不一致がある中で別れた後でさえも、大きな進歩を遂げています。研究者たちは、ゲームをプレイし、ニュース記事を書き、そして画期的なレベルの器用さで物を動かすことができるシステムを開発しました。

OpenAIはその研究に関して論争を引き起こしました。先週、それは限られたプロンプトでテキストを生成することができる言語モデル、GTP2の開発を発表しました。 「Miley Cyrusがハリウッド大通りでAbercrombieとFitchから万引きしてきた」との人間が書いたプロンプトを考えれば、このシステムは「19歳の歌手が店の外に連れて行かれているカメラに巻き込まれた」と続く信頼できる完全な物語を生み出した警備員による」

それはまた短いプロンプトに基づいてユニコーンを話すことについてのこのオリジナルの物語を作成しました：

「私は1年以上OpenAIに深く関わっていないので、管理や取締役会の監督はしていません」とMuskは週末にTwitterでコメントしています。 「私は、Tesla（特に）とSpaceXで、非常に多くのエンジニアリングと製造の問題を解決することに集中しなければなりませんでした。また、TeslaはOpenAIと同じ人々と競争していました。OpenAIチームがやりたいことの一部には同意しませんでした。それをすべて足し算してください。そして、良い言葉で別れを告げるほうが賢明でした。」

この会社は当初、MuskがA.I.を活用するという彼の目標を達成するための理想的な方法のようでした。人類のために。起業家は以前、スーパースマートマシンがもたらす文明化の「根本的な危険性」について警告しており、政府に「食料、医薬品、航空機、自動車のように」規制するよう求めています。

Muskは最初に会社を立ち上げるために1000万ドルを誓約しました、そして、その使命声明は「安全な人工の一般的な知性への道を発見して制定すること」に焦点を合わせます。

OpenAIのエグゼクティブであるGreg Brockmanによって共有されているようなストーリーを作成するプログラムが、比較的少数の人々によって、あまり一般的ではない人々の意見に影響を与えるために使用される可能性があることは難しくありません。

OpenAIの従業員がこのAI作成のサンプルを印刷し、ごみ箱に入れて投稿しました。http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman（@gdb）2019年2月14日

「悪意のあるテクノロジのアプリケーションへの懸念から、トレーニングを受けたモデルをリリースしていません」と同社のブログ記事で説明しています。 「責任ある開示の実験として、我々は代わりに研究者が実験するためのはるかに小さいモデルとテクニカルペーパーを発表しています。」

その発表は、その技術が偽のニュースを生成するために使用される可能性があるという懸念につながった。 分析インド 今年後半に予定されているインドの選挙で、Ａ。民主的プロセスに大混乱をもたらす可能性があります。 OpenAIの研究者たち自身は、合成オーディオやビデオの制作に関する研究と合わせて、「一般の人々はオンラインで見つけたテキストにもっと懐疑的になる必要があるだろう」と述べています。

ライアンロウ、A.I。科学者とかつてのOpenAIインターンは、このようなプログラムが、偽のニュースを簡潔に作成するために使われているというこの中程度の中程度の投稿に脅威をまとめました。

…1自動化されたシステムは、（1）何千人もの人を雇うためのリソースを持っていない悪意のある行為者が、大規模な情報提供キャンペーンを行うことを可能にする。 （2）すでに国家関係者によって運営されている情報漏洩キャンペーンの規模を劇的に拡大する。

OpenAIのすべての研究がこれほど物議をかもしているわけではありません。 2018年7月に発表されたDactylは、現実世界の物体を操作するために現実世界の物理学に適応することができます。ロボットハンドは非常に複雑で、24自由度ですが、システムは3台のRGBカメラとロボットハンドの座標を使用するだけで、オブジェクトを簡単に移動できます。

ロボットハンドは、ビデオゲームで人間を倒すために使用される汎用の強化学習アルゴリズムを利用します。 「OpenAI Five」チームはプロチームと対決しました 土田2 このシステムは、驚異的な128,000プロセッサコアと256グラフィックプロセッサを利用して、180年間のゲームでトレーニングを受けました。それは元プロとトゥイッチストリーマの人間のチームを破ったが、それはプロのプレーヤーに対して失敗しました。

ムスクは 土田2 A.との共生関係を築くという彼の計画であるNeuralinkに注目を集めるためにマッチする。人間の頭脳を結びつけ、ロボットの引き継ぎを避けることによって：

@ OpenAIによるすばらしい仕事。人間/ AIの共生を可能にするためにすぐにニューラルインターフェースが必要です。

- Elon Musk（@elonmusk）2018年8月6日

テキストジェネレータの発表で、OpenAIは6カ月以内にもっと広い戦略について話し合うことを計画していると述べた。同社は、人工知能の危険性についての微妙な議論、ムスクによって想定された災害シナリオのいくつかを避けることができる動きを刺激することを望んでいる。しかし、同社は、テキストジェネレータを差し控えることが「今日の正しい決断だ」と「確信できない」と認めています。すでに2つの主要団体の間で分裂が生じ、AIの危険性について警告しているのです。ソリューションを開発する時間。