Elon MuskのOpenAIは安全な人工知能研究のための筋肉になることができます

週末のうちに、Elon Musk、Sam Altman、および他のSilicon Valleyの大手たちは、その目標を次のように述べている非営利の会社OpenAIの発表を予想外に発表しました。経済的利益を生み出す必要性によって制約を受けない。」

「私たちの研究には金銭的義務がないので、私たちは人間の好ましい影響にもっと焦点を当てることができます。私たちはA.I.を信じています個々の人間の意志の延長であり、自由の精神のもとで、できるだけ広くそして均等に分配されるべきである。」

この発表からの2つの主要なテイクアウトがあります。一つ目は、ムスクと会社がA.Iを見ていることです。現在のところ、研究は短期間の実用的価値を達成することに焦点を絞っており、それらは、より広範囲で包括的なアプローチをとっているＡ．システム2つ目の、よりベールなテイクアウトは、Muskがまだ半ベイク処理システムを開発および導入した場合にA.I.が危害を加える可能性があることを依然として懸念していることです。ムスクは以前にA.Iと呼んでいます。 「私たちの最大の実存的脅威」は、潜在的な危険を防ぐために規制当局による監視が必要かもしれないことを示唆しています。 OpenAIは、連邦政府による監視を必要とせずに、その監視を提供する方法になる可能性があります。

ムスクとその同僚がしていることは、他の人がしていることとは異なります。結局のところ、オープンソースA.I。何も新しいことではありません。グーグルは彼ら自身のA.I.を作りました。先月ソフトウェアオープンソースとこれはかなり標準的な手順となっています。しかし、10億ドルの寄付金で、OpenAIはすでにA.Iに取り組んでいる最大の組織の1つです。研究、そして非常に簡単に最大の非営利団体。その目的は、その結果を公に利用可能にし、そのすべての特許を無償で提供することです。彼らはニンジンとスティックを持っていて、彼らはそれを産業の運営に使うつもりです。

アイデアは、OpenAIを大企業、私立の研究室、そして彼ら自身のA.Iに注ぐために信じられないほどの金額とリソースを持っている世界政府に対する一種の対抗手段として使うことです。友好的な目的に捧げられていないかもしれない研究ではなく、その代わりに悪意のあるアプリケーションを伴う技術につながる可能性があります。 OpenAIを使用している研究者は、即座に結果を示すという圧力をかけずに、基本的に「友好的」なA.I.を追求します。民間企業が無視しがちであるかもしれない安全性とデザインの特徴のためにより大きな考慮があることができます。ほんの一部の人だけがA.Iの進路を制御する白い塔はありません。開発。それは皆にとって歓迎される世界になるでしょう。

とのインタビューで バックチャンネル ムスクはまた、多種多様なA.Iを作りたいという願望を強調しています。システム"私は欲しいです。彼は言い​​ます。 "私たちはおそらく多くの人が良いと思います。"

それは、MuskとAltmanがA.Iを民主化しようとする主な理由に分かれているため、重要です。彼らは最高の種類のA.I.を信じています。 - ロボットの支配者を生み出すことなく、人類に前向きな方法で利益をもたらすであろう種類は、Muskが述べているように、「個々の人間の意思の拡張」として機能する種類です。彼は言い​​続けます：

「A.I.のようにつまり、AIが他の種類の大規模な中央情報であるのとは対照的に、各人は本質的にAIと共生します。インターネット上のアプリケーションなどの使用方法を考えると、電子メールやソーシャルメディア、そして携帯電話のアプリケーションを使用していることになります。他人であるならば、あなたはそれらをあなた自身の拡張であると考えます。ですから、AIをその方向に導くことができる程度に、それをしたいのです。そして私たちは、AIの分野で同様の気持ちを持った、志を同じくする多くのエンジニアや研究者を見つけました。」

基本的に、A.I.に対するOpenAIのビジョン研究は、人間と他者、そして世界とを結びつけるのに役立ちます。

Muskは、OpenAI自体の中で（または外部のグループによって再利用されている）研究が危険な方向に進むのを防ぐ方法をまだ概説していません。そして、ここで注目に値するものが他にもあります。オープンソースシステムは、機械学習アルゴリズムの構築に使用されるデータが自由に共有される場合にのみ意味があります。インテリジェントシステムは 学ぶ どのようにして知的になるか、そしてそのためにはデータと経験から学ぶ必要があります。ダムを建てるようなものです - 実際に水を止めるようなものを作るためには、青写真（アルゴリズム）と建材（データ）の両方が必要です。

だからこそ、人々はGoogleのTensorFlowでできることにまだ制限があるのです。彼らはまだGoogleが持っているデータを持っていません。そして、OpenAIから構築されたコラボレーションが、社内の研究者が扱っているのと同じデータへの無料アクセスを許可しない限り、Muskのビジョンは必ずしも実現されません - 少なくとも彼がそれを促進する方法ではありません。

Musk、Altman、そしてOpenAIの他の創設者たちは、A.Iの成長に多大な影響を与えるであろう何かを始めました。これからも。同時に、オープンソースのリサーチコミュニティを育成するという公約に積極的に取り組む必要があります。つまり、非営利会社の計画について一般に公開し、データを共有する意思があるということです。それ以外の点では、OpenAIはそれが群れのために設計された一群の企業と大差ありません。