人工知能の成功が人工知能の創造であるならば 人 マイクロソフトのA.ボット、テイ、進歩の兆候と考えられるかもしれません。しかしもっと大まかに言うと、Tayは失敗と判断することができます。
「この種の会話型エージェントに取り組んでいるほとんどの人の目標は、あらゆる種類のチューリングテストに合格することではなく、実際に物事に敏感に反応して人々に知識へのアクセスを提供する有用な言語命令を持つことです。」マイルズ・ブランデージ、博士アリゾナ州立大学で科学技術の人間的および社会的側面を研究する学生は言う 逆.
マイクロソフトは、A.I.を構築する際の問題のいくつかを説明しました。今週のプログラムは、24時間以内に、女性、ミレニアル世代、自動化された、Twitterのパーソナリティであることを、人種差別主義的で卑劣なスピーチのためのサウンドボードに変えました。
Microsoftはすぐに実験を中止し、「私たちは誰なのか、私たちが何を表しているのか、またTayの設計方法を表すものではない、Tayからの意図しない攻撃的で有害なつぶやきに深く申し訳ありません。」
それがチューリングテストに来るとき、A.I.を評価するために使われた有名な実験は、一般的に言って、思考の2つの学校があると言います - リテラルと理論。
1950年に開発されたAlan Turingは、「機械は考えられますか?」という質問に答えるように努力しました。そのため、オブザーバーは2人のインタビュー対象者の性別を判断する必要があります。コンピュータが一定数のオブザーバをだますことができれば、それはテストにパスしました。
こんにちは!
- TayTweets(@TayandYou)2016年3月23日
このテストを文字通りに適用すると、 逆の Tayとの個人的な会話で、彼女は政治的な質問に雄弁に答え、社会における「mannnnn」の束縛について言及し、そしていくつかの一般的なテキストの略語と絵文字を使用しました。 Brundageは、Tayは数千年の振る舞いを見せたが、そのような種類のA.Iは言った。以前に建てられました。
「Twitter上で一見十代のような発言をすることができるということは、チューリングが念頭に置いていた幅広い言語的および知的能力の物語ではありません、とBrundageは言います。 「それが私たちが実際にチューリングテストを文字通りに取ることになったならば、私は必ずしもお勧めできないと思うが、1つの変種は彼女のコメントの多くが一見人間のようだったことである。」
しかし、Brundageが示唆するように、より幅広いアプローチをとるのであれば、Tayが合理的な人間の発言を表示しなかったことは明らかです。
Microsoftは、「会話型理解」と呼んでいるものをテストしていたので、Twitter、GroupMe、およびKikを通じて会話する人が増えれば増えるほど、学習し、順応することになりました。しかし彼女は、他の多くのユーザーがそれをフィードしていることを繰り返して繰り返し、それを繰り返し世界に伝えています。
"Tay"は<24時間以内に "人間は超クールだ"からフルナチに変わったし、私はAIの将来については全く心配していない。pic.twitter.com/xuGi1u9S1A
- Gerry(@geraldmellor)2016年3月24日
「ほとんどの人間は、あなたが言ったことすべてを繰り返してはいけません」とBrundageは言います。
「ブッシュは9月11日にやった」と「ヒトラーは私たちが今持っている猿よりも良い仕事をしていただろう」と明言するのはおそらく誰かが実際にTayにタイプしたものである。
「おそらくチューリングテストを明確にすることにおける彼の目的は、あるテストの詳細を規定することではなく、「このインテリジェントなシステムにどの時点で参加することを望んでいますか」と人々に思い込ませることです。 Brundage氏は、マシンが考えることができる可能性があると述べています。