数時間のうちに人種差別主義者のホロコーストのデニールになったMicrosoftのTwitterロボットであるTayと、インターネット上の誰もが楽しい時間を過ごしました（その後戻ってきてまたやりました）。公衆に機械学習の長所と短所についての客観的な教訓を与えながら、同社は広報フラップを作成しました - 災害よりももっと - 自動化はスピーディーに魅力的な効果にパターンを利用できますが、結果は予測困難です。
よくあることですが、軍はオートメーション技術の早期導入者です。それは - 一度に - 機械学習に対する責任を導きそしてまた追いつこうと必死に努力している。ペンタゴンが注力している主な分野の1つは、自律型ロボットと、それらがどのようにして人間とチームを組むかということです。たとえば、R2D2スタイルのロボット主人公です。しかし今週、Robert Workの国防副次官補はA.I。のための別の仕事の概要を説明しました。それはオープンソースのデータ処理です。
「ディープラーニングマシンを使用することで、ISILをネットワークとしてよりよく理解し、それを正確にターゲットにしてその敗北をもたらす方法についてのより良い理解を得ることが確実に可能になると確信しています。」国防総省のウェブサイト。そのアカウントによると、仕事、それによって組織されたイベントで話していました。 ワシントンポスト 彼は、シリコンバレーのハイテク企業を見ながら、「2014年7月のマレーシア航空17便の撃墜をリアルタイムで表示するためにTwitter、Instagram、その他多くの公的な情報源からデータを取り入れたマシン」を実演しました。
民間企業や法執行機関は、長い間「ビッグデータ」を理解しようとしてきました。しかし軍には利点があります：資源。また、彼らは機密扱いの資料にアクセスできるようになりました。
米国政府は、そうでなければそれらを回避していたであろうISISターゲットを識別し、そして計画者がそれらを実行することができる前にプロットを検出して破壊するためにソフトウェアアルゴリズムがそこに大量のデータを分類できることを賭ける準備ができているようです。政府はすでにオンライン抗議の規模を予測するためにソーシャルメディアを研究しようとしている。機械学習によって、インテリジェンスアナリストは世界中の豊富な情報を理解するための力を高めることができます。しかし、その情報が致命的な攻撃を受ける根拠となると、たとえそれらが直接的に見えても、倫理的問題はより複雑になります。
ペンタゴンが「致命的な権威を機械に委任する」ことはしないとWorkはすぐに述べたが、それは最終的なゲームのままである。その間、専門用語が進むにつれて、人間は「ループの中に」いるままになります。しかし、ウィンドウの横に立っているときにiPhoneで天気予報を確認したことがある人なら誰でも知っているように、私たちのデバイスやソフトウェアとの関係は単純ではありません。私たちは問題を抱えた信頼性があり、UIの問題に気を取られています。
「自動化バイアス」、つまり人間が機械に依存する傾向は、明らかにそしてますます存在する危険を提示しています。この現象を説明するための好例は、間違っていることを知っている必要があることを前提にして、誤った経路をたどるように電話から指示された場合です。これは非軍事的状況では一般的な問題です。ペンタゴンも近づいているように見えますが、人工知能によって構成される脅威レポートです。このプログラムの潜在的な有効性については、人間が実行するのが難しいということ以外は何も知りません。
学生とプロのパイロットおよび自動化バイアスについて調べた2001年の論文で、研究者らは「正しい情報が自動チェックの異常をクロスチェックおよび検出するために利用可能なシナリオでは、両方の集団にわたって約55％のエラー率が記録された」と述べた。チームメイトを追加しても問題は緩和されませんでした。
同様に、昨年のMITの調査では、コンピュータやビデオゲームのプレーヤーは「オートバートオートメーションを行う傾向が高い」と多少憂慮すべきことがわかりました。繰り返しますが、問題は私たちが使用するシステムではなく、私たちがそれらを使用する方法にあります。欠点は私たちの星にではなく、私たち自身にあります。
ビッグデータは依然として有望です。機械学習は依然として有望です。しかし、機械が人間に助言するとき、結果は予測不可能に予測できません。 Tayがネオナチのミソジニストに変身したということは、Twitterがユダヤ人や女性を憎むということを意味するのでしょうか。わかりにくいですが、ありそうもないです。入力がどのように出力になるのかというプロセスを理解していないと、合理的な方法で結果に対処するのに苦労します。これはペンタゴンを興味深い位置に置いています。軍の機械学習ソフトウェアをプログラミングしている人たちが空爆を注文する人たちになるのでしょうか。これは一連の指揮が機能する方法ではありませんが、技術が関与すると一連の指揮が絡み合うことになります。