どのようにハッカーがスケッチリンクをクリックすることにあなたをだますためにAIを使うか

Twitterユーザーは、クリックしているリンクについてもっと注意を払う必要があるかもしれません。

ZeroFoxのPhilip Tully氏とJohn Seymour氏は8月4日のBlack Hat USA 2016ハッカー大会で、機械学習（人工知能）を使っ​​てTwitterユーザーに悪意のあるWebサイトへのリンクを30％から66％の範囲で開かせることを明らかにした。

デュオはSNAP_Rを作成しました。これは人工知能が「スピアフィッシング」の試みを支援するために使用できることを証明するために「特定のユーザーを対象としたフィッシング投稿をツイートすることを学ぶリカレントニューラルネットワーク」です。スピアフィッシングとは、通常のフィッシングとは対照的に、ユーザーに不正なリンクをクリックさせようとする直接の試みです（ログイン情報を要求するチェーンメールやスパムメールなど）。 SNAP_Rは基本的にターゲットを見つけ、興味があると思うツイートを書き、悪意のあるリンクを隠すためにGoogleのURL短縮サービスを使い、そしてリンクをクリックさせることを望んでターゲットにつぶやきます。

「90人のユーザーからなるテストで、自動化されたスピアフィッシングフレームワークの成功率は30％から66％でした。」TullyとSeymourはSNAP_Rについての論文を書きました。 「これは、以前に大規模フィッシングキャンペーンで報告されていた5〜14％より成功しており、大規模手動スピアフィッシング活動で報告されている45％に匹敵します。」

人工知能は、データを危険にさらすのではなく、保護するためによく使用されます。 SeymourとTullyは、ハッカーがA.Iを恐れていないにもかかわらず、そのことを示すために頭の上でそれを反転させたかった。物事をハッキングできないようにするために、ハッカーが彼らのターゲットに対して同様のツールを使用できることを一般大衆は心配するべきです。

人工知能が将来私たちにどのように影響を与えるかを研究しているElon Muskの支援を受けたプロジェクトであるOpenAIは、7月にこの技術が危険をもたらす可能性があると述べた。 「「AIの初期の用途は、コンピュータシステムに侵入することです」とOpenAIは述べています。 「私たちは、AI手法を多用する洗練されたハッカーに対して防御するためにAI手法を望んでいます。」

SNAP_Rがどのように機能するのかを明らかにすることは、スピアフィッシング攻撃に対する「意識と理解の促進」となるはずです。 Twitterユーザーが好奇心を抑え、より注意を払うことができれば、ツールの内部の動作について議論することで、Twitterユーザーを同様の脅威から保護する方法を見つけることができます。

「私たちのアプローチは、ソーシャルメディアがフィッシング攻撃やソーシャルエンジニアリング攻撃の簡単な標的として急速に出現しているという事実に基づいています」とSeymourとTullyは書いています。 「容認できる投稿に対する低い規制、短いリンクのような便利なサービスに対するコミュニティの寛容さ、その効果的なAPI、そして個人情報を過度に露出させるその広範な文化のために、私たちはTwitterを私たちのプラットフォームとして使います。」Whoops。

このプレゼンテーションは、人々がセキュリティの脅威を理解するのを助けるためにBlack Hat USA 2016で行われた多くのうちの1つにすぎませんでした。 Appleの新しいバグ報奨金プログラムほどの影響はないかもしれませんが、ハッキングツールがどのように進化しているかを追跡するのはまだ良いことです。

下記のSPAN_Rに関するSeymourとTullyの全文を読むことができます。