Ｘ（旧ツイッター）でチャットＧＰＴ搭載のボットネットを悪用した詐欺が横行
インディアナ大学ブルーミントン校の研究者らによる最近の調査で、Ｘ（元ツイッター）上での暗号資産（仮想通貨）詐欺の宣伝に、オープンＡＩが開発した高度なＡＩ（人工知能）言語モデルであるチャットＧＰＴを搭載したボットネットが利用されていることが明らかになった。
暗号資産関連サイトとの繋がりからフォックス８と名付けられたこのボットネットは、チャットＧＰＴを利用してコンテンツを生成・投稿し、さらに他の投稿とやり取りする１１４０個のアカウントで構成されていた。これらの自動生成コンテンツは、無防備なユーザーが暗号資産詐欺サイトへのリンクをクリックするよう仕向けるためのものだった。
研究者らは、チャットＧＰＴが特定の入力に対して時折使用する「ＡＩ言語モデルとして...」というフレーズを見つけ出すことで、このボットネットの活動を検出した。
そのため、研究者らはボットが運営している疑いのあるアカウントを手作業で精査した。フォックス８が使った手法は比較的単純なものだったが、このボットネットは暗号資産サイトを推奨する一見説得力のあるメッセージを公開でき、ＡＩが容易に詐欺に利用できることが示された。
ＡＩを使った偽情報の専門家であるミカ・マッサー氏は、大規模言語モデルやチャットボットの人気を考えると、この発見はより大規模な問題の氷山の一角に過ぎないかもしれないと考えている。
マッサー氏はワイアードの取材に対し、「これは目の前にぶら下がった果実だ。１件の見つかった活動に対し、他の多くの人々がより巧妙な活動を行っている可能性は極めて高い」と述べた。
オープンＡＩの利用ポリシーは、詐欺や偽情報へのＡＩモデルの利用を明文で禁止している。研究者らは、ボットネットが効果的に構成されていた場合、検出を回避しより効果的に偽情報を拡散するためにアルゴリズムを操作する可能性があるため、その同定が課題だと強調した。
同大学のフォックス８への調査を率いたフィリッポ・メンツァー教授は、詐欺師が杜撰だったためこのボットネットに気づいただけだと述べた。「かなりの悪人ならこうしたミスは犯さない」と同氏は語った。
●Ｘ上のスパムボット
スパムボットはオンラインの暗号資産コミュニティを長年悩ませており、この分野のインフルエンサーにとって共通の不満となっている。そうしたボットは通常、ユーチューブやＸなどのプラットフォームで容易に見つけ出せるが、それでも有名人に成りすましたり悪意のプレゼントを宣伝することで、被害者から大金を盗み出している。
イーロン・マスク氏はツイッターを買収後、「スパムボットの撲滅」を約束したが、メンツァー氏はマスク氏の買収後にボットがより普及したと考えている。同氏とそのチームは、ボットに関する調査結果について、もうＸと連絡を取っていない。
「あまり応答がない。あまり人員がいない」と同氏は述べた。
マスク氏は１９日にブロック機能の廃止を認めており、詐欺師や成りすましを排除するためにフィードを整理できなくなると懸念するクリエイターからのさらなる批判が生じている。
（イメージ写真提供：１２３ＲＦ）
This story originally appeared on cryptonews.com.
最新記事
ランキングページ
ビットコイン詳細ページ
イーサ詳細ページ
ＸＲＰ詳細ページ