FBIと国際パートナーがロシアのAI強化ボットファームを摘発、偽情報拡散を阻止

2024年7月11日3:58

Last Updated on 2024-07-11 08:47 by admin

米国の連邦捜査局（FBI）とサイバーナショナルミッションフォース（CNMF）を含む米国の機関は、カナダやオランダの機関と共同で、ロシアが運営する人工知能（AI）を強化したソーシャルメディアのボットファームを摘発した。

このボットファームは、ロシア政府の目的を支援するために、異なる国籍の人々を反映したオンラインペルソナを作成し、米国、ポーランド、ドイツ、オランダを含む国々に関する偽情報を拡散していた。

使用されたAI強化ソフトウェアパッケージ「Meliorator（メリオレーター）」は、説得力のあるソーシャルメディアプロファイルの作成、リアルなソーシャルメディアコンテンツの模倣、他のボットの偽情報の反映、偽の物語の自動的な継続、および使用するボットのタイプに基づいたメッセージの形成が可能である。

FBIはこのボットファームのドメイン名2つと、ロシアの俳優によって使用された約1,000のソーシャルメディアアカウントを押収した。

これらのソーシャルメディアアカウントは、2つのドメイン名に依存するプライベートメールサーバーを使用して登録されていた。

ソーシャルメディアプラットフォームXは、利用規約違反により、裁判所の文書で特定された残りのボットアカウントを停止した。FBI長官のクリストファー・レイは、「今日の行動は、ロシアが後援するAI強化ソーシャルメディアボットファームを妨害する初の試みを表している」と述べ、ロシアがこのボットファームを使用してAI生成の外国偽情報を拡散し、ウクライナのパートナーを弱体化させ、ロシア政府に有利な地政学的な物語に影響を与えることを意図していたことを指摘した。

【編集者追記】用語解説

Meliorator（メリオレーター）：
ロシアが開発したAI強化型ソフトウェアで、偽のソーシャルメディアプロフィールを大量生成し、偽情報を拡散するために使用されます。

【参考リンク】
“Russian Media Uses AI-Powered Software to Spread Disinformation”（外部）
Melioratorの機能と、ソーシャルメディア企業への対策提言を紹介しています。

【ニュース解説】

米国の連邦捜査局（FBI）とサイバーナショナルミッションフォース（CNMF）をはじめとする米国の機関が、カナダやオランダの機関と協力して、ロシアによって運営されていた人工知能（AI）を活用したソーシャルメディアのボットファームを摘発しました。このボットファームは、異なる国籍の人々を模倣したオンラインペルソナを作成し、米国、ポーランド、ドイツ、オランダなどの国々に関する偽情報を拡散していました。使用されたAI強化ソフトウェアパッケージ「Meliorator」は、説得力のあるソーシャルメディアプロファイルの作成、リアルなソーシャルメディアコンテンツの模倣、他のボットの偽情報の反映、偽の物語の自動的な継続、および使用するボットのタイプに基づいたメッセージの形成が可能です。

この摘発により、FBIはロシアの俳優によって使用された約1,000のソーシャルメディアアカウントと、これらのアカウントが登録されていた2つのドメイン名を押収しました。これらのソーシャルメディアアカウントは、2つのドメイン名に依存するプライベートメールサーバーを使用して登録されていました。ソーシャルメディアプラットフォームXは、利用規約違反により、裁判所の文書で特定された残りのボットアカウントを停止しました。

この事件は、AI技術がどのようにして偽情報の拡散に利用され得るかを示す一例です。AIを活用することで、より説得力のある偽のアイデンティティやメッセージを大量に生成し、社会的な混乱や政治的な目的を達成するために使用することが可能になります。このような技術の悪用は、民主主義や公共の議論に対する深刻な脅威をもたらします。

ポジティブな側面として、AI技術は、偽情報の検出や分析にも役立つ可能性があります。AIを活用して偽情報のパターンを学習し、それを検出するシステムを開発することで、偽情報の拡散を効果的に防ぐことができるかもしれません。しかし、このような技術の競争は、攻撃者と防御者の間での「武器競走」にもなり得ます。

この事件はまた、ソーシャルメディアプラットフォームや政府が、AIを活用した偽情報の拡散にどのように対処すべきか、という課題を浮き彫りにしています。規制の強化、AI技術の透明性の向上、国際的な協力の促進など、多角的なアプローチが必要とされます。長期的には、AI技術の発展とともに、これらの課題に対応するための新たな戦略や技術が求められるでしょう。

from Feds Uncover Sprawling, GenAI-Enabled Russian Troll Farm.