Last Updated on 2024-06-01 13:01 by 荒木 啓介
OpenAIは、中国、イラン、イスラエル、ロシア（2件）からの5つのAIを活用した国家支援の影響力操作を特定し、妨害しました。これらの操作は、政治的メッセージの拡散を目的としており、ソーシャルメディアの投稿やコメントの生成、コードのデバッグなどにAIを使用していましたが、いずれも効果は限定的でした。ブルッキングス・ブレイクアウト・スケールによると、これらの操作の影響は最大で2と評価されています。このスケールでは、1はキャンペーンが単一のコミュニティやプラットフォーム内でのみ広がったことを意味し、6は政策対応や具体的な行動（暴力など）を引き起こしたことを意味します。2は、操作が1つのプラットフォーム上の複数のコミュニティまたは複数のプラットフォーム上の1つのコミュニティに広がったことを示します。
中国の「スパムフラージュ」は、OpenAIのツールを使用してコードのデバッグ、ソーシャルメディア活動の調査、X、Medium、Blogspotへの多言語でのコンテンツ投稿を行いました。ロシアの「バッドグラマー」は、主にTelegramで活動し、東ヨーロッパとアメリカ合衆国の個人を対象に、Telegramボットの運用と政治的コメントの作成にAIを使用しました。もう1つのロシアのグループ「ドッペルゲンガー」は、Xと9GAGに5つのヨーロッパ言語でコメントを投稿し、見出しを生成し、ニュース記事を翻訳、編集し、Facebookの投稿に変換しました。イランの「国際仮想メディア連合（IUVM）」は、記事の生成と翻訳、見出しとウェブサイトタグの生成にAIを使用しました。最後に、「ゼロゼノ」は、テルアビブに拠点を置く政治マーケティングとビジネスインテリジェンス会社のStoicによって運営され、Instagram、Facebook、Xなどのウェブサイトで記事とコメントを生成するためにOpenAIを使用しました。
Metaは最近の「敵対的脅威レポート」で、Stoicに関連する510のFacebookアカウント、32のInstagramアカウント、11のページ、1つのグループを削除したと報告しました。AIの悪用に対抗するため、OpenAIは業界パートナーと協力し、より安全なプラットフォームの設計に脅威活動を活用し、AIツールを利用して悪用を防ぐための技術とチームに投資していると述べています。
【ニュース解説】
OpenAIが、中国、イラン、イスラエル、ロシアからの5つのAIを活用した国家支援の影響力操作を特定し、その活動を妨害したというニュースがあります。これらの操作は、政治的メッセージを拡散する目的で、ソーシャルメディアの投稿やコメントの生成、コードのデバッグなどにAIを使用していました。しかし、これらの影響力操作の効果は限定的であり、ブルッキングス・ブレイクアウト・スケールでの評価は最大で2に留まりました。
このニュースは、AI技術がいかにして情報操作の手法に取り入れられているかを示しています。AIを使用することで、操作者は多言語でのコンテンツ生成や、複雑なコードのデバッグを効率的に行うことが可能になります。これにより、偽情報やプロパガンダの拡散がより簡単に、そして迅速に行われるようになるリスクがあります。
しかし、OpenAIの介入によってこれらの操作が効果的に妨害されたことは、AI技術が防御側にも有効であることを示しています。OpenAIは、業界パートナーと協力し、脅威活動を利用してより安全なプラットフォームの設計を行い、AIツールを利用して悪用を防ぐための技術とチームに投資しています。これは、AI技術が情報操作の防止にも積極的に活用されていることを示しており、AIのポジティブな側面を浮き彫りにしています。
しかしながら、このようなAIを活用した影響力操作とその対策は、新たな倫理的、法的な課題を提起します。AI技術の進化に伴い、情報操作の手法もより高度になる可能性があり、これに対抗するための規制やガイドラインの策定が急務となります。また、AI技術の悪用を防ぐための技術的な対策も、常に更新し続ける必要があります。
長期的には、AI技術の発展が情報の真実性を守るための戦いにおいて、重要な役割を果たすことが期待されます。しかし、そのためには、技術開発者、政策立案者、そして社会全体が協力し、技術の進化に伴うリスクを管理し、倫理的な使用を確保するための枠組みを構築することが不可欠です。AI技術のポテンシャルを最大限に活用しつつ、その悪用を防ぐためのバランスを取ることが、今後の大きな課題となるでしょう。
from OpenAI Disrupts 5 AI-Powered, State-Backed Influence Ops.
