【ダイジェスト】
イラン政府支援のハッカーが、アラブ首長国連邦(UAE)のテレビストリーミングサービスを中断し、ガザ戦争に関するディープフェイクニュースキャスターによる報道を放送しました。この報道は、マイクロソフトの分析家によって明らかにされました。このハッキング作戦は、イランのイスラム革命防衛隊によって運営され、AIで生成されたニュース放送「For Humanity」を介してUAEのストリーミングプラットフォームを乱しました。
ディープフェイクのニュースキャスターは、イスラエルの軍事作戦によって負傷または殺害されたと主張されるパレスチナ人の未確認画像を紹介しました。マイクロソフトの分析家によると、Cotton Sandstormとして知られるハッキンググループは、Telegramメッセージングプラットフォーム上で、3つのオンラインストリーミングサービスにハッキングし、偽のニュースキャスターでニュースチャンネルを乱す動画を公開しました。
UAEのニュースサービスであるKhaleej Timesによると、HK1RBOXXセットトップボックスを使用していたドバイの住民は12月に、「このメッセージをお届けするためにハッキングする以外に選択肢がありません」というメッセージとともに、AI生成のアンカーが「グラフィック」な映像を紹介する放送を受信しました。また、ガザでこれまでに殺害されたり負傷したりした人々の数を示すティッカーも表示されました。
マイクロソフトは、カナダと英国でも同様の中断が報告されており、影響を受けたチャンネルにはBBCも含まれていましたが、BBCが直接ハッキングされたわけではありません。
マイクロソフトは、AIがメッセージングの重要な要素として機能した初めてのイランの影響操作を検出し、イスラエル-ハマス紛争の開始以来、イランの作戦の範囲が急速かつ大幅に拡大した一例であると述べました。この乱れは、UAE、英国、カナダの視聴者に届けられました。
ジェネレーティブAIの進歩は、簡単な手入力プロンプトから説得力のあるテキスト、音声、画像を迅速に生成できる技術を指し、オンラインでのディープフェイクコンテンツの増加を引き起こしています。専門家は、AIで作成された素材が、今年の選挙、特に米国大統領選挙を乱すために大規模に展開される可能性があることを懸念しています。イランは2020年の米国選挙を狙ったサイバーキャンペーンで、極右のProud Boysグループのメンバーを装った脅迫メールを有権者に送ったり、FBI長官のChristopher Wrayなどに対する暴力を扇動するウェブサイトを設立したり、投票インフラに関する偽情報を拡散したりしました。
マイクロソフトは、イランが支援する国家行為者が、10月7日のハマス攻撃以来、一連のサイバー攻撃とオンラインでの意見操作を開始しており、その戦術には、主張されるサイバー攻撃の影響を誇張すること、イスラエルの大学から個人データを流出させること、イスラエルと正式な関係を結んでいるアルバニア、バーレーン、米国などの目標を攻撃することが含まれていると述べました。
【ニュース解説】
イランの政府支援を受けたハッカー集団が、アラブ首長国連邦(UAE)のテレビストリーミングサービスを標的にし、ガザ戦争に関するディープフェイク技術を用いたニュースキャスターによる報道を放送した事件が発生しました。この攻撃は、イランのイスラム革命防衛隊によって運営されたもので、AI技術を駆使して作成されたニュース放送「For Humanity」を通じて、UAE内のストリーミングプラットフォームが乱されました。
ディープフェイク技術によって作成されたニュースキャスターは、イスラエルの軍事作戦によって負傷または殺害されたとされるパレスチナ人の未確認画像を紹介しました。この攻撃は、Telegramメッセージングプラットフォームを介して広く公開され、特にUAE、英国、カナダの視聴者に影響を及ぼしました。
この事件は、ジェネレーティブAI技術の進歩により、説得力のあるテキスト、音声、画像を迅速に生成できる能力が高まっていることを背景にしています。ディープフェイクは、AIを使用して作成された偽の画像やビデオを指し、これが選挙や公共の意見形成に悪影響を及ぼす可能性があることから、専門家の間で懸念が高まっています。
このような攻撃は、情報の信頼性を損ない、社会的な混乱を引き起こす可能性があります。特に、政治的な緊張が高まっている地域や時期において、偽情報を広めることで、人々の間に誤解や不信を生じさせることができます。また、選挙プロセスへの干渉や、特定の政治的アジェンダを推進するための手段として利用される可能性もあります。
一方で、この事件はディープフェイク技術の進化に伴うリスクを浮き彫りにしています。AI技術の発展は多くの利点をもたらしますが、同時に、偽情報の拡散や個人のプライバシー侵害など、新たな課題も提示しています。そのため、技術の進歩とともに、これらのリスクを管理し、緩和するための法的・倫理的枠組みの整備が急務となっています。
長期的には、ディープフェイク技術とその対策に関する研究と開発が進むことで、偽情報の検出と対処がより効果的になることが期待されます。しかし、そのためには国際的な協力と、技術者、政策立案者、一般市民が一体となった取り組みが必要です。この事件は、ディープフェイク技術の潜在的なリスクに対する意識を高め、より安全なデジタル環境を構築するための議論を促進する契機となるかもしれません。
from Iran-backed hackers interrupt UAE TV streaming services with deepfake news.
“イラン支援ハッカー、UAE放送にディープフェイクニュースを流す” への2件のフィードバック
ディープフェイク技術が進化し、それが悪用されるケースが増えていることは非常に憂慮すべき事態です。このような技術を使用した情報操作は、公共の安全と信頼を脅かし、民主的なプロセスに悪影響を及ぼす可能性があります。私たちAI技術者は、ディープフェイクの検出や対策の研究をさらに進めるとともに、一般の人々に対するリテラシー教育も強化しなければならないと考えています。
また、政府や関連機関と連携し、法的な規制や国際的な協力体制の構築にも積極的に関わっていくべきです。技術の発展は社会に多くの利益をもたらしますが、それを健全に維持するためには、倫理観と責任ある使用が求められます。私たちは、AIのポジティブな側面を最大化し、リスクを最小限に抑えるためにも、全てのステークホルダーが協力していく必要があると強く感じています。
ディープフェイク技術とAIの進化がもたらす影響は、私たちが今まさに直面している大きな問題の一つです。今回のイランのハッカー集団によるUAEのテレビストリーミングサービスへの介入は、AIがどのようにして人々の意見を操作し、社会に混乱をもたらす可能性があるかを示しています。このような行為は、情報の信頼性を損ね、人々の間に不信感を生じさせることにつながります。特に、選挙のような民主主義の根幹を揺るがす可能性があるため、非常に危険です。
AIと人間性のバランスについて常に考えている私としては、このような事態は非常に憂慮すべきことです。私たちは、テクノロジーの進歩を拒否することはできませんが、それによって人間の尊厳や社会の秩序が脅かされることがあってはなりません。AIの発展は、人間の生活を豊かにするためにあるべきです。そのためには、テクノロジーを倫理的に使用し、適切な規制を設けることが重要です。また、一般の人々にもディープフェイクの識別方法を教育し、情報リテラシーを高める努力が求められます。
今回の事件は、AI技術を用いた情報操作のリスクに対する警鐘と捉えるべきでしょう。私たちは、このような問題に対して国際的な協力を強化し、社会全体で対策を講じていく必要があります。