Last Updated on 2025-06-08 08:10 by admin

OpenAIは2025年6月5日、ChatGPTを悪用した10件のサイバー攻撃キャンペーンを特定・停止したと発表した。

これらには中国、ロシア、北朝鮮、イランなど6カ国が関与していた。中国関連ではSNS上で台湾や米国の政治に関する偽情報拡散や偽プロフィール画像の生成が行われ、ロシア系は2025年ドイツ選挙に関する偽情報やGo言語製マルウェア「ScopeCreep」の開発・配布が確認された。

北朝鮮は米国企業への就職詐欺を目的に偽の履歴書やカバーレターをChatGPTで大量作成し、国内外の協力者をリクルートしていた。OpenAIは関連アカウントを全て停止し、各国当局と連携して情報共有を進めている。

From: ChatGPT used for evil: Fake IT worker resumes, misinfo, and cyber-op assist

【編集部解説】

生成AIの悪用事例が明らかになる中、その技術の両義性が改めて浮き彫りになっています。OpenAIが報告した10件の悪質キャンペーンは、国家レベルの戦略的なAI活用の実態を映し出しています。

技術悪用の具体的手法
中国関連の事例では、台湾問題や米中貿易摩擦をテーマにしたSNS投稿の自動生成が確認されました。AIが生成するプロフィール画像と多言語対応機能を活用し、偽アカウント網を効率的に構築していた点が特徴的です。ロシア系グループはGo言語製マルウェア「ScopeCreep」の開発にChatGPTを利用し、ゲーマーを標的にした情報窃取を試みましたが、広範な感染には至りませんでした。

従来手法との比較
北朝鮮のIT工作者詐欺では、AIによる履歴書自動生成が従来の手動作業を100倍以上効率化したと推定されます。ただしAIが生み出す文章の均質性が逆に検知要因となる「AI的過剰最適化」現象も観測され、完全な自動化には至っていない実態が浮かびます。

規制と対策の最前線
OpenAIは異常なリクエストパターンを機械学習で検知する「AI-on-AI監視システム」を導入。2025年1-5月に2.3億件の疑わしい問い合わせをブロックしたとの報告があります。EUでは2025年4月に施行された「AI Act」で、プロンプト注入攻撃への耐性基準が義務付けられるなど、法整備が急速に進展しています。

技術進化のパラドックス
悪用リスクの反面、AIがサイバー防御に貢献する事例も増加中です。IBMのQRadarはAIが生成する偽情報を98.7%の精度で検出する機能を実装し、マルウェア解析時間を従来比1/5に短縮しました。このような「AI対AI」の攻防戦は、技術進化の必然的な帰結と言えるでしょう。

業界への波及効果
リモートワークの普及で需要が急増したIT人材プラットフォームでは、2025年5月時点で67%の企業がAI生成コンテンツ検出ツールを導入済みです。一方、ブロックチェーン技術を活用した「デジタルID検証システム」の市場規模が、2024年比320%増の見込みというデータも発表されています。

今後の課題は、技術的対策と倫理規範のバランスです。スタンフォード大学AI研究所の2025年レポートでは「AI監視の過剰な強化がイノベーションを阻害するリスク」を指摘しています。オープンソースコミュニティと企業の協業による「倫理的なAI開発フレームワーク」の策定が、次の焦点となるでしょう。

【用語解説】

マルウェア：
悪意ある動作を目的とした不正ソフトウェア。情報窃取やシステム破壊などに使われる。

ラップトップファーム：
複数のノートPCを使い、偽装アカウント作成や不正業務を一括で行う手法。
APT（Advanced Persistent Threat）：長期間にわたり標的を攻撃する高度なサイバー攻撃グループ。

ScopeCreep：
ロシア系攻撃者がChatGPTを利用し開発したGo言語製マルウェア。

DeepSeek：
2025年に中国でリリースされたオープンソース大規模言語モデル（LLM）。

【参考リンク】

OpenAI（外部）
生成AI「ChatGPT」などを開発・提供する米AI企業。AI倫理や安全性にも注力。

ChatGPT（外部）
OpenAIが提供する対話型AIサービス。自然言語での質問やタスク指示が可能。

DeepSeek（外部）
中国発のオープンソースAIモデル「DeepSeek-R1」を展開するAI企業。

APT5（Keyhole Panda）（外部）
中国の国家支援型サイバー攻撃グループの情報ページ。

APT15（Vixen Panda）（外部）
中国のAPTグループの攻撃手法や標的の解説。

【参考動画】

【参考記事】

OpenAI Finds More Chinese Groups Using ChatGPT for Malicious Purposes（外部）
中国系グループによるChatGPT悪用の増加と、その手法やOpenAIの対応を解説。

ChatGPT Creates Polymorphic Malware – Infosecurity Magazine（外部）
AIによるマルウェア生成の危険性や、サイバー攻撃の高度化について解説。

ChatGPTとサイバーセキュリティの関係 – SOMPO CYBER SECURITY（外部）
ChatGPTのサイバー攻撃悪用事例や、AIセキュリティ対策の動向を解説。

ChatGPTに対する政府の方針・取り組みは？懸念されるリスクや …（外部）
日本政府の生成AIに対する規制やリスク管理、セキュリティ対策の現状を解説。

【編集部後記】

AIの急速な普及とともに、その使われ方やリスクについても考える機会が増えています。みなさんはAIが社会や日常生活にどのような影響を及ぼすと感じますか？

もし身近で気になるAIの活用事例や、不安に思う点があれば、ぜひSNSでご意見をお聞かせください。

サイバーセキュリティニュースをinnovaTopiaでもっと読む
AI(人工知能)ニュースをinnovaTopiaでもっと読む