イスラエルのシンクタンクを名乗るサイトに、ケンブリッジ大学出版局の論文が、別の研究者の名前で並んでいました。OpenAIが遮断したロシア発のアカウント群が、宣伝していた先です。ただしChatGPTが書いたのは、その論文ではありません。宣伝の投稿のほうでした。
OpenAIは2026年8月25日、ロシア発とみられるChatGPTアカウント群を遮断したと発表した。これらはイスラエル拠点を称する「専門家コミュニティ」International Burke Institute（IBI）へ誘導する投稿を生成し、X、Facebook、LinkedIn、Substack、Telegramへ投稿していた。
実行者はロシア語で指示し、ロシア人と判別できる手がかりを消すよう求めた。サイトは2025年2月の登録で、専門家に紐づく記事から抽出した36本のうち34本が転載、誤った著者への帰属もあった。ロシアを好意的に扱う「主権」指数も置かれていた。OpenAIは影響度をブレイクアウト・スケールのカテゴリー3の下端と評価し、意義は読者数より築いた基盤にあるとした。
From: 
Disrupting a new covert influence campaign from Russia
【編集部解説】
ChatGPTが担った範囲は、「AIによる情報工作」という言葉から受ける印象より、限られたところにとどまります。OpenAIが確認した主な利用は、IBIのサイト記事へ誘導するSNS投稿と返信、ドイツ語のTelegram投稿、12ほどのチャンネルのロゴ、米国向けチャンネル1件のプロフィール画像、そしてチャンネルの活動をロシア語で要約させることでした。一方で、サイトに並んでいた学術記事も、ロシアを好意的に扱う「主権」指数のレポートも、OpenAIのモデルの生成物ではありません。
つまり、信用の中核にあった転載論文や独自の指数は、OpenAIのモデルが作ったものではなかったということです。IBIに関してAIが主に担ったのは、その信用へ人を運ぶ補助のほうでした。
「AIが偽情報を大量生産する」という語り口に慣れた目には、拍子抜けする構図かもしれません。けれども今回いちばん見ておきたいのは、まさにこの分業のかたちです。
転載された記事の中には、本物の文章に別の著者名が貼られたものがありました。
OpenAIが、専門家の一覧に紐づく記事から36本を抽出して調べたところ、34本が他所からの転載でした。ケンブリッジ大学出版局が2025年7月に公開したブラッドフォード大学ユナス・サマド名誉教授の論文が、IBIのサイトではノッティンガム大学のキャサリン・アデニー教授の名で、2025年12月28日付として掲載されていた。Migration Policy Instituteが2025年4月に公開した移民ガバナンスの記事は、メルボルン大学の食品化学の研究者ケイト・ハウエル氏の名に付け替えられ、顔写真は2017年の学会登壇者ページから流用されていた。
OpenAIが確認した34本は、インターネット上にすでに存在する文章からコピーされていました。だからこそ、中身を読むだけで偽装に気づくのは難しい。類似性検出ツールにかければ既存文献との一致は出ますが、それは一致を示すだけであり、剽窃かどうかの判定でも、誰が何の目的で置いたかの説明でもありません。
ジョージ・ワシントン大学のスーザン・アリエル・アーロンソン教授は、Fortuneの取材に対し、IBIとは一切関係がないと述べています。同氏はAIの信頼性を研究する立場から、こうした事態が実質的な不信を生んでいることへの強い懸念を語りました。AIのガバナンスを論じてきた研究者の名前が、当人の与り知らぬところでAIを使った工作の信用付けに使われる。この入れ子は、今回の事案でもっとも重い部分だと考えています。
Fortuneはまた、IBIの設立より前に亡くなった人物が専門家として掲載されていたこと、そしてWayback Machineで確認する限りサイトは2025年2月から存在しながら、記事が公開され始めたのは2025年10月であったことを報じています。登録から掲載開始まで、およそ8か月の空白があったことになります。
OpenAIは、この工作の作り込みを、ウクライナ侵攻の開始以降に遮断してきたロシア関連の工作とは一線を画すものだと評価しています。その8か月に何が行われていたかまでは、公開された情報からはわかりません。
IBI側は、8月26日に反論の声明を出しています。名指しされているのはOpenAIではなく、同じ8月25日に独自調査を報じたフランスのLe Mondeです。IBIは、自らを外国の情報工作に結びつける描き方を強く否定し、イスラエルで活動して独自の研究と分析を公開し、主権を論じる研究者の業績を出典を明記したうえでオープンアクセスの資料庫として維持している、と説明しています。テルアビブを拠点としたのは意図的な選択であり、イスラエルは独立した思考と学術的探究にとって自然な環境である、とも述べました。第三者が自分たちの出版物や指数を引用したこと自体は、協力や資金提供の証拠にはならない、という主張も添えられています。
OpenAI自身も、イスラエル在住とみられる少数の人物が論文投稿や会議の場でIBIを代表していた形跡に触れたうえで、その人物たちとロシアの実行者との関係を判断できる立場にはない、と明記しています。ここは判断が保留されている領域です。この記事でも保留のまま置きます。
なお、IBIのサイトは、Fortuneが確認した8月27日の時点で稼働していました。OpenAIの公開後、移民記事の著者名は実際の執筆者の一人へと書き換えられています。ここに書いた内容は、OpenAIが調査した時点の状態です。
日本の読者にとっての意味は、規制が何を対象にしているかを分けて見る点にあります。
2026年7月13日に成立した改正公職選挙法は、選挙運動のために使用する文書図画と、当選を得させないための活動に使用する文書図画であって選挙の公示または告示の日から当日までの間に頒布されるものについて、AI関連技術を利用して作成または改変された画像や映像を掲載する場合、その旨を表示するよう求めています。改変の内容が社会通念に照らして軽微なものや、実際に撮影されたものと誤認されるおそれのないものは除かれます。施行は2027年3月1日で、この表示義務に罰則は設けられていません。テキストのみの投稿は、この表示義務の対象ではありません。
ですから、今回の事案をこの法律の対象・対象外にそのまま重ねることはできません。それでも見えてくる線引きがあります。こうした表示制度が示せるのは「AIで作成または改変された」という事実までであり、「誰が権威を装っているか」までを示す仕組みではない、ということです。転載論文の著者名の付け替えも、発信主体の偽装も、この線の外側にあります。
表示義務が無意味だという話ではありません。AI利用の表示と、身元や帰属の偽装への対処は、扱っている問題が違います。両者は別々に整えていく必要があります。
読者が自分の手で使える見分け方も、この事案からいくつか取り出せます。専門家一覧を掲げるサイトに出会ったら、掲載記事のタイトルをそのまま検索してみる。原典が別の著者名で先に公開されていれば、それで足ります。掲載日が原典より後になっていないかも、あわせて見ておくとよいでしょう。
もうひとつ、言語の痕跡が慣用的な言い回しに出るという発見も応用が利きます。ドイツの連立政権を指して「the Svetofor coalition」と書かれていた例です。ドイツ語ではAmpelkoalition、英語ではtraffic-light coalitionと呼ぶところを、スラブ語で信号機を意味する語がそのまま残っていました。OpenAIは、英語やドイツ語の書き手からは出てきにくく、スラブ語からの機械翻訳とみるのが自然だと評価しています。同じ見方を日本語に応用するなら、定型的な呼び名が不自然に直訳されていないかを見ることも、一つの手がかりになります。
最後に、この事案のいちばん静かな部分を書いておきます。
OpenAIは、補助的なAIの利用が、より広い工作の露見につながったとも述べています。手の込んだサイトを用意し、学術論文で埋め、指数まで作った工作が、宣伝投稿にChatGPTを使ったところから解けていきました。
自社製品が悪用された事例を、図版を添えて自ら公開する。OpenAIは今年2月、こうした脅威レポートの目的について、知見を共有することで業界と社会がこうした脅威を見つけて避けられるようにするためだと説明しています。攻撃側が複数のAIモデルを工程ごとに使い分ける時代に、事業者が自社で観測した痕跡を公開することは、全体像をつなぐ手がかりの一つになります。
信用は、作るより借りるほうが安い。今回明らかになったのは、その古い経済に、AIが新しい配送手段を足したという構図でした。配送の記録が残る場所で足がついたことは、防御側にとって悪い知らせではないはずです。
【関連記事】
【解説】改正公職選挙法のAI表示義務、架空女性アカウントに届かない理由
本記事の後半と直結する回。AIの表示義務が身元の偽装に届かない構造を、国内で起きた架空アカウントの事例から具体的に扱っている。
国家支援型ハッカーがGemini AIを複数工程で利用、モデル抽出（蒸留）攻撃の試みも複数確認
Googleの脅威インテリジェンス部門によるレポート。同じ時期のAI悪用を、別の事業者から見た景色として並べて読める回。
OpenAIが国家支援のAI情報操作を特定、妨害
2024年6月の記事。ブレイクアウト・スケールを当媒体で最初に扱った回で、当時報告された5件の工作の評価は最大でも2だった。
OpenAI、サイバー研究者向け限定プログラムで一部アクセス剥奪｜「技術的問題」と説明
防御側に強いモデルを渡す仕組みの運用面を扱った回。今回の「観測した痕跡を自ら公開する」という姿勢と対になる論点が見えてくる。
AIが書き、AIが読むウェブへ｜Pew調査、ChatGPT公開後のウェブページの3分の1にAI執筆兆候
生成物の識別という主題を、ウェブ全体の規模で見た回。AI執筆の兆候を調べたPew Research Centerの調査を扱っている。
【編集部後記】
公式アカウントの閲覧数は少なかった、とOpenAIは書いています。ところがTelegramのチャンネルだけは、各1万〜2万のフォロワーを集めていました。専門家の名前を並べた表の側ではなく、名前を伏せたチャンネルの側に、人はいたことになります。
学術論文を34本も並べ、指数まで作った手間は、いったい何に向けられていたのか。読み終えたあとも、そこだけ答えが出ていません。
【用語解説】
情報工作（影響工作）
実行者の正体や意図を明かさないまま、世論や政治的な帰結を動かそうとする働きかけ。OpenAIはこれをcovert influence operationと呼び、脅威レポートの対象の一つに位置づけている。
ブレイクアウト・スケール
ブルッキングス研究所のベン・ニモが2020年9月に提示した、影響工作の到達度を測る6段階の枠組み。カテゴリー1は単一のプラットフォームの単一コミュニティにとどまるもの、カテゴリー3は複数のSNSプラットフォームにまたがり複数のコミュニティへ届いたもの、最上位のカテゴリー6は政策対応や暴力の呼びかけを引き起こしたものを指す。OpenAIは今回、カテゴリー3の下端にあたるとし、真正な読者への波及の兆候があると説明している。
主権指数
IBIが自ら作成したと説明する独自の指標。国際的に確立された指標ではなく、この記事では組織の自称としてかぎ括弧を付けている。
類似性検出ツール
提出された文章が既存の文献とどれだけ一致するかを機械的に照合する仕組み。示すのは一致の度合いであり、剽窃かどうかの判定そのものではない。判断は人が行う。
文書図画
公職選挙法が用いる語で、文字や図で表されたもの全般を指す。ポスターやビラのような紙媒体だけでなく、インターネット上に頒布されるものも含まれる。
【参考リンク】
OpenAI（外部）
ChatGPTを開発する米国のAI企業。2024年2月から脅威レポートを公開し、自社モデルの悪用事例を継続的に公表している。
Migration Policy Institute（外部）
米国ワシントンD.C.に拠点を置く移民政策の研究機関。同機関が公開した記事が、別の研究者の名義でIBIのサイトに掲載されていた。
The Breakout Scale: Measuring the impact of influence operations（外部）
影響工作の到達度を6段階で測る枠組みの原典。ベン・ニモが2020年9月に公開したもので、OpenAIが今回の自己評価に用いている。
Wayback Machine（外部）
Internet Archiveが運営する、Webページの過去の状態を保存・閲覧できるサービス。IBIサイトの掲載開始時期の確認に使われた。
衆議院｜第221回国会 議案第26号 要綱（外部）
改正公職選挙法の要綱。AI生成・改変画像の表示義務について、対象となる文書図画の範囲と除外要件、施行日が記載されている。
【参考記事】
OpenAI bans pro-Russia ChatGPT accounts used to spread pro-Kremlin content including an Israel-based think tank using real researchers’ names（外部）
名前を使われた研究者への取材を含む。故人の掲載、掲載が始まった時期、そして発表後に著者名が書き換えられたことを報じている。
OpenAI blocks Russian ChatGPT accounts promoting alleged fake Israeli think tank（外部）
IBIが8月26日に出した反論声明を伝える。同研究所による自己説明と、拠点をイスラエルに置いた理由についての主張を掲載している。
OpenAI bans Russian ChatGPT accounts used in covert misinformation campaign（外部）
発表当日の報道。使用されたプラットフォームと、影響の大きさが到達読者数ではなく構築された基盤にあるという結論を整理している。
Disrupting malicious uses of AI（外部）
脅威レポートの直近号。実行者がAIをWebサイトやSNSと組み合わせること、単一のモデルに限定されないことを2年間の知見として挙げる。
