米軍、AI生成の誤った情報報告書で中国船攻撃の寸前まで進む

軍用機はすでに飛び、武装した要員は乗り込みの準備に入っていました。作戦が止まったのは、その直前に報告書の根拠をたどり直した人がいたからです。積み荷を誤って特定していたのは、分析官が使ったAIチャットボットでした。問われているのはAIの精度よりも、その結論が人間の書いた報告書と同じ顔で流通したことのほうです。

米CNNは9月18日、対イラン戦争のさなかの今春、米軍が中国船に対する作戦を実行直前で取りやめていたと報じた。事情を知る4人の情報源によると、中東の中国船が核兵器計画の部品を輸送しているとする情報報告書が米軍内に配布され、船を阻止する作戦の準備が進んだ。武装した要員が乗り込みの準備に入り、軍用機はすでに飛行していた。

直前の精査で、報告書は特殊作戦軍の分析官がAIチャットボットを使って作成したものであり、船の積み荷を誤って特定していたことが判明した。分析官が照会した積み荷情報は、ハワイに司令部を置く米太平洋特殊作戦軍に由来する。チャットボットは公開情報と機密の信号情報を結び付けて結論に至っていた。商用製品か政府専用かは判明していない。米太平洋特殊作戦軍と国防総省はCNNの取材に回答していない。

From: Exclusive: US military had close call after using AI for false intelligence report, sources say

【編集部解説】

止めたのは人間でした。作戦の直前に報告書をもう一度開き、根拠をたどり直した誰かがいた。軍用機が飛び、要員が乗り込みの準備をしていた段階での差し戻しです。この事案でまず確認しておきたいのは、最後に働いたのが人間の手続きだったという一点です。

同時に、止まったのが最後の瞬間だったという事実も残ります。

この件は、自律兵器の議論とは別の場所で起きています。AIが自分で攻撃を決め、実行した事案ではありません。分析にも、配布にも、作戦の準備にも、そして直前の再検証にも、人間が介在していました。それでも、AIが生んだ誤りは意思決定の上流まで進みました。人間が介在していれば安全である、という前提が、どの段階の人間を指しているのかを問い直す事例です。

鍵になるのは、AIが二度使われたことです。

一度目は判断のため。分析官は船の積み荷に関する情報についてチャットボットに照会し、チャットボットは公開情報と機密の信号情報を結び付けて、積み荷の中身についての結論を出しました。二度目は体裁のため。分析官はふたたびAIを使い、その結論を通常の情報報告書の形式に整えて配布しました。

二度目の使用が、この事案の性格を決めています。AIが出した結論は、軍の意思決定者が日ごろ信頼している情報報告書の形をまとい、同じ経路を流れました。文書にAI利用の表示があったかどうか、読んだ人が来歴を確かめられたかどうかまでは報じられていません。ただ、誤りが上流まで進んだ道筋を見るかぎり、積み荷の誤認そのものと同じだけ、その結論がどこから来たのかという問いが重く映ります。

CNNの情報源の一人は、AIを使うと悪い結論にも早くたどり着けるのだ、という趣旨のことを述べています。速くなったのは正しい分析だけではなかった、という指摘です。

導入の速度は、公開されている資料からも追えます。国防総省（法的な名称はDepartment of Defenseのままで、Department of Warは副次的な呼称です）はGenAI.milを2025年12月に立ち上げ、GoogleのGemini for Governmentを最初のモデルとして載せました。2026年1月9日付のAI加速戦略が12日に公表され、7つの先行プロジェクトが設定されています。2026年8月31日にはOpenAIのChatGPT MilとGrok for Governmentが加わりました。同省の発表によれば、職員300万人超のうち、170万人を超えるユニークユーザーがすでに利用を始めています。

ここで一つ、切り分けておきたいことがあります。今回のチャットボットがGenAI.milのものだったとは、現時点では言えません。CNN自身が、商用製品か政府が作ったものかを特定できなかったと書いています。公表されている範囲でいえば、ChatGPT MilとGrok for Governmentは管理対象非機密情報を扱うIL5での認定です。今回は機密の信号情報が結び付けられており、同じ系統の話かどうかは公表情報からは判断できません。手元の材料で言えるのは、ここまでです。

米国防総省は2020年に、責任・公平・追跡可能・信頼できる・統治可能という5つのAI倫理原則を採択しています。このうち追跡可能性の原則は、手法やデータの出どころ、設計の手順を透明にし、監査できる状態に保つことを求めるものです。個々の文書にAIの使用を表示せよとまで書いたものではありませんが、今回の事案が突きつけた問いと重なります。

原則と現場のあいだにあるのは、手順です。CNNは、AIの導入が組織ごとに分かれて進み、AIが生成した情報を検証するための共通の物差しがまだ置かれていないと伝えています。これは誰かの落ち度というより、技術が先に届いた分野に共通して起きることであり、これから整えられていく作法の話です。

そしてこの論点は、日本にとって遠い場所の話ではありません。

防衛省は2027年度概算要求で、統合作戦司令部の意思決定支援システムやAIオーケストレーターを並べました。4月には防衛科学技術委員会が、国防AIの主権性の観点から国産の指揮統制支援システムを推進すべきだとするレポートを公開しています。日本はいま、米国が春に通過した地点の手前に立っています。

だからこそ、この事案は「AIを入れるかどうか」の材料としてではなく、「入れるときに何を一緒に設計するか」の材料として読めます。出力にAI生成である旨を残すこと、参照した情報の出所を後からたどれるようにすること、報告書の様式そのものに来歴の欄を持たせること。いずれも思想の問題ではなく、設計の問題です。

米軍の事例が教えているのは、AIが危険だということではありません。AIの出した結論が、人間の書いたものと同じ経路を流れ始めたとき、それを検証する共通の手順がまだ揃っていなかった、ということです。

そしてこれは、解ける問題です。来歴を残す仕組みは、技術的にはすでに手の届く範囲にあります。今回止めることができたのは、最後に根拠をたどり直した人がいたからでした。次は、その作業を偶然に頼らずに済む形にできるかどうか。日本がこれから描く指揮統制の設計図には、その欄を最初から書き込んでおくことができます。

【関連記事】

【解説】防衛省のAIオーケストレーター｜中核4事業は金額なし
米国の事案と同じ論点が日本の予算にどう現れているかを扱った記事。概算要求の中核となる4事業と、その書かれ方を確認できる。

防衛省の委員会が4月に提言｜「国防AIの主権性」と国産指揮統制
国防AIの主権性という観点から国産の指揮統制支援システムを提言した、防衛科学技術委員会のレポートの中身を解説している記事。

パランティア「Maven Smart System」、自衛隊の指揮統制に検討
自衛隊の指揮統制に海外製AIを導入する検討を扱った記事。今回の事案が起きた米国の系統と、日本の選択が直接つながる。

バネバー・ラボのAI、米海兵隊の情報分析を革新
米海兵隊が情報報告書の作成に生成AIを使った実験を扱った記事。今回の事案と同じ作業が、先行して試されていた。

【編集部後記】

CNNが拾った情報源の言葉に、AIを使うと悪い結論にも早くたどり着ける、というものがありました。速さは道具の側にありますが、どこで立ち止まるかは手順の側にあります。

今回止まったのは、誰かが報告書を開き直したからでした。その人がたまたま忙しかったら、と考えると落ち着きません。偶然に頼らない止め方を、設計図のどこに書き込むか。日本はまだ、その欄を空けたまま持っています。

【用語解説】

情報報告書
軍や情報機関の分析官が、収集した情報を評価・整理して定型の様式にまとめた文書。決められた形式で流通し、受け取った側は内容を一定程度信頼したうえで意思決定に用いる。

公開情報
報道、商業データ、船舶の運航記録など、誰でも入手できる情報源から集めた情報。オープンソース・インテリジェンスとも呼ばれる。

信号情報
通信や電波の傍受によって得られる情報。出どころや手法を秘匿する必要があるため、機密として扱われることが多い。

米太平洋特殊作戦軍
米インド太平洋軍の隷下にあり、太平洋地域の特殊作戦を担当する司令部。ハワイに置かれている。

IL5
米政府クラウドにおける認定区分の一つ。管理対象非機密情報を扱える水準を指す。機密指定された情報とは扱いの系統が異なる。

AI加速戦略
2026年1月9日付で示され、12日に公表された米国防総省のAI方針。実験の奨励、障壁の除去、投資の集中などを掲げ、7つの先行プロジェクトを設定した。

AI倫理5原則
米国防総省が2020年に採択した原則。責任、公平、追跡可能、信頼できる、統治可能の5つからなる。追跡可能性は、手法やデータの出どころ、設計手順を透明にし、監査できる状態に保つことを求める。

AIオーケストレーター
複数のAIモデルやシステムを組み合わせ、目的に応じて処理の流れを制御する仕組み。防衛省の2027年度概算要求に事業名として現れる。

【参考リンク】

Department of War Launches OpenAI’s ChatGPT Mil on GenAI.mil（外部）
GenAI.mil上でChatGPT Milを公開したことを伝える公式リリース。認定の範囲と、想定されている用途が記載されている。

Department of War Launches Starshield AI’s Grok for Government on GenAI.mil（外部）
Grok for GovernmentのGenAI.mil追加を伝える公式リリース。利用者数と認定水準、備わる機能が示されている。

War Department Launches AI Acceleration Strategy to Secure American Military AI Dominance（外部）
AI加速戦略の公表を伝える公式リリース。7つの先行プロジェクトと3つの柱の位置づけを、発表された時点の文言のまま確認できる。

DoD Adopts Ethical Principles for Artificial Intelligence（外部）
2020年に採択されたAI倫理5原則の公式発表。追跡可能性や統治可能性がそれぞれ何を求めるものかを、原文の定義で読める。

Release of the War Department’s AI Acceleration Strategy（外部）
研究技術次官府によるAI加速戦略の掲載ページ。戦略の本文と、実施の体制を示す関連資料へのリンクが、まとめて置かれている。

防衛省・自衛隊（外部）
防衛省の公式サイト。概算要求の資料や各種委員会のレポートなど、この記事が参照した日本側の一次資料がここで公開されている。