AIの安全性を誰が、どの基準で確かめるのか。米政府とOpenAI、Anthropic、Googleなどが協議した新たな自主審査の枠組みから、官民協力の利点と、審査の独立性という難題が見えてきます。制度の実効性を考えます。
米トランプ政権は2026年8月4日、OpenAI、Anthropic、Googleなどをホワイトハウスへ招き、AIモデルの自主的な安全性テストを定める新たな枠組みについて協議した。枠組みは6月のAIサイバーセキュリティ大統領令に基づくが、詳細や一部の評価基準は非公開である。
背景にはAIモデルのサイバー能力の向上と、中国のMoonshot AI、DeepSeek、Alibabaによる低価格な高性能モデルの台頭がある。
From: 
OpenAI, Anthropic, Google to join White House AI safety meeting
【編集部解説】
今回の枠組みでまず区別したいのは、米政府がAIモデルの公開や提供を事前に許可する制度を作ろうとしているわけではない点です。
2026年6月2日に署名された大統領令では、一定以上のサイバー能力を持つAIを「対象フロンティアモデル」に指定するため、機密扱いのベンチマークを整備するとしています。対象となるモデルの開発企業が制度へ参加する場合、他の信頼できる提携先へモデルを提供する前に、最長30日間、米政府へモデルへのアクセスを認める仕組みです。
ただし、参加は自主的です。大統領令は、AIモデルの開発や公開に対する政府の強制的な免許、事前承認、許可制度を設けるものではないと明記しています。
つまり、制度の狙いは「危険だから政府が公開を止める」ことではなく、危険な能力を持つ可能性があるモデルについて、企業と政府が外部提供前に情報を共有することにあります。規制というよりも、官民による早期警戒の仕組みに近い設計です。
AIモデルの安全性を詳しく評価するには、開発企業の協力が重要です。
モデルの学習方法や安全対策、未公開機能、内部評価の結果は、通常は企業の内部情報です。外部から公開版を試すだけでは、未公開モデルが本来どの程度のサイバー能力を持っているのかを正確に調べることは困難です。
Anthropicは2026年4月、未公開モデルのClaude Mythos Previewについて、熟練した専門家を除く多くの人間を上回る水準で、ソフトウェアの脆弱性を発見・悪用できると説明しました。同社はモデルを一般公開せず、提携組織などに限定して提供しています。
高度なモデルほど、攻撃者に悪用される危険と、防御側が脆弱性を発見する利点の両方が大きくなります。そのため政府だけで評価基準を作るより、モデルの内部を知る企業やセキュリティ専門家を参加させた方が、現実に近い審査を行いやすくなります。
一方で、企業の関与を強めすぎれば、審査の独立性が弱まる問題があります。
元記事によると、スコット・ベッセント米財務長官は、企業側にも安全性審査の運営へ大きく関与させる独立機関を提案しています。金融業界の自主規制機関であるFINRAに似た仕組みとされていますが、この構想が今回の大統領令に組み込まれるかは決まっていません。
企業には、自社モデルの公開を遅らせたくない事情があります。厳しい基準を設ければ、安全性は高まりやすくなりますが、競合企業や海外企業に先行される可能性もあります。
反対に、政府だけで基準を決めれば、技術進歩に評価方法が追いつかない恐れがあります。今回の制度で問われるのは、企業を審査から排除するかどうかではなく、企業の専門知識を利用しながら、最終判断の独立性をどう確保するかです。
評価基準の一部が機密となることにも、二つの側面があります。具体的な検査方法を公開すれば、モデル開発者や攻撃者が評価を回避する手段を研究できる可能性があります。一方で、基準がほとんど見えなければ、政府が企業を公平に扱っているのかを外部から検証しにくくなります。
日本のAI政策も、企業と政府の協力を重視しています。
2025年に成立した人工知能関連技術の研究開発及び活用の推進に関する法律では、AIの研究開発と活用を促進しつつ、透明性の確保や不適切な利用への対応を進める方針が示されています。また、国、研究機関、活用事業者の連携も制度の基本に置かれています。
米国の安全審査が日本企業を直接拘束するわけではありません。しかし、OpenAI、Anthropic、Googleのモデルは日本でも利用されているため、米国での評価結果や公開条件が、モデルの提供条件や利用可能範囲に間接的な影響を及ぼす可能性があります。これは現時点では制度から読み取れる可能性であり、具体的な運用はまだ明らかになっていません。
会合後の報道では、米国製のオープンウェイトモデルは現時点で審査対象外とされています。中国製オープンウェイトモデルとの競争が背景にあるなか、どの提供形態を対象にするのかは、今後の制度設計で重要な論点になります。
今回の会合だけで安全性の問題が解決するわけではありません。今後確認すべきなのは、どの企業が枠組みに参加するのか、参加しない企業をどう扱うのか、評価結果をどこまで公表するのか、政府と企業の意見が対立した場合に誰が最終判断を下すのかです。
自主制度が機能するかどうかは、参加企業の名前ではなく、判断手順と責任の所在がどこまで明確になるかで決まります。
【関連記事】
トランプ大統領令、AIフロンティアモデルに政府が30日前アクセス｜任意の安全枠組みを解説
今回の会合の土台となった2026年6月2日の大統領令を詳しく解説した記事。任意参加、機密ベンチマーク、政府による最長30日間のアクセスなど、制度の基本構造を確認できる。
Great American AI Act of 2026｜米国初の連邦AI規制、「開発 vs 利用」の攻防
自主参加型の大統領令とは異なり、議会による包括的な連邦AI規制の草案を扱った記事。AI企業、連邦政府、州政府の権限分担を比較できる。
Anthropic、AIの危険な展開を政府が差し止め｜「Advanced AI Framework」が示す規制の新段階
Anthropicが提案した、独立評価や政府による危険なモデルの展開差し止めを含む政策枠組みを解説した記事。企業側が自主審査より強い規制を求める理由を確認できる。
【編集部後記】
AIの性能が高まるほど、それを悪用する側の力も強くなっていきます。だからこそ、攻撃するAIだけでなく、防衛するAIの開発も同じ速度で進める必要があると感じました。安全性の仕組みが後回しになれば、AIをめぐる環境が無法地帯のようになるおそれがあります。企業や政府が情報を共有し、脅威を早期に見つける体制づくりも欠かせません。技術の進歩を止めずに、安全性をどう守るのか。
これからは、その両立がより重要になっていくのではないでしょうか。
【用語解説】
フロンティアモデル
その時点で最も高い能力を持つ先端AIモデルの総称。高度な推論やサイバー能力を備える一方、従来の評価方法では把握しにくい危険性も持つ。
自主的安全性審査
AI企業が法的に強制されるのではなく、自ら参加して政府機関などへモデルを提供し、安全性評価を受ける仕組み。今回の米大統領令は、強制的な免許制度や事前承認制度を設けないと明記している。
対象フロンティアモデル（covered frontier model）
米政府が策定する機密ベンチマークで、一定以上の高度なサイバー能力を持つと判定されたAIモデル。開発企業が参加する場合、他の信頼できる提携先への提供前に、最長30日間、政府へアクセスを認める枠組みが想定されている。
機密ベンチマーク
国家安全保障や評価回避への懸念から、一般公開されないモデル評価基準。安全性を高める一方、審査の公平性を外部から検証しにくくなる課題もある。
自主規制機関（SRO）
業界関係者が制度運営に関与しながら、一定の監督や規則の執行を行う組織。米金融業規制機構（FINRA）は、米証券取引委員会の監督下で活動する民間の自主規制機関であり、政府機関ではない。
【参考リンク】
OpenAI 公式サイト（外部）
ChatGPTなどを開発するAI研究・製品企業。今回のホワイトハウス会合への参加企業として報じられている。
Anthropic 公式サイト（外部）
Claudeを開発するAI安全性・研究企業。高度なサイバー能力を持つClaude Mythos Previewを限定的に提供している。
Google DeepMind 公式サイト（外部）
GoogleのAI研究部門。基盤モデルの研究やAI安全性、科学分野への応用に取り組む。
The White House（外部）
米大統領府の公式サイト。大統領令、政策文書、ファクトシートなどを公開している。
FINRA 公式サイト（外部）
米国の証券会社を監督する民間の自主規制機関。AI業界向け独立機関構想を理解する際の比較対象となる。
【参考記事】
Promoting Advanced Artificial Intelligence Innovation and Security｜The White House（外部）
2026年6月2日に署名された米大統領令。対象フロンティアモデルの評価、自主参加型の官民協力、サイバー防御強化について定める一次資料。
Fact Sheet: President Donald J. Trump Promotes Advanced Artificial Intelligence Innovation and Security｜The White House（外部）
大統領令の目的を政権側がまとめた公式資料。AI企業との協力により、安全性と開発速度を両立させる方針を説明している。
Project Glasswing｜Anthropic（外部）
Claude Mythos Previewを企業やオープンソース団体へ限定提供し、重要なソフトウェアの脆弱性発見と修正に活用する取り組み。
人工知能関連技術の研究開発及び活用の推進に関する法律｜内閣府（外部）
日本のAI法に関する公式情報。法律本文や概要資料を掲載し、研究開発、活用、透明性、リスク対応の基本方針を示している。
About FINRA｜Financial Industry Regulatory Authority（外部）
FINRAの組織構造、資金、米証券取引委員会との関係を説明する公式ページ。業界参加型の監督制度を考える比較材料となる。
