規制を求める企業が、その規制でいちばん得をするのではないか。AI規制の議論には、いつもこの疑いがついて回ります。OpenAIは6月から9月にかけて出した3つの政策文書すべてに、規制を参入障壁にしないという趣旨の一文を書き込みました。今回の国際標準の提案では、その対象が「国」にまで広がっています。
OpenAIは9月21日、公式ブログ「Building standards for the next phase of AI」で、再帰的自己改善（RSI）を含むフロンティアAIの国際技術標準づくりを、米国が各国と協力して主導すべきだと提言した。日本などのAI安全研究所を例に挙げ、既存の国際ネットワークを活用して、CAISIと各国の業界団体を通じて標準を策定する案である。標準はライセンスや義務的な公開前審査、承認要件ではなく、法制度への組み込みは各国政府が判断する。
新規参入者やオープンウェイト開発者を不利にしない設計とし、RSIの進捗評価、自動化されたAI研究への人間の監督、インシデント報告の共通化を候補に挙げた。サム・アルトマンCEOは米国時間22日、Xでこの提案を紹介した。
From: 
Building standards for the next phase of AI
【編集部解説】
アルトマン氏が選んだ見出し
提案の本文の大半は、再帰的自己改善（RSI）と国際標準の設計に割かれています。ところがサム・アルトマン氏がXで紹介したとき、最初に置いたのはRSIではありませんでした。研究所の外にいる人たちが開発の行方に実質的な発言権を持つこと。そして標準が権力の集中を防ぎ、新しい企業やオープンモデルの企業が競争できるようにすること、でした。
安全の話を、競争の話から始めたのです。この順番に、今回の提案を読む鍵があります。
規制を求める側に向けられてきた疑い
AI安全の規制を求める声は、最先端のモデルを開発する企業の側からも上がっています。OpenAIも9月9日、能力に応じた義務的な国家規制を連邦議会とともに作りたいと表明しました。
こうした動きには、以前から一つの疑いが向けられてきました。規制に対応するための評価や監査、報告のコストは、資金力のある大手なら吸収できますが、新興企業には重くのしかかります。結果として規制が参入障壁になり、それを求めた大手の地位を固めてしまうのではないか、という疑いです。さらに、規制の設計そのものが規制される側の利益に取り込まれれば、「規制の虜（regulatory capture）」と呼ばれる問題にもつながります。フロンティアAIの規制提案をめぐっても、こうした論点は繰り返し持ち出されてきました。
これは特定の企業の善意を疑う話というより、構造の話です。だからこそ、規制を求める側が構造の側で答えを示せるかどうかが問われます。
3つの文書に繰り返し置かれた一文
OpenAIの政策文書を並べると、同じ趣旨の一文が毎回書き込まれていることに気づきます。
6月3日に公表した連邦枠組みのブループリントは、枠組みが守るべき原則に「イノベーションの保護」を挙げ、スタートアップや研究者に不要な障壁を作らず、今日の業界構造を法律で固定しないよう求めました。一方で同じ文書は、連邦の枠組みが整った後に、同じフロンティア安全のリスクを扱う州法を連邦法で専占し、一本化することも求めています。
9月9日の投稿はさらに踏み込んでいます。規制の対象は最も能力の高いシステムを開発するごく一部の資金力ある研究所に限り、スタートアップや小規模な開発者には及ぼさない。フロンティア安全の政策を「オープンウェイト政策の言い換え」にしてはならない。公的な枠組みは権力の集中を減らすべきで、増やすべきではない、とまで書いています。オープンウェイトモデルを擁護する7月24日の公開書簡「Open Weights and American AI Leadership」に署名したことにも触れています。
そして今回の提案です。国際標準は、オープン・クローズド双方の開発者、独立した専門家、学術界に諮りながら透明に策定し、特定の企業、国、ビジネスモデルを有利にしない。新規参入者やオープンウェイト開発者が競争しにくくなる形にもしない、と明記しました。
国内の業界構造から始まった一文が、今回は「国」までを含む国際のレベルへと広がっています。規制を求めるたびに、その規制が誰を締め出しうるかを自ら書き添えている、と読むことができます。
「関所」ではなく「物差し」にとどめる設計
この一文と対になっているのが、標準の性格の定め方です。
今回の提案は、国際標準をライセンスでも、義務的な公開前審査でも、承認要件でもないと位置づけ、各国の法制度に組み込むかどうかは各国政府が決めるとしました。一方、6月のブループリントは米国内について、最も能力の高いモデルにCAISI（米国のAI標準・イノベーションセンター）の公開前評価を義務づけるよう求めていました。ただしその場合も、CAISIの役割は評価と緩和策の推奨であり、公開の承認や阻止ではないと明記しています。
国内では、対象を最も能力の高いモデルに絞って公開前の評価を義務づける。国際では、各国が使える共通の物差しをつくる。6月案はCAISIに公開の承認や阻止の権限を与えておらず、今回の提案も国際技術標準そのものを公開の承認要件にはしていません。承認の権限を、評価や標準をつくる側に置いていない点が共通しています。
ここからは私の解釈ですが、国際的な承認機関のような「関所」を一つ置けば、そこを通れる者と通れない者が生まれ、関所そのものが権力の集中点になりえます。共通の物差しであれば、大手だけでなく新興企業やオープンウェイトの開発者も、同じ基準で自らの安全性を示せます。提案が手本に挙げる航空や金融安定の分野も、各国が国家の権限を手放さずに、共通の技術標準と協力の経路を築いてきた領域です。
標準の中身は「評価」「監督」「報告」
標準の候補は3つです。RSIに関わる進捗と、AI企業の中でどれだけ自律的な研究が行われているかの評価。どの種類の自動化された研究で直ちに人間のレビューを求めるかという、監督の基準。そして、アライメントや自動化されたAI研究で起きたインシデントの分類と報告の共通化で、共通の重大度や報告の閾値もここに含まれます。
いずれも、研究所の中で進む自動化や、そこで起きた問題を、共通の基準で評価し、監督し、報告するための仕組みです。アルトマン氏が投稿で書いた「安全に進んでいるかを判断する明確な方法」とは、この物差しを指していると読めます。
OpenAIは、研究の加速を測った自社の報告やミスアライメントの報告枠組みを、それぞれの標準への「初期の貢献」として差し出しています。これは最大手が物差しの原型を書くことでもあります。提案が透明な策定と、オープン・クローズド双方への諮問を自ら条件として明記しているのは、その点への答えとして読めます。
なお、9月9日の投稿は国際標準の役割に「開発をいつ、どのように減速・停止するか」を含めていましたが、今回示された2本の柱には、減速や停止を判断する共通の基準は挙げられていません。一方で提案は、完全に自律的なRSIについて、安全に実施できるようになるまでは追求すべきでないとも述べています。この構想は今後大きく変わりうると提案自身が断っており、共通の基準をどう具体化するかはこれからの課題です。
日本はどちらの側に座るのか
提案が標準づくりの土台に例示した各国のAI安全研究所には、日本も含まれています。その背景にあるのが、現在のCAISIの前身である米国のAI安全研究所が2024年11月に立ち上げた国際ネットワークです。2025年12月に「International Network of AI Safety Institutes」から「International Network for Advanced AI Measurement, Evaluation, and Science」へ名称を改め、2026年2月時点で、日本、米国、英国、EUなど10の国・地域の政府機関が参加しています。
この経路で標準が作られるなら、日本は標準を受け取るだけでなく、自律研究の量の測り方やインシデントの重大度の決め方に関わる側に座ることになります。
「オープンウェイト開発者を不利にしない」という条項も、日本の開発者にとって無関係ではありません。国内でも、公開されたモデルの重みを土台に独自のAIを開発する取り組みが進んでおり、先の公開書簡には日本のSakana AIも名を連ねています。物差しが特定のビジネスモデルに有利に働かないかどうかは、日本のAI産業の選択肢そのものに関わります。
書き込まれた一文を、外から照らし合わせる
提案は、各国の首脳が国連総会に集まる時期に公開されました。アルトマン氏は米国時間9月23日に国連安全保障理事会で説明する予定と報じられており、翌24日にはホワイトハウスで米中首脳会談が開かれます。提案自身も、米中の対話を前向きな一歩と位置づけています。
規制を求める企業が「権力の集中を防ぐ」と書いたことの重みは、書いた時点では確かめられません。それでも、文書に書かれた条件は、これからの標準づくりを外から照らし合わせるための、公表された方針になります。研究所の外の人が、物差しづくりの席に実際に座れるのか。OpenAIはその問いを、自ら公の場に置きました。これから形になる標準が、その答えを示していくはずです。
【関連記事】
トランプ氏「AIフォース創設」表明、AI政策責任者は3月から不在
国連総会と米中首脳会談を前にした、米政権のAI政策の動きを読み解いた記事。今回の提言と同じ週に起きた出来事を扱っている。
OpenAI、Appia Foundation参画—「このAIは信頼できるか」を検証可能にする標準化の挑戦
今回の提言が連携先に挙げたAppia Foundationへの、OpenAIの参画を扱った記事。6月のブループリントの内容にも触れている。
NVIDIAら37の企業・団体がOpen Secure AI Alliance発足、OpenAIとGoogleは不参加
提言の連携先の一つであるOpen Secure AI Allianceの発足と、オープンウェイト公開書簡の署名の広がりを伝えた記事。
AI安全機関の名称からなぜ「セーフティ」という言葉が消えたのか｜シリコンバレー発の加速主義と米英それぞれの論理
米国のAI安全研究所がCAISIへ改組された経緯を扱った記事。国際ネットワークの名称から「Safety」が外れたのと同じ流れにある。
【編集部後記】
9月9日の投稿には、目立たない一文があります。カリフォルニア州で議会を通過した4つの法案を支持するにあたり、その中には以前は支持しなかったものも含まれており、最近の能力の伸びを受けて考え直した、というのです。
企業の立場は、状況に応じて動きます。だからこそ、6月、9月9日、9月21日と重ねて書かれた「参入障壁にしない」という一文が、次の文書でも同じ場所に置かれているかどうか。そこから目を離さずにいます。
【用語解説】
再帰的自己改善（RSI：Recursive Self-Improvement）
AIが次の世代のAIの開発を担うことで、改善が加速していく過程。OpenAIは、人間が関与していても進みうるものとし、完全に自律的なRSIは今日起きていないとしている。
フロンティアAI
その時点で最も高い能力を持つ汎用AIモデルとシステムを指す。規制や標準づくりでは、最先端の能力がもたらすリスクを扱う対象として使われる。
オープンウェイト
学習済みモデルの重み（パラメータ）が公開され、誰でもダウンロードして手元で動かせる状態。オープンソースの定義を満たすとは限らない。
規制の虜（regulatory capture）
規制の設計や運用が、規制される側の利益に取り込まれてしまう現象。規制対応のコストが新規参入の障壁になる懸念と並んで論じられることが多い。
専占（preemption）
米国で、連邦法が同じ分野の州法に優先し、州法の効力を排除すること。OpenAIは6月のブループリントで、フロンティア安全のリスクについて連邦法による一本化を求めた。
アライメント／ミスアライメント
アライメントは、AIの振る舞いを人間の意図や価値観に沿わせること。ミスアライメントは、AIが意図や定められた範囲から外れた形で目的を追う状態を指す。
AI安全研究所
各国政府が設置する、先端AIの安全性評価を担う機関の総称。日本では2024年2月にIPA内に設置された。米国の機関は2025年6月にCAISIへ改組された。
【参考リンク】
OpenAI（外部）
ChatGPTなどを開発する米国のAI企業。今回の国際標準の提言に加え、6月と9月9日にも規制をめぐる政策文書を公表している。
Center for AI Standards and Innovation（CAISI）｜NIST（外部）
米商務省NIST内に置かれたAIの標準・評価機関。旧米AI安全研究所で、今回の提言が国際標準づくりの中核に位置づけている。
International Network for Advanced AI Measurement, Evaluation, and Science（外部）
各国のAI安全研究所による国際ネットワークについてのNISTの発表。2024年11月の発足と、EUを含む10の参加主体を記載する。
A blueprint for democratic governance of frontier AI（外部）
OpenAIが6月3日に公表した連邦枠組みの提言。最も能力の高いモデルへのCAISIの公開前評価の義務化や、州法の専占を求めている。
The AI policy window is open. We need to act.（外部）
OpenAIのクリス・レヘイン氏による9月9日の投稿。能力に応じた義務的な国家規制と、権力の集中を減らす枠組みの必要性を述べる。
Open Weights and American AI Leadership｜Microsoft（外部）
オープンウェイトモデルへの拙速な規制に反対する公開書簡の署名者ページ。7月24日に公開され、OpenAIやSakana AIも名を連ねる。
Sakana AI（外部）
東京を拠点とするAI研究開発企業。オープンウェイトモデルへの拙速な規制に反対する公開書簡に、日本の企業として署名している。
【参考記事】
OpenAI calls for US to take lead in global efforts to develop technical standards（外部）
提言の公開を国連総会の時期と重ねて報じたAP配信の記事。アルトマン氏が9月23日に国連安全保障理事会で説明する予定と伝える。
OpenAI Calls for US to Lead Global AI Standards. Will China Be Okay With That?（外部）
米国主導の国際標準を中国が受け入れるかを問う記事。米中首脳会談を控えた、AIインシデントの相互通報の構想にも触れている。
OpenAI responds to White House executive order on AI governance（外部）
6月のブループリントを報じたCSO Onlineの記事。公開前評価は求めるが公開の可否は決めない制度だとするアナリストの見方を紹介している。
Nvidia and 24 other companies sign open-weights letter as Washington weighs Chinese AI model ban — OpenAI, Anthropic, and Google absent from the list（外部）
7月24日の公開書簡を報じた記事。当初の署名者25社の顔ぶれと、その時点ではOpenAIなどの名前がなかったことを伝えている。
