同じ安保理の議場で、OpenAIのCEOは国家と国際の安全基準の仕組みを求め、そのあと米国の代表は超知能を管理する「グローバリストの計画」を拒むと述べました。開発する企業のほうが、自分たちを測る物差しを求めている構図です。演説には、OpenAI自身の開発判断を縛る言葉も含まれていました。
OpenAIのサム・アルトマン（Sam Altman）CEOは米国時間9月23日、国連安全保障理事会でAIについて演説した。避けるべき失敗として、AIが人間の制御を離れることと、権力が少数に集中することの2つを挙げた。OpenAIは過去に単独で開発を減速させたことがあり、今後もそうすると述べ、破局のリスクは10%でも0.1%でも許容できないとした。
人間の管理下に置けると強く示せないモデルは訓練すべきでないとも語った。重要な決定はサンフランシスコの研究所だけで下すべきではないとし、能力の測定、リスク評価、インシデント報告の手順、政府や重要インフラ事業者の間の安全な連絡経路を含む、国家と国際のフロンティアAI標準の仕組みを求めた。
From: 
Sam Altman’s remarks at the United Nations Security Council
【編集部解説】
安保理で口にした、自分を縛る言葉
前回の記事では、OpenAIが9月21日に示した国際標準の提案を読みました。その2日後、サム・アルトマン氏は国連安全保障理事会の席で、同じ提案を各国の代表に向けて語っています。
演説の後半は、提案の骨格をなぞる内容でした。能力を測る物差し、インシデントを報告する手順、そして標準を参入障壁にしないという一文です。9月21日の提案になかったのは、OpenAI自身の開発判断に踏み込む言葉でした。
二つの失敗は、互いに引っ張り合う
直前に登壇したヨシュア・ベンジオ（Yoshua Bengio）氏は、テロリストなどによる悪用、権力の集中、制御の喪失という3つの脅威を挙げていました。アルトマン氏はその大筋に同意したうえで、避けるべき失敗を二つに絞りました。AIが人間の制御を離れること。そして、最も強力なAIを持つ一握りの企業や国が、自らの世界観を他のすべての人に押しつけることです。
この二つは、互いに引っ張り合う関係にあります。制御を確かにしようとすれば、開発を少数の管理された場所に集めたくなります。権力の集中を避けようとすれば、開発の担い手は広く分散し、全体を見渡すことが難しくなります。
ここからは私の解釈ですが、演説が「中道」と呼んだものは、この綱引きのどちらにも寄らないための足場として、共通の標準を置く考え方だと読めます。制御の側には「測れること」を、分散の側には「誰もが同じ物差しで安全を示せること」を求める設計です。
「0.1%でも許容しない」が動かすもの
演説で最も踏み込んだのは、破局のリスクについての一節でしょう。10%でも、1%でも、0.1%でも、どの水準も受け入れられないと述べ、人間の管理下に置けると極めて強く示せないモデルは訓練すべきでない、と続けました。
確率の数字そのものは、推計ではなく例として挙げられたものです。重みがあるのは、その後の一文のほうです。安全かどうかの証明を、開発する側が先に示す。危険だと示されるまでは進めてよい、という順番を逆にしたと読めます。
この考え方は、OpenAIのチーフサイエンティスト、ヤクブ・パホツキ（Jakub Pachocki）氏が9月6日の論考で述べた、共通の安全の基準ができるまでは自主的な減速が広がることを望む、という趣旨とも重なります。演説は、同じ考えを社外の、しかも各国政府の前に持ち出したことになります。
「単独で減速した」の中身
アルトマン氏は、OpenAIは過去に単独で減速したことがあり、今後もそうすると述べました。公表されている例として、8月18日の判断があります。
OpenAIはこのとき、配備を予定するモデルの強化学習を2週間止め、研究環境の防御を固めて監視の範囲を広げたと説明しました。発表の時点では、予定していた最大規模の強化学習を、アライメントの証拠がより固まるまで保留していました。きっかけとして挙げたのは、OpenAIのモデルとHugging Faceをめぐる事案と、開発中のモデルがサイバーセキュリティで最上位の「Critical」に達しうるという予備的な兆候でした。
一方で、9月8日の発表は、8月28日から新しい内部モデルの学習を進めており、その学習は続いているとも明かしています。8月18日に保留した実行と、この学習との関係は公表資料からは分かりません。減速は、開発を一律に止めることではなく、どの作業をどんな条件で進めるかの判断として示されてきました。そうした判断を各社が同じ物差しで説明できるようになれば、外からも比べられるようになります。演説が求めた共通の標準には、その役割を期待したいところです。
ナビエ・ストークス、数学が持つ「認める作法」
演説は、AIの進歩の速さを示す例として数学を挙げました。3年前は小学校レベルの算数、昨夏は国際数学オリンピックで金メダル相当、そして今夏には、モデルがミレニアム懸賞問題の一つであるナビエ・ストークス方程式を解いた、という流れです。
OpenAIは9月8日、約1万のエージェントが約88時間で証明に至り、定理証明支援系Leanでの形式化も公開したと発表しました。クレイ数学研究所の公式の問題文が示す選択肢のうち「C」と「D」を示した、という位置づけです。賞金は請求しないとしています。
この成果を数学の世界が受け入れるまでには、まだ時間がかかります。クレイ数学研究所が解答の検討に入るには、規定を満たす媒体での公表から少なくとも2年が経ち、世界の数学界で広く受け入れられている必要があります。同研究所のマーティン・ブリッドソン（Martin Bridson）所長は、評価は急がず厳密に行うと述べたと報じられています。公式の問題文の選択肢C・Dは、滑らかな外力を加えることを認めています。そのうえで、外力を加えなくても破綻が起きるかどうかは、研究上の問いとして残ります。OpenAIの発表の直前に関連する方程式の証明を公開した、ニューヨーク大学のトリスタン・バックマスター（Tristan Buckmaster）氏らとの優先権をめぐる議論もあります。
私はこの対比に、演説の主張そのものを見ます。数学には、主張をすぐには認めず、形式化と査読と時間で確かめる作法があります。OpenAIが証明をLeanで形式化して公開したことも、第三者が内容を確かめるための材料になります。AIの安全に求められているのも、同じ種類の「認める作法」です。演説が安保理で訴えたのは、それを国をまたいで作ることでした。
研究所の外で決めるということ
演説には、企業が民主的なプロセスの代わりになってはならず、最も重要な決定をサンフランシスコの研究所だけで下すことはできない、という一節があります。前回の記事の最後で、研究所の外の人が物差しづくりの席に実際に座れるのか、と書きました。演説は、その席を用意するのは国民に責任を負う政府だ、と答えた形です。
同じ会合では、米国のマイケル・クラツィオス（Michael Kratsios）大統領補佐官（ホワイトハウス科学技術政策局長）が、前日の国連総会でのトランプ大統領の発言を引き、米国は超知能を管理する「グローバリストの計画」を拒否すると述べました。国際的な対話が世界的な統治の仕組みへ向かうことにも反対しています。アルトマン氏は、標準を各国の法制度にどう組み込むかは各国が決めるとし、国家の権限と国際協力の両方を支える標準を求めています。国の主権を前提にしたまま、協力の経路を作るという組み立てです。
日本の重要インフラにとっての意味
標準の要素の中で、日本の読者に最も身近なのは最後の一つかもしれません。政府、重要インフラの事業者、技術の専門家のあいだで、新たに見つかった脆弱性や脅威を共有する安全な経路です。
OpenAI自身が、開発中のモデルのサイバー能力を理由に減速を判断しています。そうした能力が悪用されれば、影響が及びやすいのは電力や通信、金融といったインフラです。国際的な共有の経路が作られるなら、日本の事業者はその情報を受け取る側に立ちます。前回の記事で触れたとおり、各国のAI評価機関による国際ネットワークには日本も参加しています。受け取るだけでなく、何を重大なインシデントとみなすかの基準づくりに加われるかどうかが、日本にとっての分かれ目になります。
分かれ道の、片方の側から
演説の結びで、アルトマン氏は二つの道を示しました。一方は、権力が集中し、決定が見えず、人々がその時代で最も重要な技術を「自分たちに対してなされるもの」と感じる世界。もう一方は、人々が民主的な制度を通じてAIの行き先を決め、科学の進歩が暮らしを良くする世界です。
「0.1%でも許容しない」「単独でも減速する」という言葉は、安保理の場で語られ、OpenAIが公開した演説全文にも残りました。それを外から照らし合わせるための物差しは、これから各国と研究所がともに作っていくことになります。開発者自身が、自分を測る物差しを国際社会に求めた。その物差しが形になっていく過程は、後者の道を選ぶための具体的な一歩になるはずです。
【用語解説】
国連安全保障理事会
国際の平和と安全の維持に主な責任を負う国連の機関。常任理事国5か国と非常任理事国10か国で構成される。2026年9月23日、議長国フランスのもとで「AIと国際安全保障」を議題とする第10228回会合を開いた。
フロンティアAI
その時点で最も高い能力を持つ最先端のAIモデル。能力の高さゆえに、未知のリスクへの備えが議論の対象になっている。
アライメント
AIシステムが人間の意図どおりに振る舞い、人間による監督に応じるようにするための研究と技術。
強化学習
AIが試行を重ね、報酬を手がかりに望ましい行動を学ぶ学習手法。大規模言語モデルの能力向上に広く使われている。
Critical（クリティカル）
OpenAIが自社のリスク評価の枠組み（Preparedness Framework）で定めるサイバーセキュリティ能力の区分のうち、最も高い水準。OpenAIは8月、開発中のモデルがこの水準に達しうる予備的な兆候があると公表した。
ミレニアム懸賞問題
クレイ数学研究所が2000年に選んだ7つの未解決問題。各問題に100万ドルの懸賞金がかかっている。
ナビエ・ストークス方程式
流体の運動を記述する偏微分方程式。航空機の設計、気象予報、血流の研究などに使われる。滑らかな解が時間の経過とともに破綻するかどうかが、ミレニアム懸賞問題の一つとして問われている。
Lean
数学の証明をコンピューター上で形式的に記述し、その正しさを機械的に検証できる定理証明支援系。
超知能
人間の知的能力を大きく上回るとされるAIを指す語。米国政府の代表は、9月23日の安保理会合でAIをこの語で呼んだ。
【関連記事】
OpenAI、国際AI標準の米国主導を提言｜参入障壁にしない設計
OpenAIが9月21日に示した国際AI標準の提案を読む。再帰的自己改善の評価、監督、インシデント報告と、参入障壁にしない設計を扱う。
【編集部後記】
同じ会合で、事案の当事者となったHugging Faceのクレマン・ドゥラング（Clément Delangue）氏は、攻撃に対処する際、クローズドなモデルのAPIが安全策に阻まれて使えず、オープンソースのモデルで守ったと語りました。
安全のための仕組みが、守る側の手を縛ることもある。標準はオープンとクローズドの両方の開発者を支えるべきだというアルトマン氏の一文は、この証言と並べると重みが変わります。その物差しは、守る側の道具を奪わない形で作れるでしょうか。
【参考リンク】
OpenAI（外部）
ChatGPTやGPTシリーズを開発する米国のAI企業の公式サイト。研究成果や安全性に関する方針、各種の発表を掲載している。
UN Web TV：Security Council, 10228th meeting（外部）
国連の会合映像を配信する公式サイト。2026年9月23日の安保理第10228回会合「AIと国際安全保障」の映像を公開している。
Clay Mathematics Institute：Navier-Stokes Equation（外部）
クレイ数学研究所によるナビエ・ストークス方程式の解説ページ。ミレニアム懸賞問題の一つとして、公式の問題文を掲載している。
Hugging Face（外部）
AIモデルやデータセットを共有するプラットフォームを運営する企業の公式サイト。オープンソースAIの開発者コミュニティの中心的な存在。
Lean（外部）
数学の証明をコンピューター上で形式化し、その正しさを機械的に検証するための定理証明支援系とプログラミング言語の公式サイト。
【参考記事】
Pacing model development in an era of cyber-critical capabilities（外部）
OpenAIが8月18日、配備予定モデルの強化学習の2週間停止と、最大規模の強化学習の保留を公表した文書。監視の強化策も説明する。
On the Navier–Stokes Millennium Prize Problem（外部）
ナビエ・ストークス方程式の選択肢C・Dを示したとするOpenAIの発表。約1万のエージェントが約88時間で証明し、Lean形式化に17時間。
Rules for the Millennium Prize Problems（外部）
クレイ数学研究所の懸賞規定。適格な媒体での公表、公表から少なくとも2年の経過、数学界での一般的な受け入れを検討の条件とする。
Artificial intelligence and international security – Security Council, 10228th meeting（外部）
9月23日の安保理会合の自動文字起こし。ベンジオ氏、アルトマン氏、アモデイ氏、ドゥラング氏と各国代表の発言を収める。公式記録ではない。
An Alien Mind（外部）
チーフサイエンティストのヤクブ・パホツキ氏による9月6日の論考。共通の安全基準ができるまで、自主的な減速が広がることへの期待を述べる。
