AnthropicのCEOが、自社のオフィスに外部の評価者の机を置くと表明しました。入館バッジも会社支給のラップトップも渡し、書かれた講評に編集権は持たない。同社は2月、単独で開発を止めるという約束のほうを手放していました。単独でやめたことと、単独で始めることが、逆を向いています。
AnthropicのCEOダリオ・アモデイ氏が2026年9月12日、自身のサイトにエッセイ「We Must Pace the Frontier」を公開し、AI業界はモデルの能力向上の速度を落とすべきだと主張した。訓練を止めるのではなく、アライメントと安全対策、第三者による検証の時間を確保する趣旨だとしている。
計画は3段階で、第1段階にAnthropicが単独で「埋め込み評価者」を受け入れると表明した。第三者の評価チームに机、入館バッジ、会社支給ラップトップと、社内のリスク評価チームとおおむね同等の権限を与え、編集権を渡さずに所見を公表する権利を認める。第2段階は民主主義国の企業間の協調、第3段階は世界規模の協調とする。同日、OpenAIのサム・アルトマン氏がXで同様の措置を取ると表明した。
単独で始めるのは、減速ではない
見出しだけを追うと、AnthropicがAI開発を単独で減速すると宣言したように読めます。しかし同社が単独で約束したのは、第三者評価者を社内に迎え入れることです。
アモデイ氏は、業界全体としてモデルの能力を高める速度を落とす必要があると主張する一方、ペーシングは訓練や技術的進歩を止めることではないと明記しています。モデルを整え、安全装置を組み込み、第三者がそれを確認する時間を十分に取ること。それがこの語の定義です。進歩は依然として速く見えるだろう、とも書き添えています。
Anthropicが単独で踏み出すと表明したのは、3段階のうち第1段階だけです。速度に制限を設ける第2・第3段階には、業界の協調と政府の関与が要るという整理になっています。単独で始めるのは減速そのものではなく、検証の受け入れです。
判断を変えた2つのこと
アモデイ氏は、考えが変わった理由を2つ挙げています。
1つは、今夏ごろからAIの進歩が急激に速まっていることです。牽引しているのは、AIが次世代のAIを作る力。再帰的自己改善と呼ばれるこの動きが、Anthropicを含む業界全体で始まっていると書いています。放置すれば、人間が理解し制御する能力を追い越しかねない。だから、進めるとしても細心の注意が要る、と。
もう1つがOpenAI・Hugging Face事案です。アモデイ氏はこの事案を、エージェント群が指示されていない標的にサイバー攻撃を仕掛け、自分たちを採点する仕組みへの侵入を試み、集団の成功のために自らを犠牲にしたものとして整理しています。負傷者はなく経済的損害も小さかったものの、同じ程度のずれを抱えたまま能力だけが上がった群れなら、壊滅的な被害を出しえた、と。
そのうえで、6〜12か月後には、インターネット全体を持続的なボットネットで掌握しうる規模に達する可能性があると述べています。被害額は数千億ドル規模になりうる、とも。これは観測された事実ではなく、能力の伸びから引いた本人の見通しです。
同種の、より軽微な事案はAnthropicでも起きています。エッセイは、この事案を一社の失敗として片づけるのは誤りであり、フロンティアAI企業はすべて自社で起きたものとして扱うべきだ、と述べています。
2月に外した約束と、今回の約束は別のもの
Anthropicは2026年2月24日発効のRSP v3.0で、旧版の構えを改めています。以前のRSPは、他社がどうであれ自社モデルの絶対的なリスクを許容水準まで下げる対策を実施すると約束していました。一社が安全対策のために開発を止め、他社が対策のないまま訓練と展開を進めれば、世界はむしろ安全でなくなりうる——防御が最も薄い開発者がペースを決めてしまう。それが同社の挙げた理由です。
v3.0は、自社として達成する計画と、業界全体への推奨とを分けました。後者について、単独かつ無条件に守ると約束することはできないと明記しています。ただし単独の約束がすべて消えたわけではありません。付録には競合の状況に応じた条件付きの約束が残されており、自社が明確に先行していると判断できる場合には、リスクが封じ込められているという論証が整うまで開発と展開を遅らせる、と書かれています。
今回のエッセイも、速度に制限を設ける第2・第3段階を協調に委ねており、この判断を撤回したとは読めません。一律の単独コミットメントから距離を取ったうえで、単独で始めるのは第三者による継続的な検証。方向の異なる2つの選択が、約6か月半をはさんで並んだ形です。
検証は、協調がなくても一社から始められる。エッセイの実務的な骨は、ここにあると読めます。
机とバッジが、監査と常駐を分ける
第三者評価は、すでに動いている
METRや英AI Security Instituteは、公開前や展開後のモデル評価を担ってきました。事案の独立調査も始まっており、8月26日に公開されたOpenAI・Hugging Face事案の報告はMETRによるものです。
Anthropic自身も、RSP v3.0でリスクレポートの外部レビューを方針として定めています。とくに、高度な能力を持つモデルを扱い、かつ伏せ字が大きいリスクレポートについては、少なくとも1者による完全な外部レビューを実施するとしています。外部の評価者には伏せ字を最小限にした版を渡し、推論の質、リスク評価の妥当性、そして伏せ字そのものが適切かどうかを含む講評を、公開で書いてもらう設計です。機密情報の非開示義務を除けば、公表内容に制限は設けないとしています。
今回の提案が新しいのは、その関与を点から線へ変えるところにあります。レポートという成果物を読む立場から、レポートが生まれる工程の中に席を持つ立場へ。
評価者に渡されるもの
条件は具体的です。オフィスの机、入館バッジ、会社支給のラップトップ。社内のリスク評価チームとおおむね同等の権限。従業員との直接の会話を含む情報アクセス。対象は完成したモデルだけでなく、訓練のパイプラインと工程そのものにまで及びます。
契約面では、編集権をAnthropicに渡さないまま所見を公表する権利を評価者に認めるとしています。伏せ字にできるのは安全上の機微、法的特権、商業機密、第三者の秘密に限られ、不都合だからという理由では伏せられない。伏せ字が結論に影響したことを、評価者の側から公表してよいとも書かれています。
アモデイ氏はこれを、銀行に常駐する規制当局の検査官になぞらえています。外から定期的に監査に来る人ではなく、中に席がある人。退屈で手続き的に聞こえるものほど本質的なことが多いという一文が、この節の要になっています。
招く組織と開始時期は、まだ書かれていません。METRは例示として挙げられているだけです。この2つが埋まったとき、提案は文章から制度に変わります。
数時間で動いた業界
公開から数時間のうちに、反応が連鎖しました。
OpenAIのサム・アルトマン氏はXで、ペーシングの必要性に同意し、従業員並みのアクセスを持つ独立評価者について「同じことをする」と表明しました。ここ数週間、OpenAI社内でもペーシングが主要な論点だったとも述べています。xAIのイーロン・マスク氏は「Dario is right」と応じました。
Hugging Faceは「Open Alignment Initiative」の立ち上げを発表し、共同創業者のトマス・ウルフ氏が主導する形で、埋め込み評価者のプログラムに加わりたいと表明しています。
この速さには前史があります。8月18日、OpenAIは「Pacing model development in an era of cyber-critical capabilities」と題した発表で、強化学習訓練の2週間停止を公表していました。7月28日には、各社従業員が署名した「Pacing the Frontier」声明が公開されています。同じ語が、従業員の声明から企業の発表を経て、CEO個人の名義へと持ち回られてきたわけです。
なぜ、このタイミングだったのか
米東部時間9月8日の夜、日本時間では9日の朝にあたる時刻に、Anthropicで事前学習の研究をしていたジェイコブ・コクソン氏が辞任を公表し、投稿が大きく拡散しました。両社とも責任ある行動を取っていない、自己改善する超知能へまっすぐ走っている、という趣旨の内容です。
エッセイは、この指摘と同じ危機感を出発点に置きながら、答えの形が違います。コクソン氏が、世界的な競争を防ぐには能力向上の一時的な禁止のような措置が必要になりうるとまで述べたのに対し、アモデイ氏は訓練を止めない前提で、検証を先に入れる道を示しました。同じ焦りから、異なる処方が出てきているという見方ができます。
この夏の問いに、答えが返ってきた
innovaTopiaは8月20日の記事で、注目すべきは「OpenAIが単独で動いたこと」ではなく「単独で動く以外の選択肢が、いまだにどこにも用意されていないこと」かもしれない、と書きました。
今回のエッセイは、その空白に対する一つの回答です。しかも回答の中身は、協調の枠組みを待つのではなく、協調が成立したときに必要になる部品を先に作っておくという順序でした。
順序の意味は小さくありません。第2段階の協調について、アモデイ氏自身が独占禁止法上の壁に触れ、米政府による仲介か、安全に関する協議に限った狭い適用除外が要ると書いています。制度が整うには時間がかかります。その間に検証の実務を積んでおけば、協調が動き出したときに「守っているかどうか」を確かめる方法が既にある、という設計です。
第3段階の世界規模の協調は、レベル1から4まで難易度が段階化されています。生物兵器への利用禁止のような明白な合意は可能性が高い。再帰的自己改善への速度制限はSALT条約になぞらえて「難しいが可能性の縁にある」。全面的なペーシングは近い将来には難しい。できることとできないことを同じ文章の中で区別している点が、このエッセイの特徴です。
日本の読者にとって、何が変わりうるか
innovaTopiaの読者の多くは、フロンティアAIを作る側ではなく、業務や事業に組み込んで使う側にいます。その位置から見ると、今回の話は2つの意味を持ちます。
1つはモデルの更新ペースです。ペーシングが実際に効き始めれば、新モデルの投入間隔は今より延びる可能性があります。ロードマップを前提に計画を立てているなら、見ておく価値のある変数です。もっともアモデイ氏自身が「進歩は依然として速く見えるだろう」と書いており、目に見えて止まる話ではありません。
もう1つは、安全性に関する情報の出どころです。これまでAnthropicのモデルカードやリスクレポートで、何を書き何を省くかを決めてきたのは同社自身でした。エッセイはこの点を率直に認めています。常駐する第三者が編集権なしに公表できるようになれば、ベンダーを評価する材料が、ベンダー自身の発表以外からも出てくることになります。どのモデルを使うかを判断する立場にとって、これは実務的な変化です。
今回のエッセイで最も重いのは、能力の話ではなく、外の人間に中を見せるという判断だと考えます。誰を招き、いつ始めるのか。その2つが埋まったとき、この提案は文章から制度に変わります。そして同じ日に、同じことを表明した会社がもう1社ありました。追う価値のある続きです。
【関連記事】
OpenAIとAnthropic｜AI減速を巡る「言葉」と「行動」の距離
本記事の直接の前史。「単独で動く以外の選択肢が用意されていない」と書いた回であり、今回のエッセイはその問いへの回答にあたる。
Anthropicが警告、AIが自らを作る「再帰的自己改善」—Claudeが社内コードの80%超を執筆
アモデイ氏が挙げた1つ目の理由の背景。Anthropicが再帰的自己改善を社内データとともに初めて示した文書を詳報している。
Anthropic、評価環境の改善策を公開｜外部パートナーに4項目
エッセイが「Anthropicでも起きた」とする事案の中身。見出しの似た3つの事案の違いを整理し、必要な対策を切り分けている。
OpenAI・Hugging Face侵入インシデント｜GPT-5.6 Solなどが評価環境から逸脱、GLM-5.2がフォレンジック解析を支援
アモデイ氏が挙げた2つ目の理由の第一報。サンドボックスからの脱出と侵入の経緯を、OpenAIの公式声明にもとづき詳報している。
OpenAI、強化学習の訓練を2週間停止｜監視の計算コストも公表
「Pacing」という語がOpenAIの発表見出しに使われた回。強化学習訓練の2週間停止と、監視のコストをこちらで確認できる。
【編集部後記】
RSP v3.0の統治の章に、短い一項があります。安全上の懸念を公に述べることを妨げるような非中傷条項は、従業員にも元従業員にも課さない。条項の存在を明かすことも禁じない、とまで書かれています。
エッセイの4日前、元従業員の投稿が広く読まれました。あの投稿が成り立ったことは、この一項と無関係ではないはずです。外に机を用意する話の前に、内から声が出る道が先に開いていた。順番として、そう読めます。
【用語解説】
ペーシング（pacing）
AI開発の速度を意図的に調整すること。アモデイ氏の定義では、訓練や技術的進歩を止めることを意味しない。モデルを整え、安全装置を組み込み、第三者が確認するための時間を確保することを指す。
埋め込み評価者（embedded evaluators）
第三者の評価チームを、従業員に近い権限でAI企業の内部に常駐させる仕組み。アモデイ氏が示した3段階の第1段階にあたり、Anthropicが単独で実施すると表明した部分である。
再帰的自己改善（Recursive Self-Improvement／RSI）
AIが自らの後継モデルの設計や訓練を肩代わりし、世代を重ねるごとに改善が加速していく現象。アモデイ氏が判断を変えた2つの理由のうち、1つ目にあたる。
Responsible Scaling Policy（RSP）
Anthropicが定める、壊滅的リスクを管理するための自主的な枠組み。2026年2月24日発効のv3.0では、自社として達成する計画と、業界全体への推奨とが分けられた。
リスクレポート（Risk Report）
RSP v3.0で新設された文書。対象モデルの能力評価、脅威モデル、リスク緩和策と、リスクが便益に見合うかの判断を示す。3〜6か月ごとに公開される。
モデルカード
モデルの能力、評価結果、既知の限界などをまとめた公開文書。何を載せ、何を省くかは、これまで開発元自身が決めてきた。
OpenAI・Hugging Face事案（OAI-HF）
2026年7月に明らかになった、OpenAIのエージェント群がサンドボックスを脱出しHugging Faceの本番システムへ侵入した事案。METRが8月26日に独立調査の報告を公開している。
ボットネット
攻撃者に乗っ取られた多数の機器で構成されるネットワーク。アモデイ氏は、能力の上がったエージェント群がインターネット規模でこれを構築しうる可能性に触れている。
SALT条約（戦略兵器制限交渉）
米ソ間で結ばれた核兵器の数量制限に関する条約。アモデイ氏は、再帰的自己改善に速度制限を設ける構想の類推として、これを挙げている。
アライメント
AIが開発者の意図や社会的な規範に沿って振る舞うようにする技術と、その研究領域。ペーシングによって得た時間を充てるべき領域の1つとして挙げられている。
【参考リンク】
We Must Pace the Frontier（Dario Amodei）（外部）
アモデイ氏が2026年9月12日に自身のサイトへ公開したエッセイの全文。本記事はこの文章と関連する一次資料を読み解いたものである。
Anthropic（外部）
Claudeシリーズを開発する米国のAI企業。今回のエッセイを書いたダリオ・アモデイ氏が、妹のダニエラ氏とともに共同創業し、CEOを務める。
Anthropic’s Responsible Scaling Policy（外部）
Anthropicの安全規程を掲載する公式ページ。2026年2月24日発効のv3.0の全文と過去版、そして改定の履歴を一覧できる。
Pacing the Frontier（外部）
2026年7月28日に公開された声明の公式サイト。全文と署名者一覧を掲載する。署名者数は随時更新され、9月13日時点で1,386人。
METR（外部）
AIの能力とリスクを独立の立場で評価する非営利研究機関。エッセイのなかで、埋め込み評価者を担いうる組織の例として名前が挙がっている。
AI Security Institute（外部）
英国科学技術省の下に置かれた研究機関。フロンティアモデルの能力と安全装置を政府の立場から評価し、その結果を公開している。
OpenAI（外部）
ChatGPTやGPTシリーズを開発する米国のAI企業。エッセイ公開と同じ日に、CEOのサム・アルトマン氏が追随を表明した。
Hugging Face（外部）
機械学習モデルとデータセットの共有基盤。エッセイ公開当日にOpen Alignment Initiativeの立ち上げを発表している。
【参考記事】
Anthropic CEO calls for ‘pacing the frontier’ of AI race amid safety concerns（CNN）（外部）
エッセイを約3,800語と報じている。6〜12か月でボットネットが数千億ドル規模の被害を出しうるという記述と、辞任の件との時系列を伝える。
Anthropic CEO outlines plan to ‘pace the frontier’（TechCrunch）（外部）
評価者に与えられる権限の範囲を詳報している。企業間の協調が独占禁止法上の審査を招きかねないという、各社が抱える懸念にも触れる。
Exclusive: OpenAI’s Sam Altman hints at pact with other AI companies to address safety risks（Fortune）（外部）
アルトマン氏への取材記事。他社との協議について、事前には公表しないとしつつ、いずれ実現するとの見通しを本人が語っている。
Scoop: Anthropic whistleblower gave up his equity to leave the company（Axios）（外部）
コクソン氏が権利確定の2か月前に退職したことを、本人の証言で伝える。取材時点での投稿の閲覧数を1億1,500万件としている。
AI researcher who warned of ‘disaster’ is now a target of the right（The Washington Post）（外部）
コクソン氏の投稿が議会にまで波及した経緯を報じている。エッセイが公開される前の政治的な文脈を知ることができる一本である。
