「AIセーフティ」という言葉を、政府自らが看板から下ろす動きが、2025年から2026年にかけて相次いでいます。米国のAI安全性を担う機関は「セーフティ」の文字を外し、英国も同様の選択をしました。偶然の一致ではありません。誰が、どういう理由でこの言葉を退けようとしているのかを追うと、AIガバナンスをめぐる対立の輪郭が見えてきます。
「セーフティ」を外した二つの政府
2025年6月、米国商務省は「AIセーフティ・インスティテュート」（AISI）を「AI基準・イノベーションセンター」（CAISI：Center for AI Standards and Innovation）へと改組しました。
その4か月前、英国も同じ選択をしていました。2025年2月14日、ミュンヘン安全保障会議の壇上で、英国の技術大臣ピーター・カイル氏が「AIセーフティ・インスティテュート」を「AIセキュリティ・インスティテュート」に改称すると発表したのです。
この英国の発表は、米国のジェームズ・デイヴィッド・ヴァンス副大統領がパリのAIアクションサミットで「私は今朝、AIセーフティについて話すためにここに来たのではない。AIの機会について話すために来た」と演説した、わずか3日後のことでした。英国政府はこの改称が米国の圧力によるものではないと公式には否定していますが、開催地が技術会議ではなく安全保障会議だったこと、そして間隔の短さから、両者の連動を指摘する観測筋は少なくありません。
「セーフティは既得権益を守る」という論法の起点
この動きの思想的な土壌は、シリコンバレーの一角にあります。2023年、物理学者ギヨーム・ヴェルドン氏（現Extropic CEO）が匿名アカウントで提唱した「e/acc（effective accelerationism／実効的加速主義）」という考え方です。AI開発は減速させず、あらゆるコストを払ってでも加速させるべきだという立場で、著名な投資家マーク・アンドリーセン氏（a16z）が有力な支持者として知られています。
アンドリーセン氏自身の発言が、この立場の核心をよく示しています。「AIセーフティ運動の大部分は、AIを少数の不透明でブラックボックス的、寡占的、説明責任のない大企業に集中させることに、全力を注いでいる」。つまり「セーフティ」を掲げた規制は、それを満たす体力のある巨大企業だけを生き残らせ、新興企業を締め出すという論法です。
ヴァンス氏のパリ演説にも、同じ論理が流れています。「政治指導者たちが最も積極的な規制を求めるとき、それはしばしばすでに市場で優位に立つ企業からの要請だ。巨大な既存企業がセーフティ規制を求めてきたとき、我々はそれが国民のためなのか、その企業自身の利益のためなのかを問うべきだ」。
ただし、この論法には見過ごせない矛盾があります。2025年3月、AI Action Planへのパブリックコメントで、OpenAI自身がAISIを「単一の効率的な政府窓口」に「再構想」するよう提言していたことが分かっています。「セーフティ規制は既得権益を守る」という主張の名宛人であるはずの巨大AI企業自身が、規制緩和の側から声を上げていたことになります。
英国の論理は米国と同じではない
ここで注意が必要なのは、英国カイル氏の改称理由が、米国のそれとは異なる点です。カイル氏はこう説明しています。「この機関は言論の自由について調べる機関ではない。バイアスや差別が何かを決める機関でもない。彼らは政治家ではない――そうあるべきでもない。彼らは科学者だ」。
つまり英国の論理は「セーフティという語が扱う範囲が広すぎた（バイアス・偏見・言論の自由といった政治的に係争性の高い論点まで含んでいた）ので、化学兵器・生物兵器・サイバー攻撃・犯罪といった実証可能な安全保障リスクに純化する」というものです。同じ演説でカイル氏は「自律的に行動するAIエージェントの兆候が見え始めている」「2025年国際AIセーフティ報告書（ヨシュア・ベンジオ氏主導）が警告する通り、リスクは悪意ある利用だけでなく、モデル自体からも生じうる」とも述べており、エージェント型AIのリスクについてはむしろ強めています。米国が「規制の縮小」を掲げたのに対し、英国は「対象の絞り込み」を掲げた、と整理できます。看板は同じ動きに見えても、動機の中身は一様ではありません。
「セーフティ」の下に流れていた対立
なぜ「セーフティ」という一語がこれほど標的にされたのか。背景には、AIセーフティ政策コミュニティが「効果的利他主義」（EA：effective altruism）と呼ばれる思想運動の人脈・資金と結びついているという批判があります。政治専門メディアPoliticoの記者ブレンダン・ボーデロン氏は、匿名のバイオセキュリティ研究者が「（EA系資金提供者による）本格的な浸透」とワシントンの政策形成を評したと報じています。
AI企業側からもEAへの反発が公然と語られています。OpenAIやAnthropicの競合であるCohereの共同創業者ニック・フロスト氏は、EAの世界観を「自らへの富の大規模な蓄積を道徳的に正当化する哲学に行き着くなら、その世界観は疑うべきだ」と批判しました。「セーフティ」という言葉自体が、実存的リスクを重視する一部の思想集団が規制の主導権を握ることへの警戒感と、切り離せなくなっているのです。
言葉の政治化を知って読む
「セーフティ」という語をめぐるこの17か月の動きを俯瞰すると、少なくとも三つの層が折り重なっていることが見えてきます。シリコンバレーの内部対立（e/acc対EA）、それを取り込んだ米政権の対外的な規制緩和路線、そしてその余波を受けて自国の立ち位置を再定義した英国——同じ「セーフティ」という一語をめぐって、これだけ異なる力学が働いています。
今後、各国政府やAI企業が発表する文書に「セーフティ」「セキュリティ」のどちらの語が使われているかは、単なる訳語の選択ではなく、その組織がどちらの陣営に足場を置いているかを示す小さな手がかりになりそうです。
では、この対立の外側にいるように見える日本のAIセーフティ・インスティテュートは、この17か月に何をしていたのでしょうか。看板を変えなかったことが、確固たる哲学の表れなのか、単に変える圧力がなかっただけなのか——それは、この期間に実際に何が起きたかを見ないと判断できません。
【関連記事】
日本AIセーフティ評価ガイドが16カ月でページ数が1.6倍に｜書き加えられた具体的なリスクと一貫した方針
米英が「セーフティ」の看板を巡って揺れていたこの16カ月、日本のAISIは評価観点ガイドを42ページから66ページへと改訂していました。増えた項目の中身と、その背景にある実際のインシデントを時系列で突き合わせて検証した記事はこちらです。
【編集部後記】
意外だったのは、e/accという言葉が匿名のXアカウントから始まって、わずか1年半ほどで一国の政府機関の名称を変えるところまで届いていたことです。言葉の政治化は、思っていたよりずっと速いスピードで、思っていたよりずっと小さな場所から始まっているのかもしれません。
【用語解説】
e/acc（effective accelerationism／実効的加速主義）
AI開発をあらゆるコストを払ってでも加速すべきだとする思想的立場。2023年に物理学者ギヨーム・ヴェルドン氏が匿名で提唱。
AISI（AI Safety Institute）
各国政府が設置する、フロンティアAIモデルの安全性評価を目的とした機関の総称。2023年11月の英国・米国の設立を皮切りに、日本を含む11の設立国・機関が国際ネットワークを構成。
CAISI（Center for AI Standards and Innovation）
2025年6月、米国のAISIが改組されて発足した機関。商務省内、NIST傘下に位置づけられる。
【参考リンク】
U.S. AI Safety Institute has been renamed the Center for AI Standards and Innovation（SSTI）（外部）
米国商務省によるCAISI改組の経緯と新体制の役割を解説。
Remarks by the Vice President at the AI Action Summit（The American Presidency Project）（外部）
JD・ヴァンス副大統領のパリ演説全文。
Remarks made by Technology Secretary Peter Kyle at the Munich Security Conference（GOV.UK）（外部）
英国AI Security Institute改称の公式発表と大臣演説の全文。
Renaming the US AI Safety Institute Is About Priorities, Not Semantics（TechPolicy.Press）（外部）
CAISI改組を批判的に分析する論考。OpenAIのロビイング内容にも言及。
Inside the E/Acc Movement That’s Speeding Up AI Development（Marketing AI Institute）（外部）
e/acc運動の成り立ちと主要人物の解説。
Artificial intelligence safety institute（Wikipedia）（外部）
世界各国のAI Safety Institute設立・改称の経緯を一覧できる。
