AI軍事利用の「オッペンハイマー・モーメント」到来：国連会議でマイクロソフトなどテック企業も規制強化を議論

2025年4月9日16:16

テクノロジーと社会ニュース

Last Updated on 2025-04-09 16:16 by admin

ジュネーブの澄んだ春の光が国連本部に差し込む中、世界は静かに新たな技術的閾値を越えつつある。

「推論」と「自律」という言葉が単なる技術用語から、人類の存亡に関わる戦略的概念へと変容する瞬間だ。スイスの外交都市に集った軍縮専門家とテック企業幹部たちは、かつてオッペンハイマーが原爆開発後に直面した倫理的断層を、今度はAIの文脈で再考しようとしている。レプリケーター計画が加速し、ラベンダーシステムが実戦投入される時代に、人間の判断を介さない致死性決定のアルゴリズムは、もはや遠い未来の脅威ではない。国連軍縮研究所（UNIDIR）主催の「AIセキュリティと倫理に関するグローバル会議」は、デジタル時代の新たな軍拡競争が静かに、しかし確実に始まっていることを世界に知らしめた。

2025年3月27日～28日、国連軍縮研究所（UNIDIR）主催の「AIセキュリティと倫理に関するグローバル会議」がスイス・ジュネーブの国連で開催された。この会議では、人工知能（AI）の軍事利用に関する規制や倫理的問題について議論が行われた。

UNIDIRの共同副所長ゴシア・ロイ氏は、AIの開発競争のペースを落とし、特に軍事利用において人権、国際法、倫理を尊重する監視体制の必要性を強調した。会議では、AIの「オッペンハイマー・モーメント」と呼ばれる転換点に世界が差し掛かっていることが指摘された。

会議には、マイクロソフト、Advai、Comand AI、Mozilla、ステレンボッシュ大学などの企業や学術機関の代表者が参加した。ロンドンを拠点とするAdvaiのCEOデイビッド・サリー氏は、現在のAIシステムの脆弱性を指摘し、規制の必要性を訴えた。マイクロソフトのデジタル外交担当ディレクター、マイケル・カリミアン氏は、同社が安全性、セキュリティ、包括性、公平性、説明責任の原則に焦点を当てていると述べた。

国際電気通信連合（ITU）の戦略計画責任者兼事務総長特別顧問のスリナ・ヌル・アブドゥラ氏は、AI開発のスピードが規制能力を上回っていることを警告した。国連人権高等弁務官事務所（OHCHR）の開発権部門ディレクター、ペギー・ヒックス氏は、生死の決定は人間が行うべきだと主張。

また、2013年に人権専門家クリストフ・ヘインズ氏が致死性自律型ロボット（LARs）に関する報告書で警告した「人間をループから外すことは、人間性をループから外すリスクもある」という言葉が再び注目。

会議には中国、オランダ、パキスタン、フランス、イタリア、韓国の外交官も参加し、国家間の信頼構築について議論が行われた。中国の特命全権大使（軍縮）兼常駐代表代理のシェン・ジャン氏は、ハイテク技術の輸出管理における国家安全保障の基準を定義する必要性を訴えた。

from AI’s ‘Oppenheimer moment’: Why new thinking is needed on disarmament

【編集部解説】

この会議が2025年4月に注目を集めた背景には、AI技術が「兵器開発のパラダイム転換期」に突入した現実があります。特に米国防総省が推進する「レプリケーター計画」は、2025年度予算で5億ドルを計上し、2025年までに数千機の自律型無人システムを実戦配備する方針を明確にしています。この計画は中国の軍事力に対抗する目的で進められており、軍事AIの急速な実用化を物語っています。

軍事AIの核心的課題は「意思決定の自動化」にあります。イスラエル軍がガザで運用した「ラベンダー」システムは、AIが生成した攻撃リストを用いて標的を特定するもので、複数の報道によれば約10%の誤認率にもかかわらず実戦で活用されています。この事実は、AIの判断が「客観性の仮面」を被って人道危機を招く危険性を露呈しています。

技術と倫理の乖離が顕著になる中、国連のグテレス事務総長は「地政学的緊張や不信によって、核戦争のリスクが過去数十年で最高レベルにまで悪化している」（2024年4月）と警告し、地政学的緊張が技術開発を駆動する構造を問題視しています。特に注目すべきは、民間企業の役割変容です。大手IT企業が軍事技術開発への参画を拡大する動きは、AI開発における「二重使用性ジレンマ」の典型例と言えます。

日本政府は2024年7月に「防衛省AI活用推進基本方針」を発表し、安全保障領域におけるAI活用の方向性を示しました。同方針では人間中心のAI利用を強調していますが、防衛省の2025年度予算では無人システム関連予算が大幅に増加しています。陸上自衛隊の攻撃用無人機導入に32億円、海上自衛隊の垂直離着陸型無人機に40億円が計上されるなど、技術的閾値の曖昧さが露呈しています。この状況は、AI軍拡抑制の難しさを象徴しています。

根本的課題は、AIが「指紋のない兵器」である点にあります。核実験なら物理的痕跡を検知できるが、AIアルゴリズムの改変は検知が困難です。2024年9月に韓国で開催された第2回REAIMサミットで採択された「行動の青写真」は、AI技術が人権や国際法を侵害しない形で使用されるためのガイドラインを示しましたが、法的拘束力を持たない。この現実は、国際規範形成の限界を示唆しています。

技術進化が倫理議論を置き去りにする「オッペンハイマー・モーメント」は、AI軍事利用においてすでに到来しています。量子コンピューティングとAIの融合という次の技術革命が進行中であり、これらの技術が軍事転用された場合の影響についても、国際社会は真剣に議論を始める必要があります。