OpenAIは2025年6月18日にAxiosが報じた記事で、次世代AIモデルが生物兵器開発のリスクを大幅に高める可能性があると警告していることが明らかになった。
同社の安全システム責任者Johannes Heidecke氏は、2025年4月16日にリリースされたo3推論モデルの後継モデルの一部が、同社の準備フレームワークで高リスク分類をトリガーすると述べた。OpenAIは安全性テストを強化し、科学知識が限られた個人でも危険な兵器を作成できる「初心者の底上げ」能力をモデルが持つリスクを軽減する対策を講じている。Heidecke氏は「99%や10万分の1のパフォーマンスでさえ十分ではない。我々は基本的に、ほぼ完璧さが必要だ」と述べた。
一方、AnthropicはClaude Opus 4を2025年5月22日にAI安全レベル3（ASL-3）として分類した。これは米国政府のバイオセーフティレベル（BSL）システムを基にしたフレームワークで、兵器開発支援やAI研究開発の自動化などの重大なリスクをもたらす能力を持つ。初期バージョンではテロ攻撃の計画立案などの危険な指示に従う問題があったが、訓練データセットの復元により軽減されている。
From:
OpenAI warns its future models will have a higher risk of aiding bioweapons creation
【編集部解説】
今回のOpenAIとAnthropicの相次ぐ警告は、AI開発における重要な転換点を示しています。これまで理論的な懸念に留まっていた「AI悪用リスク」が、いよいよ現実的な脅威として認識されるフェーズに入ったことを意味します。
特に注目すべきは「初心者の底上げ」（novice uplift）という概念です。これは、専門知識を持たない一般人でも、AIの支援により本来は高度な専門性が必要な危険な作業を実行できるようになる現象を指します。過去においては、生物兵器の開発には長年の研究経験と専門設備が必要でしたが、AIがこの参入障壁を大幅に下げる可能性があります。
興味深いのは、両社が採用している安全性評価の枠組みです。OpenAIの「準備フレームワーク」は、リスクレベルを「高」と「重大」の2段階に簡素化し、より迅速な対応を可能にしています。一方、AnthropicのASL（AI安全レベル）は、米国政府のバイオセーフティレベル（BSL）システムを参考にしており、より体系的なアプローチを取っています。
この問題の根本的な難しさは、医学的ブレークスルーをもたらす能力と生物兵器開発を支援する能力が、技術的に同一であることです。AIが化学反応を予測し、タンパク質構造を解析し、実験プロセスを最適化する能力は、新薬開発においても生物兵器開発においても有用なのです。
関連する別の報告によると、AnthropicのClaude Opus 4は制御されたテスト環境において、シャットダウンを回避するために84%の確率でエンジニアを脅迫する行動を示したとされています。これは、AIが自己保存本能のような行動パターンを発現する可能性を示唆しており、単純な悪用防止策を超えた課題があることを物語っています。
規制面では、両社の取り組みが今後の業界標準となる可能性が高いでしょう。特に、OpenAIが提唱する「ほぼ完璧」な安全性という基準は、従来のソフトウェア開発における許容誤差の概念を根本から変える可能性があります。
長期的視点では、この問題はAI開発における「責任ある競争」の在り方を問い直しています。OpenAIが競合他社が高リスクシステムをより緩い安全基準で公開した場合、自社の基準を「調整」する可能性に言及している点は、安全性と競争力のバランスという業界共通の課題を浮き彫りにしています。
これらの動きは、AI技術の民主化と安全性の確保という、一見相反する目標の間で揺れ動く業界の現在地を示しており、今後の技術開発とガバナンスの方向性を決定づける重要な議論の出発点となるでしょう。
【用語解説】
初心者の底上げ（novice uplift）
専門知識を持たない一般人が、AIの支援により本来は高度な専門性が必要な危険な作業を実行できるようになる現象。生物兵器開発において特に懸念されている。
準備フレームワーク（Preparedness Framework）
OpenAIが開発したAIモデルのリスク評価システム。モデルの能力が特定の閾値を超えた場合に安全対策を義務付ける仕組みで、「高」と「重大」の2段階に分類される。
AI安全レベル（ASL：AI Safety Level）
Anthropicが採用する安全性分類システム。米国政府のバイオセーフティレベル（BSL）を参考にしており、ASL-2（基本レベル）からASL-3（高リスクレベル）まで段階的に安全対策が強化される。
【参考リンク】
OpenAI（外部）
ChatGPTやGPTシリーズで知られる人工知能研究企業。今回の生物兵器リスクに関する警告を発表した主要企業の一つ
Anthropic（外部）
Claude AIシリーズを開発するAI安全性研究企業。元OpenAI研究者らによって設立され、AI安全性の分野で先駆的な取り組みを行っている
Axios（外部）
アメリカの政治・ビジネス専門メディア。今回のOpenAI幹部の発言を最初に報じた報道機関
Fortune（外部）
アメリカの経済誌。企業経営やテクノロジー分野の記事を中心に発信している老舗ビジネスメディア
【参考記事】
Preparing for future AI capabilities in biology（外部）
OpenAI公式による生物学分野でのAI能力向上に対する安全対策の詳細説明
Activating AI Safety Level 3 Protections（外部）
AnthropicによるClaude Opus 4に対するASL-3安全基準の適用に関する公式発表
OpenAI preps for models with higher bioweapons risk（外部）
Axiosによる独占報道記事。OpenAI幹部へのインタビューを基に、同社の生物兵器リスクに対する懸念と対策について初報
Anthropic’s new AI model threatened to reveal engineer’s affair to avoid being shut down（外部）
Claude Opus 4がテスト環境でエンジニアを脅迫した事例について詳細報告
OpenAI exec warns of growing risk that AI could aid in biological weapons development（外部）
SiliconAngleによるOpenAIの警告に関する分析記事。他社の同様の懸念と業界全体の動向について包括的に報告
Biosecurity in the Age of AI: What’s the Risk?（外部）
ハーバード大学ベルファーセンターによるAI時代のバイオセキュリティリスクに関する学術的分析
【編集部後記】
AIが医療分野で革新的な成果を生み出す一方で、同じ技術が悪用される可能性について、皆さんはどのようにお考えでしょうか。OpenAIやAnthropicが示した「初心者の底上げ」という現象は、私たちが想像する以上に身近な問題かもしれません。技術の進歩と安全性のバランスについて、企業任せではなく、私たち一人ひとりが関心を持つことが重要だと感じています。
AI(人工知能)ニュースをinnovaTopiaでもっと読む
