ニューヨーク州議会は木曜日、AI災害防止を目的とするRAISE法（責任あるAI安全性・教育法）を可決した。同法案は現在キャシー・ホークル州知事の署名を待っている状況である。

RAISE法は、OpenAI、Google、Anthropicなど1億ドル以上のコンピューティングリソースを使用してAIモデルを訓練し、ニューヨーク州住民に提供する大手AI企業を対象とする。対象企業は最先端AIモデルの安全性・セキュリティ報告書の公表、72時間以内の安全性インシデント報告が義務付けられ、違反時は最大3000万ドルの民事制裁金が科される。

同法案は100人以上の死傷者または10億ドル以上の損害を伴う災害シナリオの防止を目指している。法案の共同提案者はアンドリュー・グナルデス州上院議員で、ノーベル賞受賞者のジェフリー・ヒントン氏やAI研究の先駆者ヨシュア・ベンジオ氏などの安全性擁護者らが支持している。成立すれば米国初の最先端AI研究所に対する法的拘束力のある透明性基準となる。同法案には内部告発者保護の条項も含まれており、AIシステムの安全性に関する懸念を報告する従業員を法的に保護する。

From:
New York passes a bill to prevent AI-fueled disasters

【編集部解説】

ニューヨーク州のRAISE法可決は、AI規制の歴史において極めて重要な転換点となります。これまで連邦レベルでの包括的なAI規制が進まない中、州レベルでの先駆的な取り組みが始まったからです。

カリフォルニア州のSB 1047が拒否権を行使されたことで、AI安全規制の議論は一時停滞していました。しかし、ニューヨーク州は異なるアプローチを採用しています。SB 1047が幅広い企業を対象としていたのに対し、RAISE法は1億ドル以上の計算資源を使用する大手企業のみに焦点を絞っています。

この戦略的な違いが重要な意味を持ちます。スタートアップや学術研究機関への影響を最小限に抑えながら、真に影響力の大きい企業に責任を求める設計となっているのです。これにより、イノベーションを阻害するという批判を回避しつつ、実効性のある規制を実現しようとしています。

注目すべきは、この法案が単なる透明性の向上にとどまらない点です。72時間以内のインシデント報告義務や最大3000万ドルの制裁金は、企業の行動変容を促す強力なインセンティブとなります。これまで自主的な取り組みに依存していたAI安全対策が、法的拘束力を持つ仕組みへと変化するのです。

国際的な視点から見ると、この動きは他国のAI規制にも影響を与える可能性があります。EUのAI法に続く形で、アメリカでも具体的な規制枠組みが形成されつつあることを示しており、グローバルなAIガバナンスの標準化に向けた重要な一歩となるでしょう。

企業側の対応も興味深い展開を見せています。シリコンバレーからの反対がある一方で、多くの大手AI企業は既に自主的な安全対策を実施しており、法制化による影響は限定的との見方もあります。むしろ、明確なルールが定められることで、競争環境の公平性が保たれる可能性もあるのです。

長期的には、この法案がAI開発の方向性そのものを変える可能性があります。安全性を後付けで考えるのではなく、開発段階から組み込む「セーフティ・バイ・デザイン」の考え方が標準となることで、より信頼性の高いAIシステムの実現が期待されます。

【用語解説】

RAISE法（Responsible AI Safety and Education Act）
責任あるAI安全性・教育法の略称。ニューヨーク州が可決したAI規制法案で、最先端AIモデルの安全性確保を目的とする。1億ドル以上の計算資源を使用する大手AI企業に透明性と安全性報告を義務付ける。

SB 1047
カリフォルニア州で提案されたAI安全法案。最終的に州知事により拒否権が行使された。RAISE法はこの法案の教訓を活かし、より実用的なアプローチを採用している。

内部告発者保護
AIシステムの安全性に関する懸念を報告する従業員を、報復から法的に保護する仕組み。近年、大手AI企業からの退職者が安全性への懸念を公表する事例が増加している。

【参考リンク】

OpenAI（外部）ChatGPTやGPT-4を開発するAI研究企業。人工知能の安全で有益な開発を目指している

Google AI（外部）Googleの人工知能研究部門。機械学習や自然言語処理の分野で研究開発を行っている

Anthropic（外部）AI安全性研究企業。安全で信頼性の高いAIシステムの開発を目指している

【参考記事】

Assembly Passes RAISE Act to Put Vital Safety Standards in Place（外部）ニューヨーク州下院の公式発表。RAISE法可決の詳細と議員のコメントを掲載

Opinion: The time for smart, responsible AI regulation is now（外部）RAISE法の必要性と意義について詳しく解説した意見記事

The RAISE Act: New York Enters the AI Safety Debate（外部）RAISE法の法的側面と規制対象について専門的に分析した記事

New York’s RAISE Act: Pioneering AI Safety Through Transparency（外部）RAISE法の透明性要件とAI業界への影響について詳細に解説

Crucial AI Safety: New York Passes Landmark Bill Targeting Frontier AI Labs（外部）暗号通貨・ブロックチェーン業界の視点からRAISE法の意義を分析

【編集部後記】

ニューヨーク州のRAISE法可決は、私たちが日常的に使用するAIサービスの未来を大きく左右する出来事です。透明性の確保と安全性の向上、そしてイノベーションの継続という難しいバランスを、どのように取っていけばよいのでしょうか。

皆さんは普段ChatGPTやClaude、Geminiなどを使われていると思いますが、これらのサービスが今後どのように変化していくと予想されますか？また、AI企業に求める透明性と、私たち利用者が享受したい利便性のバランスについて、どのようにお考えでしょうか？

AI(人工知能)ニュースをinnovaTopiaでもっと読む

テクノロジーと社会ニュースをinnovaTopiaでもっと読む