米国、AI安全研究所設立へ1000万ドル投資：シューマー発表

Last Updated on 2024-06-12 16:07 by 門倉 朋宏

米国上院多数党院内総務チャック・シューマーは、国立標準技術研究所（NIST）が最大1000万ドルを受け取り、米国人工知能安全研究所（USAISI）を設立すると発表した。この研究所は2023年11月に設立され、人工知能（AI）の大統領令の下で商務省に割り当てられた責任を支援する目的がある。NISTは約3400人のスタッフと年間約16億ドルの予算を持つが、資金不足に直面しているとされる。

シューマーは、この資金提供をバイデンのAIに関する大統領令の実施に向けた「強力な前払い」と表現した。NIST AI研究所は、AIモデルの安全性、セキュリティ、およびテストの基準の開発、AI生成コンテンツの認証基準の開発、および研究者が新たなAIリスクを評価するためのテスト環境の提供を促進する。AI安全研究所は、研究開発およびテストと評価を含む活動を改善するために、200社以上の企業および組織からなるコンソーシアムと協力している。

NISTの資金不足と透明性の欠如に関する批判がある。特に、NISTとRAND Corporationとの計画されたAI研究パートナーシップについて、透明性の欠如と競争的な研究助成金のプロセスの発表がないことが懸念されている。

【ニュース解説】

米国上院多数党院内総務チャック・シューマーが、国立標準技術研究所（NIST）に最大1000万ドルの資金提供を発表しました。この資金は、2023年11月に設立された米国人工知能安全研究所（USAISI）の設立に充てられることになります。USAISIは、バイデン大統領のAIに関する大統領令の下で商務省に割り当てられた責任を支援する目的で設立されました。NISTは約3400人のスタッフと年間約16億ドルの予算を持ちますが、資金不足に直面しているとされています。

この資金提供は、AIの安全性、セキュリティ、およびテストの基準の開発、AI生成コンテンツの認証基準の開発、新たなAIリスクを評価するためのテスト環境の提供など、AI技術の安全な展開を促進するための重要なステップとされています。また、200社以上の企業および組織からなるコンソーシアムと協力し、AIシステムの安全性と説明責任を向上させることを目指しています。

しかし、NISTの資金不足と透明性の欠如に関する批判も存在します。特に、NISTとRAND CorporationとのAI研究パートナーシップに関して、透明性の欠如と競争的な研究助成金のプロセスの発表がないことが懸念されています。

この動きは、AI技術の発展における安全性と信頼性の確保に向けた大きな一歩であり、AI技術の責任ある使用とイノベーションのバランスを取るための政府の役割を強調しています。しかし、資金提供の実施と透明性の確保には、引き続き注意が必要です。AI技術の急速な進化に伴い、安全性や倫理的な問題に対処するための基準やガイドラインの開発は、社会全体にとって重要な課題となっています。また、このような取り組みが、AI技術のポジティブな側面を最大限に活用しつつ、潜在的なリスクを最小限に抑えるための基盤となることが期待されます。

from As NIST funding challenges persist, Schumer announces $10 million for its AI Safety Institute.