バイデン政権、AI安全性向上へ新研究所設立も資金調達に課題

Last Updated on 2024-09-20 07:14 by 門倉 朋宏

バイデン政権は、エリザベス・ケリーを米国AI安全研究所（USAISI）のディレクターに、エルハム・タバッシを最高技術責任者（CTO）に任命した。この研究所は、国立標準技術研究所（NIST）内に設立され、AIリスク管理フレームワークの開発などを担当する。しかし、NISTの資金調達に関しては不透明な点が残っている。

NISTは、AI技術の評価や監査能力を開発し、AIの安全性、セキュリティ、信頼性のあるシステムの展開を可能にするためのガイドラインを含む様々な指針を策定する責任を負っている。しかし、USAISIの運営や資金源についての詳細はほとんど公開されておらず、NIST自体が資金不足に悩んでいると報告されている。

2023年1月には、上院議員の二党派グループが、2024会計年度の資金提供法案の一環として、USAISIの設立のために1000万ドルの資金提供を上院歳出委員会に要請した。また、12月中旬には、下院科学委員会の両党の議員がNISTに対し、新しい米国AI安全研究所に関連する予定の研究助成金の競争的なプロセスを発表していないことを批判する手紙を送った。

NISTは非党派の機関であり、AI安全性とセキュリティの基準を策定する上で重要な役割を担っている。しかし、USAISIの資金調達は依然として課題である。AI安全研究所コンソーシアムが同時に発表され、AIガバナンス、AI安全性、レッドチーミング、責任あるAI、データドキュメンテーションなどの分野での技術的専門知識を提供する組織を招待している。

【ニュース解説】

バイデン政権が、AI（人工知能）の安全性を高めるための新たな取り組みとして、米国AI安全研究所（USAISI）を国立標準技術研究所（NIST）内に設立し、その指導者としてエリザベス・ケリーをディレクター、エルハム・タバッシを最高技術責任者（CTO）に任命したことが発表されました。この研究所は、AI技術のリスク管理フレームワークの開発や、AI技術の評価・監査能力の向上などを目的としています。しかし、この研究所の運営や資金調達については、まだ多くの不透明な点が残されています。

NISTは、AIの安全性、セキュリティ、信頼性を確保するためのガイドラインや基準を策定する重要な役割を担っていますが、その活動は資金不足に直面しているとされています。特に、USAISIの設立や運営に必要な資金の確保については、上院議員からの資金提供要請や、下院科学委員会からの透明性や研究助成金に関するプロセスの不足を指摘する声が上がっています。

このような状況の中で、NISTとUSAISIの役割は非常に重要です。AI技術は急速に進化しており、その利用が拡大する中で、安全性やセキュリティ、倫理的な問題が大きな関心事となっています。AI技術のリスクを管理し、信頼できるシステムの開発を支援するための基準やガイドラインの策定は、社会全体にとって不可欠です。

しかし、資金不足や透明性の欠如などの課題が解決されなければ、これらの取り組みが十分に機能することは難しいでしょう。資金調達の不透明さは、研究所の活動やAI技術の安全性向上に対する取り組みに影響を与えかねません。また、AI技術の発展に伴うリスクを適切に管理し、社会に安全で信頼できるAI技術を提供するためには、政府、産業界、研究機関などが協力し、透明性のあるプロセスを通じて、共通の基準やガイドラインを策定することが重要です。

このニュースは、AI技術の安全性と信頼性を確保するための取り組みが進められていることを示していますが、同時に、その実現に向けた課題も浮き彫りにしています。資金調達や透明性の確保、産業界や研究機関との連携など、解決すべき問題は多岐にわたりますが、これらの課題を克服し、安全で信頼できるAI技術の発展を支えることが、今後の社会にとって非常に重要です。

from Biden appoints AI Safety Institute leaders as NIST funding concerns linger.