from America’s Big AI Safety Plan Faces a Budget Crunch.
アメリカのAI安全対策計画が予算不足に直面
ジョー・バイデン米国大統領がAIのリスクを抑制するために指名した機関であるNIST（国立標準技術研究所）が、AIシステムのバイアスや潜在的な脅威を検出するための新しい基準を開発するための予算が不足している。議員たちは、NISTが技術開発を進める民間企業に依存せざるを得なくなることを懸念している。
バイデン大統領のAIに関する行政命令は、2024年7月26日の期限までにNISTによるAI安全テストの基準策定を求めているが、NISTの予算は独立してこれを達成するには十分ではないとされている。NISTのエルハム・タバッシ副所長は、この期限が「ほぼ不可能」と述べている。
NISTは2023年に16億ドルの予算を持っており、ホワイトハウスはAIに直接関連しないイニシアチブのために2024年に29%の増額を要求している。しかし、NISTの現在の予算ではAI安全テストの独自の開発には不十分であるという声がある。
議員たちは、NISTが透明性の低い方法で民間企業に依存することに懸念を表明しており、NISTが外部の組織に研究のための助成金や賞を与える意向があると指摘している。また、AIシステムのテストに関する研究は初期段階にあり、AIの安全性に関する専門家間で意見が分かれているとも述べている。
NISTは、AIのリスク管理フレームワークを発表し、AIツールに対する公衆の信頼を測定する方法を考案しているが、AIの最前線にいる企業と比べて資源は少ない。OpenAI、Google、MetaはそれぞれChatGPT、Bard、Llama 2などのアプリケーションを支える強力な言語モデルの訓練に1億ドル以上を費やしている可能性がある。
ホワイトハウスの行政命令は、NISTにAIの安全性を支援するための新しい人工知能安全研究所の設立など、複数の任務を課している。また、イギリスではAI安全に焦点を当てたタスクフォースが発表され、1億2600万ドルのシード資金を受け取ることになっている。
NISTが大手テック企業とどのように関わっているかは明らかではないが、行政命令の発表前に行われたNISTのリスク管理フレームワークに関する議論には、MicrosoftやAnthropic、Partnership on AI、Future of Life Instituteなどが参加していた。
