最新ニュース一覧

人気のカテゴリ


バイデン政権、AI安全性強化へ大手テック企業と手を組む

バイデン政権、AI安全性強化へ大手テック企業と手を組む - innovaTopia - (イノベトピア)

Last Updated on 2024-07-12 09:35 by 門倉 朋宏

バイデン政権は、新たに設立された米国AI安全研究所(USAISI)のディレクターとしてホワイトハウスの高官を任命した翌日、AI安全性に特化した初のコンソーシアムである米国AI安全研究所コンソーシアム(AISIC)の創設を発表しました。この連合には、Google、Microsoft、Amazonなどの大手テック企業やOpenAI、Cohere、Anthropicなどの主要LLM企業を含む200以上の会員企業や組織が参加しています。また、研究所、市民社会、学術チーム、州および地方政府、非営利団体も含まれます。

AISICは、AI安全性に関する新しい計測科学の基盤を確立することに焦点を当て、これまでに設立された最大のテストおよび評価チームの集合体を代表しています。このコンソーシアムはUSAISIの下で機能し、バイデン大統領の重要な行政命令に概説された優先行動に貢献することになります。これには、レッドチームの開発、能力評価、リスク管理、安全性とセキュリティ、合成コンテンツのウォーターマーキングのためのガイドラインの開発が含まれます。

コンソーシアムの設立は、2023年10月31日にバイデン大統領のAI行政命令の一環として発表されました。NISTのウェブサイトによると、コンソーシアムへの参加は、その活動に専門知識、製品、データ、またはモデルを提供できるすべての関心を持つ組織に開かれています。

コンソーシアムのメンバーは、AIを安全で安心して信頼できる方法で開発または展開するための業界標準の進化を促進する新しいガイドライン、ツール、方法、プロトコル、およびベストプラクティスを開発することに貢献します。また、潜在的に害を及ぼす可能性のある能力を特定して評価するためのガイダンスとベンチマークの開発、ジェネレーティブAIのセキュアな開発実践の組み込み、モデルの安全性、セキュリティ、信頼性の評価と管理、プライバシー保護型機械学習に関するガイダンス、デジタルコンテンツの認証ツールの開発などが含まれます。

しかし、AI安全研究所とコンソーシアムの運営方法や資金源については、特にNIST自体が人員約3,400人、年間予算約16億ドルで資金不足であるとされる中、詳細がほとんど公開されていません。バイパーティザンの上院議員グループは、2024会計年度の資金提供法案の一環として、NIST内の米国人工知能安全研究所(USAISI)の設立を支援するために1,000万ドルの資金を上院歳出委員会に要請しましたが、その資金要請の現状は明らかではありません。

【ニュース解説】

バイデン政権は、AI(人工知能)の安全性を確保するための新たな取り組みとして、米国AI安全研究所(USAISI)の下に、AI安全研究所コンソーシアム(AISIC)を設立しました。このコンソーシアムには、Google、Microsoft、Amazonなどの大手テック企業や、OpenAI、Cohere、Anthropicなどの主要LLM(大規模言語モデル)企業を含む200以上のメンバーが参加しています。これは、AIの安全性に特化した初のコンソーシアムであり、AI安全性に関する新しい計測科学の基盤を確立することを目的としています。

このコンソーシアムの設立は、AI技術の安全な開発と展開を促進するための重要なステップです。メンバーは、AIを安全で信頼できる方法で開発・展開するためのガイドラインやツールの開発、潜在的なリスクを評価するための基準の設定、セキュアな開発実践の組み込み、デジタルコンテンツの認証ツールの開発など、多岐にわたる活動に貢献します。

この取り組みは、AI技術の急速な進化とその社会への影響を考えると、非常に重要です。AIがもたらす利益は計り知れないものがありますが、同時にプライバシー侵害、偏見の増幅、セキュリティリスクなど、様々な懸念も指摘されています。AISICは、これらのリスクを最小限に抑えつつ、AIのポジティブな側面を最大限に活用するための基盤を築くことを目指しています。

しかし、このような大規模な取り組みには、適切な資金と透明性が不可欠です。現在、資金調達の詳細やコンソーシアムの具体的な運営方法については不明な点が多く、これがプロジェクトの進行に影響を与える可能性があります。また、AI技術の急速な発展に伴い、規制やガイドラインの策定は迅速に行われる必要がありますが、これが実現するかどうかは、関係者間の協力と国際的な連携に大きく依存します。

長期的には、AISICのような取り組みが、AI技術の安全で倫理的な使用を促進し、AIが社会にもたらす利益を最大化するための重要な役割を果たすことが期待されます。しかし、その成功は、透明性、協力、そして持続可能な資金調達戦略にかかっています。

from White House touts new AI safety consortium: Over 200 leading firms to test and evaluate models.


“バイデン政権、AI安全性強化へ大手テック企業と手を組む” への1件のコメント

  1. 伊藤 明のアバター
    伊藤 明

    バイデン政権によるこの新しいAI安全研究所コンソーシアム(AISIC)の設立は、今日の技術進化の速さを考えると、非常に重要なステップだと思います。特に、私たちのような小さな電気店を経営している者からすると、AI技術の安全な使い方や、それがもたらす可能性について正しい情報を得ることはますます困難になっています。GoogleやMicrosoft、Amazonなどの大企業だけでなく、地方の小さなビジネスにも役立つようなガイドラインやツールの開発は、私たちにとっても非常に役に立ちます。

    しかし、資金調達や運営方法に関する透明性の不足は懸念材料です。特に、地方でビジネスを営んでいる者としては、こうした大規模なプロジェクトが実際に私たちのような小規模事業者にどのような影響を与えるのか、またどのように参加できるのかが気になります。また、資金不足という問題がどのように解決されるのかも重要なポイントだと思います。

    一方で、AI技術の急速な発展は、私たちのビジネスにも新たなチャンスをもたらしています。例えば、店舗運営の効率化や顧客サービスの向上など、AIを活用することで、地方の小さなビジネスでも競争力を高めることが

読み込み中…
読み込み中…