Last Updated on 2024-08-30 07:18 by admin
OpenAIとAnthropicは、2024年8月28日、米国政府に対して自社の大規模言語モデル（LLM）を安全性評価のために提供することに同意した。この合意は、バイデン政権が2023年10月に発表した人工知能（AI）に関する大統領令の一環として行われた。
評価の対象となるのは、OpenAIのGPT-4とAnthropicのClaude 2.1である。これらのモデルは、国立標準技術研究所（NIST）が開発した評価フレームワークに基づいて、商務省の国家通信情報局（NTIA）によってテストされる。
評価の目的は、AIシステムの安全性、セキュリティ、信頼性を確保することである。具体的には、生物兵器の設計や核物質の取り扱いなど、危険な情報へのアクセスや生成を防ぐことが含まれる。
この取り組みには、Google、Microsoft、Meta、Amazonなど、他の主要AI企業も参加する予定である。評価結果は2024年12月までに公開される見込みで、AIモデルの潜在的なリスクと、それらを軽減するための方法について詳細な情報が提供される。
from:OpenAI and Anthropic agree to send models to US government for safety evaluations
【編集部解説】
OpenAIとAnthropicが米国政府のAI安全性評価に協力することを決定しましたが、この動きは人工知能の発展と規制のバランスを探る重要な一歩と言えるでしょう。
まず、この協力体制の背景には、急速に進化するAI技術に対する社会の懸念があります。AIの潜在的なリスクや倫理的問題に対処するため、政府と企業が協力して安全性を確保しようとする姿勢が見られます。
特筆すべきは、この評価が新モデルの公開前に行われる点です。これにより、潜在的な問題を事前に特定し、対策を講じることが可能になります。例えば、バイアスの検出や有害なコンテンツの生成防止など、社会的影響の大きい課題に取り組むことができるでしょう。
一方で、この取り組みには課題もあります。政府の関与が強まることで、イノベーションが抑制されるのではないかという懸念もあります。また、評価基準の設定や、評価結果の解釈と活用方法など、具体的な実施面での課題も残されています。
長期的な視点で見ると、この取り組みはAI技術の社会実装を加速させる可能性があります。安全性が確保されることで、より多くの分野でAIの活用が進み、社会全体の効率化や新たな価値創造につながるかもしれません。
しかし、技術の進歩のスピードを考えると、評価基準や方法を常に更新していく必要があります。また、国際的な協調も重要になってくるでしょう。米国の取り組みが、グローバルなAI安全性基準の確立にどのようにつながっていくのか、注目される点です。