Last Updated on 2023-12-19 10:54 by admin
from OpenAI announces ‘Preparedness Framework’ to track and mitigate AI risks.
OpenAIは、「Preparedness Framework」と呼ばれるAIリスクを追跡し軽減するためのプロセスとツールのセットを発表しました。このフレームワークは、より強力なAIモデルの潜在的な危険を監視し管理するためのものであり、具体的にはサイバー攻撃や大規模説得、自律兵器などのリスクに対処することを目指しています。このフレームワークは、AIモデルのリスクを測定し追跡するためのリスク「スコアカード」の使用や、データ駆動の評価と予測の重要性を強調しており、OpenAIはこのフレームワークを継続的に改善し、AIコミュニティと共有すると述べています。また、この発表は、OpenAIのライバルであるAnthropicが最近公開した「Responsible Scaling Policy」との対比も行われており、両者のアプローチにはそれぞれの利点と欠点があるとされています。
