Last Updated on 2024-06-06 15:46 by TaTsu
OpenAIの現役および元従業員が、人工知能（AI）業界の急速な進歩に対する監視の欠如と、意見を述べたい人々のための内部告発者保護の不足について懸念を表明する公開書簡を発表した。彼らは、AI企業が効果的な監視を避ける強い財政的インセンティブを持っており、企業ガバナンスの特別な構造だけではこれを変えるには不十分であると述べている。OpenAI、Google、Microsoft、Metaなどの企業は、1兆ドルを超える市場規模が予測される生成AIの競争をリードしている。これらの企業は、競合他社に取り残されないように、AI駆動のチャットボットやエージェントを追加することに急いでいる。
公開書簡では、AI企業がその技術の能力、安全対策の範囲、および異なる種類の害に対する技術のリスクレベルに関する「大量の非公開情報」を持っていると指摘されている。従業員は、これらの企業が政府と民間社会の両方とこの情報を共有する義務が弱いこと、また自発的に共有することを信頼できないと述べている。
また、AI業界における内部告発者保護の不足についても懸念を表明し、効果的な政府の監視がなければ、従業員が企業を説明責任を持たせる独特の立場にあると指摘している。広範な機密保持契約が、問題を提起することを妨げ、通常の内部告発者保護は違法行為に焦点を当てているため、規制されていない多くのリスクに対処するには不十分であると述べている。
書簡では、AI企業に対し、非難契約の締結や執行を避けること、現役および元従業員が会社の取締役会、規制当局などに匿名で懸念を伝えるプロセスを作成すること、オープンな批判の文化を支持すること、内部報告プロセスが失敗した場合の公開内部告発に対する報復を行わないことを約束するよう求めている。
OpenAIのスポークスパーソンは、この技術の重要性を考えると厳格な議論が重要であり、世界中の政府、市民社会、その他のコミュニティとの関与を続けるとCNBCに対して述べた。また、同社は匿名の整合性ホットラインと、取締役会およびOpenAIリーダーによって率いられる安全保障委員会を持っていると付け加えた。Microsoftはコメントを控えた。
【編集者追記】用語解説
- OpenAI：
サム・アルトマンらが2015年に設立した非営利のAI研究機関。ChatGPTなどの対話AIで知られる。2019年に営利企業OpenAI LLCに移行。 - Google DeepMind：
2010年に設立され、2014年にGoogleに買収されたAI企業。囲碁AI「AlphaGo」などで著名。
【参考リンク】
OpenAI（外部）
【関連記事】
AI（人工知能）ニュースをinnovaTopiaでもっと読む
【ニュース解説】
OpenAIの現役および元従業員が、人工知能（AI）業界の急速な進歩に対して、監視の欠如と内部告発者保護の不足について懸念を表明する公開書簡を発表しました。この書簡は、AI企業が効果的な監視を避ける強い財政的インセンティブを持っており、企業ガバナンスの特別な構造だけではこれを変えるには不十分であると指摘しています。OpenAI、Google、Microsoft、Metaなどの企業が、1兆ドルを超える市場規模が予測される生成AIの競争をリードしていることが背景にあります。
公開書簡では、AI企業がその技術の能力、安全対策の範囲、および異なる種類の害に対する技術のリスクレベルに関する大量の非公開情報を持っていることが指摘されています。これらの企業が政府や民間社会とこの情報を共有する義務が弱く、自発的に共有することを信頼できないという問題があります。
また、AI業界における内部告発者保護の不足についても懸念が表明されています。広範な機密保持契約が、問題を提起することを妨げており、通常の内部告発者保護は違法行為に焦点を当てているため、規制されていない多くのリスクに対処するには不十分であると述べられています。
この状況は、AI技術の急速な進歩とその社会への影響を考えると、非常に重要な問題です。AI技術は、医療、交通、教育など、私たちの生活のあらゆる面に革命をもたらす可能性がありますが、同時にプライバシーの侵害、偏見の増大、雇用の不安定化など、多くのリスクも伴います。効果的な監視と適切な内部告発者保護がなければ、これらのリスクを適切に管理し、AI技術のポジティブな側面を最大限に活用することは困難です。
この公開書簡は、AI企業に対して、非難契約の締結や執行を避けること、匿名で懸念を伝えるプロセスを作成すること、オープンな批判の文化を支持すること、内部報告プロセスが失敗した場合の公開内部告発に対する報復を行わないことを約束するよう求めています。これらの要求は、AI技術の健全な発展と社会への貢献を確保するために、非常に重要なステップです。
長期的には、この公開書簡がAI業界における監視と内部告発者保護の強化に向けた議論を促進し、より安全で公正なAI技術の開発と利用につながることが期待されます。AI技術の進歩は止まることなく、その影響はますます大きくなっています。そのため、今こそ、AI技術の進歩を適切に管理し、その利益を最大化しつつリスクを最小限に抑えるための具体的な行動を取る時です。
from Current and former OpenAI employees warn of AI’s ‘serious risk’ and lack of oversight.
