オーストラリアの新しいオンライン安全基準が、AIによるオンラインの安全保護を難しくするとテクノロジー企業が主張しています。これらの基準は、特に子供の安全を目的とした2つの義務的な基準の下で、子供への虐待やテロ資材の検出と削除を技術的に可能な範囲で行うことを提案しています。対象となる技術には、ウェブサイト、クラウドストレージサービス、テキストメッセージ、チャットアプリ、高影響の生成AIサービス、オープンソースの機械学習モデルが含まれます。
WeProtect Global Allianceなどの非営利団体は、オープンソースAIが既に子供への虐待資料やディープフェイクの生成に使用されていると指摘し、提案された基準が適切なプラットフォームとサービスを対象としていると述べています。しかし、Microsoft、Meta、Stability AIなどのテクノロジー企業は、これらの基準がAIの安全モデルの有効性を制限する可能性があると警告しています。特に、AIが子供への虐待やテロ資材を検出し、フラグを立てるためには、そのようなコンテンツにさらされ、リスクを評価し軽減するプロセスが必要であるとMicrosoftは指摘しています。
一方で、eSafetyコミッショナーのJulie Inman Grantは、基準が業界に暗号化の破壊や弱体化、テキストの監視、大量の個人データの無差別スキャンを要求するものではないと述べ、現在、この点を明確にするための修正案を検討中であるとしています。最終版の基準は、今年後半に議会で検討される予定です。
【ニュース解説】
オーストラリア政府が提案した新しいオンライン安全基準は、特に子供の安全を守ることを目的としています。これらの基準は、子供への虐待やテロ資材の検出と削除を、技術的に可能な範囲で行うことを義務付けています。対象となる技術には、ウェブサイトやクラウドストレージサービス、テキストメッセージ、チャットアプリ、そして高影響の生成AIサービスやオープンソースの機械学習モデルが含まれます。
しかし、Microsoft、Meta、Stability AIなどのテクノロジー企業からは、これらの基準がAIによるオンラインの安全保護を難しくするという懸念が示されています。これらの企業は、AIが効果的に子供への虐待やテロ資材を検出し、フラグを立てるためには、そのようなコンテンツにさらされ、リスクを評価し軽減するプロセスが必要であると指摘しています。彼らは、提案された基準がAIの訓練データを制限することで、その有効性を低下させる恐れがあると警告しています。
一方、eSafetyコミッショナーのJulie Inman Grantは、提案された基準が業界に暗号化の破壊や弱体化、テキストの監視、大量の個人データの無差別スキャンを要求するものではないと強調しています。彼女は、基準を明確にするための修正案を検討中であり、最終版の基準は今年後半に議会で検討される予定です。
このニュースは、オンラインの安全性を高めるための規制と、技術の進歩との間の delicate balance を浮き彫りにしています。AI技術は、オンラインでの子供への虐待やテロ資材の検出において重要な役割を果たす可能性がありますが、その有効性を最大限に発揮するためには、適切な訓練データへのアクセスが不可欠です。同時に、個人のプライバシーを保護し、無差別な監視を避けるための規制も必要です。この問題は、技術の進歩と社会的な価値観の間のバランスをどのように取るか、という広範な議論の一部を形成しています。
from Tech firms say new Australian standards will make it harder for AI to protect online safety.
“オーストラリアの新安全基準、AIによる子供保護に影響か？” への2件のフィードバック
オーストラリアの新しいオンライン安全基準に関する議論は、デジタル時代における安全性とプライバシーのバランスを見つけることの難しさを浮き彫りにしています。特に、AI技術を活用したオンラインの安全保護の進化において、これらの基準がどのように影響を与えるかは、私たち研究者にとっても重要な関心事です。提案された基準が、AIによる子供への虐待やテロ資材の検出といった重要な機能を制限する可能性があるというテクノロジー企業の懸念は理解できます。AIの訓練データへのアクセスは、その有効性を最大化する上で不可欠ですが、同時に、個人のプライバシーやデータ保護の観点からも慎重な対応が求められます。
一方で、eSafetyコミッショナーが提案された基準が暗号化の破壊や大量の個人データの無差別スキャンを要求するものではないと強調している点は、規制とプライバシー保護のバランスを取る意向があることを示しています。このような基準の検討と修正は、技術の進歩と社会的な価値観の間でのバランスを見つけるために不可欠です。
私たち研究者は、テクノロジーの民主化と社会全体の利益を目指しています。そのためには、技術の進歩を促進しつつ、オンライン環境を安全に保つための効果的な規制が必要です。この問題に対する解決策は、多様なステークホルダー間の対話と協力を通じて、技術的な可能性と社会的な要請の両方を考慮した形で見出されるべきです。
オーストラリアの新しいオンライン安全基準に関して、私はこの動きを基本的には支持します。特に子供を守ることを目的とした基準は、社会全体としても大切にすべきことです。しかし、テクノロジー企業が指摘するように、AIによる安全保護の効果を制限する可能性がある点は懸念材料です。AIが適切な訓練データにアクセスできなければ、その機能は十分に発揮されません。子供への虐待やテロ資材の検出といった重要な任務をAIに依存する現代においては、このバランスをどう取るかが重要な課題だと思います。
私は伝統を重んじる人間ですが、技術の進歩がもたらす利益も理解しています。ただし、その進歩が地域社会や個々の安全を脅かす形であってはならないと考えます。eSafetyコミッショナーが提案する基準の修正案が、技術の進歩と社会的な価値観のバランスを取ることができるかどうか、注目しています。最終的には、人間の安全とプライバシーを守りつつ、技術の進歩を活用する方法を見つけることが重要だと思います。