EUは、選挙への影響を懸念して、Google、Facebook、Xなど8つの主要な技術企業に対し、ディープフェイク素材を特定し対処する計画を詳述するよう求めています。これらの企業は、人工知能に関する新しい法律を使用して、偽のビデオ、画像、およびオーディオを根絶するよう強制されます。企業は4月5日までに、選挙前夜にソーシャルメディア上で大量に流される最後の瞬間の影響力の高いフェイクニュースにどのように対処するかを示す必要があります。これは、ロシアを含む外国のエージェントが選挙前夜に展開するために「スリーパー」アカウントを構築しているという証拠があるためです。
EUはまた、中国のオンライン販売業者であるAliExpressに対して正式な調査を開始しました。AliExpressはEUブロック内で1億400万ユーザーを持ち、偽の薬や偽の食品などの違法商品がオンラインで取引されているという申し立てがあります。このAliExpressの調査は、昨年制定されたデジタルサービス法（DSA）とデジタル市場法（DMA）という、ブロックによるオンライン法の旗艦の一対の下で行われた3番目の公式行動です。EUは以前、Twitter（現在はX）とTikTokに対して同法の下で正式な調査を行っています。木曜日には、LinkedInに対しても調査を開始したと発表されました。これは、オンライン広告プロファイリングに関する違反を非難する市民社会団体からの報告に基づいています。
ディープフェイクコンテンツを特定する能力について、より多くの情報を提供するよう求められた8つの企業は、Bing、Google Search、Facebook、Instagram、Snapchat、TikTok、YouTube、およびXです。EUは、すべてのAIコンテンツが有害であるわけではないが、新しい法律が現在施行されていることをすべての技術企業に示す必要があると指摘しています。EUは、デジタルサービス法（DSA）と新しいAI法の下で、偽物の素材が違法であるとすべてのプラットフォームにメッセージを送るための「執行エコシステム」を作成すると述べています。
【ニュース解説】
EUは、選挙への影響を懸念して、Google、Facebook、X（旧Twitter）など8つの主要な技術企業に対し、ディープフェイク素材を特定し、対処する計画を詳述するよう求めています。これらの企業は、人工知能に関する新しい法律を用いて、偽のビデオ、画像、およびオーディオを根絶するよう強制されます。この動きは、選挙前夜にソーシャルメディア上で大量に流される最後の瞬間の影響力の高いフェイクニュースにどのように対処するかを示すため、4月5日までの期限が設けられています。これは、特にロシアを含む外国のエージェントが選挙前夜に展開するために「スリーパー」アカウントを構築しているという証拠があるためです。
EUはまた、中国のオンライン販売業者であるAliExpressに対して正式な調査を開始しました。この調査は、偽の薬や偽の食品などの違法商品がオンラインで取引されているという申し立てに基づいています。AliExpressはEUブロック内で1億400万ユーザーを持ち、この調査はデジタルサービス法（DSA）とデジタル市場法（DMA）という、EUによるオンライン法の旗艦の一対の下で行われた3番目の公式行動です。
ディープフェイク技術の進化は、政治的な目的での使用がまだ少ないものの、その潜在的な影響は非常に大きいです。例えば、選挙の結果を左右するような偽情報を広めることが可能になります。このようなリスクに対処するため、EUは「執行エコシステム」を作成し、偽物の素材が違法であるとすべてのプラットフォームにメッセージを送ることを目指しています。この取り組みは、偽情報の拡散を防ぐだけでなく、デジタル空間の信頼性を高めることにも寄与します。
しかし、このような規制には、表現の自由への影響や、技術的な誤検知による正当なコンテンツの削除などの潜在的なリスクも伴います。また、小規模なクリエイターやスタートアップにとっては、高度な偽情報検出システムの導入が負担になる可能性があります。長期的には、これらの規制がデジタル空間の健全性を保つためのバランスをどのように取るかが重要な課題となります。
EUのこの動きは、デジタル空間における偽情報の問題に対する国際的な取り組みの一環としても注目されています。今後、他の国や地域でも同様の規制が導入される可能性があり、グローバルなデジタルガバナンスの形成に寄与することが期待されます。
from EU calls on tech firms to outline plans to tackle deepfakes amid election fears.
“EU、ディープフェイク対策で大手技術企業に照準、AliExpress調査も開始” への2件のフィードバック
EUの技術企業に対するディープフェイク素材の特定と対処に関する要求は、デジタル時代における民主主義の保護という観点から非常に重要なステップだと思います。特に選挙のような重要な民主的プロセスに影響を与える可能性のあるディープフェイクやフェイクニュースの拡散は、社会にとって深刻な脅威です。私は、教育者として、生徒たちに情報の正確性を見極めるスキルを教えることの重要性を常に感じていますが、技術の進歩によってその課題は一層複雑になっています。
一方で、表現の自由や技術的な誤検知による正当なコンテンツの削除といった懸念も理解しています。これらの課題に対処するためには、技術企業、政府、市民社会が協力し、透明性と公正性を確保することが必要だと思います。また、教育の場でも、デジタルリテラシーを高めることで、生徒たちが自ら情報の真偽を見極められるよう支援することが重要です。
EUのこの取り組みは、デジタル空間の信頼性を高めるだけでなく、国際的なデジタルガバナンスの形成にも寄与すると期待されます。私たち教育者も、このような変化に適応し、生徒たちを未来のデジタル社会で生き抜くためのスキルを身につけさせることが求められています。
EUの技術企業に対するディープフェイク素材の特定と対処に関する新しい法律の導入は、デジタル社会における偽情報の拡散という深刻な問題に対処するための重要な一歩です。私は、AI技術の進展が社会にもたらすリスクを長年指摘してきましたが、特にディープフェイク技術は、そのリアリズムと拡散の容易さから、民主主義に対する脅威を増大させています。選挙の公正性を保護し、市民が真実に基づいた意思決定を行えるようにするためには、このような技術の濫用を防ぐための法的枠組みが必要不可欠です。
しかし、表現の自由やクリエイティブな活動への影響、技術的な誤検知による誤った対処など、実装にあたっては慎重なバランスが求められます。特に、小規模なクリエイターやスタートアップが新しい規制によって不当に影響を受けないよう、公正で透明性のあるプロセスが確保されるべきです。また、偽情報の検出と対処において、AI技術自体が重要な役割を果たす可能性がありますが、その過程で生じる倫理的な問題にも注意を払う必要があります。
EUの取り組みは、グローバルなデジタルガバナンスの形成に向けた重要な一歩であり、他の国や地域でも類似の規制が検討されることが期待されます。デジタル空間の信頼性と安全性を確保するためには、国際的な協力と共通の基準の策定が不可欠です。