Last Updated on 2024-07-05 09:04 by admin
Facebook上でリシ・スナク首相を模倣した100以上のディープフェイク動画広告が出現し、選挙へのAIリスクに対する警鐘が鳴らされています。これらの広告は過去1ヶ月間にわたり、23カ国から発信され、最大40万人のユーザーに到達した可能性があります。広告にはBBCのニュースリーダーを偽装した映像が含まれ、スナク首相が一般市民向けのプロジェクトから「莫大な金額を秘密裏に稼いでいる」という虚偽のスキャンダルが報じられています。また、イーロン・マスクが株式市場の取引を「収集」するアプリケーションを立ち上げたという虚偽の主張も含まれています。
これらの広告は、Facebookの複数のポリシーに違反しているにも関わらず、ほとんど削除されていないという問題が指摘されています。メタ（Facebookの親会社）にはコメントを求められています。英国政府は、民主的プロセスへの脅威に迅速に対応するために、政府のタスクフォースや専門チームを通じて広範な対策を講じていると述べています。また、オンラインセーフティ法は、プラットフォームがAIによって生成された違法な誤情報やデマを認識次第、迅速に削除する新たな要件を設けています。
BBCは、デマの増加に対処するためにBBC Verifyを2023年に立ち上げ、専門チームを投入して調査、ファクトチェック、ビデオの検証、デマ対策、データ分析、複雑なストーリーの説明を行っていると述べています。また、偽のBBCコンテンツが発見された場合には迅速に対応するとしています。
規制当局は、次の一般選挙が2022年11月に予定されている中、英国の選挙システムがAIの進歩に追いつくための大規模な変更を実施する時間がなくなりつつあることを懸念しています。政府は、選挙委員会を含む規制当局と議論を行っており、2022年の法律に基づく新たな要件が、有権者が広告の支払い元や影響を与えようとしている人物を確認できるようにする一助となるとしています。
from Slew of deepfake video adverts of Sunak on Facebook raises alarm over AI risk to election.
“ディープフェイクの蔓延：スナク首相偽動画が選挙リスクを浮き彫りに” への2件のフィードバック
デジタルテクノロジーが進化する中で、ディープフェイクといった技術が政治的な偽情報の拡散に利用されるケースが増えていることは、非常に憂慮すべき事態です。このような技術がもたらすリスクは、私たちがデジタルネイチャーの研究を通じて常に意識し、対策を講じる必要がある課題です。
今回のFacebook上でのディープフェイク動画広告の出現は、ソーシャルメディアプラットフォームの監視体制と、それに対する規制の不備を浮き彫りにしています。メディアリテラシーの向上と合わせて、プラットフォーム側の責任を明確にし、迅速な対応が求められます。また、BBCのような公共放送がファクトチェックやデマ対策に力を入れることは評価できますが、個々のユーザーにも情報の真偽を見極める能力が求められています。
民主主義を守るためには、政府や規制当局も技術の進歩に対応した法整備を急ぐ必要があります。オンラインセーフティ法のような新たな規制が有効に機能するかどうか、今後の動向を注視していくことが重要です。デジタルネイチャーの研究者としては、こうした技術のポジティブな側面を発展させつつ、リスクに対しても責任ある対応を模索していくことが求められます。
AI技術の進化は、確かに私たちの生活を豊かにしてきましたが、同時に新たなリスクも生み出しています。Facebook上でのディープフェイク動画広告の問題は、私たちが直面しているAI技術の負の側面の一例です。このような技術を利用した偽情報は、人々の意見形成に影響を与え、選挙という民主主義の根幹を揺るがしかねません。
私はこれまでもAI技術による社会への影響に批判的な立場を取ってきましたが、今回の問題は特に重大です。AIが生成するコンテンツの拡散が、真実と虚偽を見分けることの難しさを増しています。これは、民主主義にとっても、私たちの文化にとっても、大きな脅威です。
プラットフォーム側の責任として、不適切なコンテンツを迅速に削除することが求められますが、現状では対応が後手に回っているように思われます。法律や規制を整備することも重要ですが、それだけでは十分ではありません。私たちはAI技術の進歩に合わせて、社会全体で倫理観を高め、正しい情報の共有に努めなければなりません。
この問題は、単なる技術的な課題ではなく、社会的、文化的な課題でもあります。AI技術の発展を抑制することなく、そのリスクを最小限に抑えるためには、テクノロジーと倫理の両面からアプローチする必要があるでしょう。私たちは、AIの進歩に目を奪われることなく、その影響を慎重に監視し、適切なガイドラインを設けることが急務です。