選挙混乱の新たな脅威：ディープフェイクが世界中で急増、対策急務

Last Updated on 2024-03-14 11:44 by 荒木 啓介

今年、少なくとも60カ国以上で40億人以上の人々がリーダーや代表者を選出する選挙が予定されており、ディープフェイクの数は2022年から2023年にかけて世界中で10倍に増加し、アジア太平洋地域(APAC)では1530%の急増が見られた。これにより、選挙における情報操作やディスインフォメーションキャンペーンの実施が懸念されている。AIシンガポールのAIガバナンス上級ディレクター、サイモン・チェスターマンは、アジアは規制、技術、教育の面で選挙におけるディープフェイクに対処する準備ができていないと指摘している。

インドネシアの選挙に先立ち、故スハルト元大統領が政党を支持するAI生成のディープフェイク動画がバイラルし、Xプラットフォームで470万回視聴された。パキスタンでは、元首相イムラン・カーンのディープフェイクが国民選挙のボイコットを発表する形で出現した。アメリカでは、ジョー・バイデン大統領のディープフェイクがニューハンプシャー州の有権者に向けて投票しないよう呼びかける音声が流れた。

サイバーセキュリティ企業Crowdstrikeの2024年グローバル脅威レポートによると、中国、ロシア、イランを含む国家レベルのアクターが選挙を混乱させるための情報操作やディスインフォメーションキャンペーンを実施する可能性が高い。しかし、ほとんどのディープフェイクはそれぞれの国内のアクターによって生成されるとチェスターマンは述べている。

シンガポール政策研究所の社会文化部門責任者、キャロル・スーンは、ディープフェイクが情報エコシステムを汚染し、人々が正確な情報を見つけたり、政党や候補者についての情報を形成することを困難にすると指摘している。また、選挙中の不正行為を示す偽の映像が、選挙の有効性に対する人々の信頼を損なう可能性がある。

一方で、候補者は自身に関する否定的または不名誉な真実を否定し、それをディープフェイクのせいにする可能性がある。ソーシャルメディアプラットフォームには、選挙におけるAIの欺瞞的な使用を防ぐための共同の取り組みが求められており、マイクロソフト、メタ、グーグル、アマゾン、IBM、OpenAI、Snap、TikTok、Xなど20の主要な技術企業が今年、この取り組みに対する共同のコミットメントを発表した。しかし、規制の確立と企業に対する期待の設定が必要であるとチェスターマンは述べている。

C2PA（コンテンツの出所と真正性のための連合）は、コンテンツのデジタル認証を導入し、視聴者に作成者の情報、作成場所と時間、生成AIの使用有無などの検証済み情報を提供している。OpenAIは、DALL·E 3で作成された画像にC2PAコンテンツ認証を早期に実装すると発表している。公衆は、特に他人と共有する前に、疑わしい情報や重要な情報をファクトチェックすることで、より警戒心を持つ必要がある。

【ニュース解説】

今年、世界中で少なくとも60カ国以上、40億人以上の人々がリーダーや代表者を選出する選挙が予定されています。この大規模な選挙イベントは、ディープフェイク技術の急速な進化と重なり合っています。特にアジア太平洋地域（APAC）では、2022年から2023年にかけてディープフェイクの数が1530%も増加しました。この技術の進化は、選挙における情報操作やディスインフォメーションキャンペーンの実施による混乱の懸念を高めています。

ディープフェイクとは、人工知能（AI）技術を使用して、人々の顔や声をリアルに模倣した偽のビデオやオーディオを作成する技術です。例えば、インドネシアの選挙前には、故スハルト元大統領が特定の政党を支持するという内容のディープフェイク動画がバイラルになりました。このような事例は、選挙の公正性を脅かす新たな形態の情報操作を示しています。

しかし、アジアはこの新たな脅威に対処するための規制、技術、教育の面で準備ができていないとの指摘があります。ディープフェイクによる情報の汚染は、有権者が正確な情報を見つけることを困難にし、政党や候補者についての意見形成を妨げる可能性があります。さらに、選挙中の不正行為を示す偽の映像が流布されることで、選挙の有効性に対する信頼が損なわれる恐れもあります。

この問題に対処するため、マイクロソフト、メタ、グーグル、アマゾン、IBM、OpenAIなど20の主要な技術企業が、選挙におけるAIの欺瞞的な使用を防ぐための共同のコミットメントを発表しました。また、コンテンツの出所と真正性のための連合（C2PA）は、コンテンツのデジタル認証を導入し、視聴者に作成者の情報や生成AIの使用有無などの検証済み情報を提供しています。

しかし、技術的な解決策だけでなく、公衆の教育と警戒心の向上も重要です。特に、疑わしい情報や重要な情報に対しては、ファクトチェックを行い、他人と共有する前にその真偽を確認することが求められます。ディープフェイクの脅威に対処するためには、政府、技術企業、そして一般の人々が協力して、情報の正確性を守る取り組みが必要です。

from Asia is entering a deepfake era in an election year — can it handle misinformation campaigns?.