選挙前の誤情報対策強化、MetaがAI加工画像の特定計画を発表

Last Updated on 2024-06-21 10:42 by 門倉 朋宏

Metaは、世界中で迫る選挙に先立ち、誤情報やディープフェイクに対する取り組みを強化し、AIによって加工された画像をより多く特定する計画を発表しました。これまで、Metaは自社のAIツールを使用して開発されたAI生成画像にのみラベルを付けていましたが、今後はGoogle、OpenAI、Microsoft、Adobe、Midjourney、Shutterstockからのコンテンツにもラベルを適用する予定です。

この新しい取り組みは、Facebook、Instagram、Threads上でAI生成コンテンツを大規模に特定するためのツールを構築することを含みます。ラベルは、各アプリで利用可能なすべての言語で表示されますが、この変更はすぐには実施されません。MetaのグローバルアフェアーズのプレジデントであるNick Cleggによると、外部ソースからのAI生成画像にラベルを付ける作業は「今後数ヶ月」に始まり、問題に対処する作業は「来年を通じて」続けられる予定です。

Metaは、AI生成コンテンツを自動的に検出するための分類器の開発に努めており、他のAI企業と協力して、コンテンツがAIを使用して作成されたことを示す共通の技術基準について合意に達する必要があります。また、画像や動画に不可視の識別子や特定のメタデータを使用するAI企業と主に協力することで、不確実性を最小限に抑えることを目指しています。

さらに、MetaはユーザーがAI生成のビデオやオーディオをアップロードする際に、自発的にそれを開示する方法を追加する予定です。もしユーザーがディープフェイクやその他の形式のAI生成コンテンツを開示せずに共有した場合、同社は「ペナルティを適用する可能性がある」としています。

【ニュース解説】

Metaが、世界中で迫る選挙に先立ち、AIによって加工された画像の特定と誤情報やディープフェイクに対する取り組みを強化する計画を発表しました。これまでMetaは、自社のAIツールを使用して開発された画像にのみラベルを付けていましたが、今後はGoogle、OpenAI、Microsoft、Adobe、Midjourney、Shutterstockといった他の企業からのコンテンツにもラベルを適用する予定です。

この取り組みは、Facebook、Instagram、Threads上でAI生成コンテンツを大規模に特定するためのツールを構築することを含みます。しかし、この変更が実施されるまでには時間がかかり、Metaは「今後数ヶ月」に外部ソースからのAI生成画像にラベルを付け始め、「来年を通じて」問題に対処する作業を続ける予定です。

この動きは、選挙に関連する誤情報が社会に与える影響を最小限に抑えるためのものです。特に2016年の米大統領選挙後、Facebookは外国のアクターによって作成・拡散された誤情報の温床となり、その後もCOVID-19パンデミックやホロコースト否定論者、QAnon陰謀論者などによる誤情報の拡散が問題となりました。

AI生成コンテンツの自動検出には、不可視のマーカーや特定のメタデータを使用することが含まれますが、これらのマーカーを削除する方法が存在するため、Metaはそれらを削除または変更することをより困難にする方法を模索しています。また、AI生成のビデオやオーディオに関しては、ユーザーが自発的にそれを開示する方法を追加し、開示せずに共有した場合にはペナルティを適用する可能性があるとしています。

この取り組みは、AI技術の進化によってより洗練された誤情報やディープフェイクが作成される可能性が高まっている中で、社会における誤情報の拡散を防ぐための重要なステップです。しかし、AI生成コンテンツの特定とラベリングは技術的な課題が多く、完全な解決には至っていません。このため、Metaの取り組みは、他のAI企業との協力や技術の進化によって、今後も進化し続ける必要があります。

このような取り組みは、選挙の公正性を保護し、民主主義を守るために不可欠ですが、同時にプライバシーや表現の自由に関する懸念も引き起こします。AI技術の進化とともに、これらの課題に対するバランスの取り方が、今後の社会において重要な議論となるでしょう。

from Meta plans to identify more AI-generated images ahead of upcoming elections.