【ダイジェスト】

Metaは、Facebook、Instagram、ThreadsにアップロードされるAIによって生成された画像にラベルを付けることを開始します。これは、世界中で選挙シーズンが高まる中で行われる措置です。また、AIを使用して作成されたリアルなビデオやオーディオがAIによるものであることを開示しないユーザーに対して罰則を科す予定です。

MetaのグローバルアフェアーズのプレジデントであるNick Cleggは、AI生成メディアが現実と区別がつかなくなるにつれて、技術業界を「奮起」させるためのステップだと述べました。ホワイトハウスは、AI生成コンテンツにウォーターマークを付けるよう企業に強く促しています。その間、Metaは、AIの役割を隠すためにメタデータが変更された合成メディアを検出するツールを開発しています。

Metaは、自社のImagine AIジェネレーターで作成された画像に「Imagined with AI」のウォーターマークを既に適用しており、Google、OpenAI、Microsoft、Adobe、Midjourney、Shutterstockからのツールで作成されたAI生成画像にも同様の措置を開始します。Cleggは、AI生成ビデオとオーディオを識別するための基準を構築することに業界が遅れていると述べています。

Metaは、選挙に向けて政治的に重要な内容を偽って公衆を欺くために設計されたビデオやオーディオコンテンツに対して特に警戒しています。Cleggは、リアルなビデオやオーディオ投稿がAIで作成された場合、ユーザーがそれを開示することを近く要求し始めると述べ、開示しない場合は警告から投稿の削除に至るまでの罰則が適用されると言及しました。

Metaはまた、コミュニティ基準に基づいて訓練された大規模言語モデル（LLMs）の内部テストを開始しており、数万人の人間のモデレーターに対する効率的な「トリアージメカニズム」として機能するとCleggは述べています。

【ニュース解説】

MetaがFacebook、Instagram、ThreadsにアップロードされるAIによって生成された画像に「Imagined with AI」というウォーターマークを付けることを開始し、AIを使用して作成されたリアルなビデオやオーディオがAIによるものであることを開示しないユーザーに対して罰則を科すと発表しました。この措置は、AI生成メディアが現実と区別がつかなくなる中、技術業界に警鐘を鳴らし、選挙期間中の偽情報の拡散を防ぐためのものです。

この動きは、AI技術の進化により、現実の人物や出来事を模倣した非常にリアルな画像、ビデオ、オーディオが生成されるようになったことに対応するものです。これらの合成メディアは、政治的な偽情報を拡散するために悪用される可能性があり、選挙の公正性を脅かすリスクがあります。

Metaの措置により、AIで生成されたコンテンツが一目で識別できるようになり、ユーザーは情報の出所をより正確に判断できるようになります。これは、偽情報の拡散を防ぎ、公共の議論の質を保護する上で重要なステップです。

しかし、この措置にはいくつかの課題もあります。例えば、AI技術は日々進化しており、Metaが開発した検出ツールが常に最新のAI生成メディアを正確に識別できるとは限りません。また、ユーザーがAI生成コンテンツであることを意図的に隠す場合、その検出と対処はさらに困難になります。

長期的には、このような措置が他のプラットフォームや業界にも広がり、AI生成メディアの透明性と説明責任を高めるための国際的な基準が確立されることが期待されます。これにより、AIのポジティブな利用を促進しつつ、その潜在的なリスクを管理するバランスが取れるようになるでしょう。

Metaのこの取り組みは、AI技術の社会的な影響を考慮に入れ、技術の進歩と公共の利益の間でバランスを取ることの重要性を示しています。AI生成メディアの進化に伴い、その使用に関する倫理的なガイドラインと規制の必要性が高まっています。

from Meta says you better disclose your AI fakes or it might just pull them.