Last Updated on 2024-09-20 07:13 by admin

OpenAIは、AIによって生成された画像を識別するための新しいメタデータタグ付けを、その主力アプリChatGPTおよび統合されたAI画像生成モデルDALL-E 3に導入すると発表しました。この動きは、MetaがそのAI画像生成ツールImagineを通じて生成されたAI画像にラベルを付ける類似の措置を発表した数時間後に行われました。OpenAIによると、ChatGPTとAPIで生成された画像には、C2PA仕様を使用したメタデータが含まれるようになり、これにより誰でも（ソーシャルプラットフォームやコンテンツ配信者を含む）画像が同社の製品によって生成されたものであることを確認できるようになります。この変更は現在ウェブ版で有効であり、全てのモバイルChatGPTユーザーには2月12日までに実装される予定です。

C2PA（コンテンツの出所と真正性のための連合）は、メディアコンテンツのソースと履歴または出所を証明するための技術標準を開発することを目的とした、比較的新しい取り組みです。この取り組みは、ディスインフォメーション、ミスインフォメーション、オンラインコンテンツ詐欺の普及に対処するために設立されました。C2PAは、AIツールによって作成されたことを示すメタデータをAI画像ファイルの実際のコードに埋め込むことで、プラットフォームがAI生成コンテンツを識別するのを支援します。しかし、OpenAIは、C2PAのようなメタデータが出所の問題に対する万能の解決策ではないことを認めており、ソーシャルメディアプラットフォームがアップロードされた画像からメタデータを削除することが多いため、メタデータが欠如している画像がChatGPTまたはAPIで生成されたものであるかどうかは必ずしも明らかではないとしています。

【ニュース解説】

OpenAIが、自社の主力アプリChatGPTおよびAI画像生成モデルDALL-E 3に、AIによって生成された画像を識別するための新しいメタデータタグ付け機能を導入したことを発表しました。この機能は、C2PA（コンテンツの出所と真正性のための連合）の仕様を使用しており、ソーシャルプラットフォームやコンテンツ配信者を含む誰もが、画像がAIによって生成されたものであるかを確認できるようになります。この動きは、Metaが自社のAI画像生成ツールImagineを通じて生成された画像にラベルを付けると発表した直後に行われました。

C2PAは、メディアコンテンツの出所と履歴を証明するための技術標準を開発することを目的とした新しい取り組みです。この取り組みは、ディスインフォメーションやミスインフォメーション、オンラインコンテンツ詐欺の普及に対処するために設立されました。C2PAによるメタデータの埋め込みは、AIツールによって作成されたコンテンツを識別するための重要なステップですが、OpenAIは、メタデータがソーシャルメディアプラットフォームによって削除されたり、スクリーンショットを取ることで失われる可能性があるため、これが万能の解決策ではないことを認めています。

この技術の導入は、AIによって生成されたコンテンツの増加に伴い、特にディープフェイクや偽情報の拡散に対する懸念が高まっている現在、重要な意味を持ちます。AIが生成した画像や動画が、人々の意見形成や選挙などに悪影響を及ぼす可能性があるため、その出所を明確にすることは、情報の信頼性を保つ上で不可欠です。

しかし、この技術が完全な解決策ではないことを考慮すると、消費者教育の強化や、AIによるコンテンツの使用に関する倫理的ガイドラインの策定など、他の対策と組み合わせることが重要です。また、技術の進化に伴い、メタデータの保護や偽情報の検出技術の改善など、さらなる研究開発が求められます。

長期的には、このような技術の発展が、AIによるコンテンツ生成の透明性を高め、デジタルメディアの信頼性を保つための基盤となることが期待されます。しかし、そのためには、技術開発者、プラットフォーム運営者、政策立案者、そしてユーザー自身が協力し、責任あるAIの使用に向けた共通の基準を築く必要があります。

from OpenAI joins Meta in labeling AI generated images.

SNSに投稿する