DALL-E 3に新ウォーターマーク、AI画像の出所証明への一歩

Last Updated on 2024-02-07 07:42 by admin

【ダイジェスト】

OpenAIは、画像生成ツールDALL-E 3に新しいウォーターマークを追加すると発表しました。このウォーターマークは、画像のメタデータに含まれ、コンテンツの出所と真正性を証明するためのものです。ウォーターマークには、目に見えないメタデータ成分と、画像の左上隅に表示されるCRシンボルの両方が含まれます。これにより、OpenAIのプラットフォームで生成された画像の出所を、Content Credentials Verifyのようなウェブサイトを通じて確認できるようになります。

このウォーターマークは、ChatGPTウェブサイトとDALL-E 3モデルのAPIで生成された画像に適用され、モバイルユーザーは2月12日までにウォーターマークが追加される予定です。OpenAIによると、ウォーターマークの追加は画像生成の品質に影響を与えず、一部のタスクで画像サイズがわずかに増加するだけで、遅延にほとんど影響しないとのことです。

C2PA（コンテンツの出所と真正性のための連合）という、AdobeやMicrosoftなどの企業が参加するグループが、コンテンツの出所を識別し、それが人間によって作られたものなのかAIによって作られたものなのかを示すために、Content Credentialsウォーターマークの使用を推進しています。しかし、OpenAIは、C2PAのメタデータは特にソーシャルメディアプラットフォームがアップロードされたコンテンツからメタデータを頻繁に削除するため、偶発的または意図的に容易に削除され得ると指摘しています。スクリーンショットを取ると、メタデータは省略されます。

OpenAIは、出所を確立するためのこれらの方法を採用し、ユーザーがこれらの信号を認識することを奨励することが、デジタル情報の信頼性を高める鍵であると述べています。

【ニュース解説】

OpenAIが、その画像生成ツールであるDALL-E 3に新たなウォーターマークを追加することを発表しました。このウォーターマークは、画像のメタデータに含まれ、コンテンツの出所と真正性を証明するためのものです。これにより、AIによって生成された画像が、人間によるものと区別され、デジタル情報の信頼性を高めることを目指しています。

この取り組みは、AdobeやMicrosoftなどが参加するC2PA（コンテンツの出所と真正性のための連合）によって推進されており、AIによって生成されたコンテンツを明確に識別することが重要視されています。しかし、ウォーターマークがソーシャルメディアプラットフォームによって削除されたり、スクリーンショットを通じて省略される可能性があるため、完全な解決策ではありません。

この技術の導入により、AIが生成した画像やコンテンツの真正性を確認することが容易になります。これは、偽情報の拡散を防ぐための一歩となり得ますが、同時に、ウォーターマークが意図的に削除されることで、その効果が損なわれる可能性もあります。また、デジタル情報の信頼性を高めるためには、ユーザーがこれらのウォーターマークを認識し、理解することが重要です。

長期的には、このような技術の発展が、AIによるコンテンツ生成の透明性を高め、デジタル情報の信頼性を向上させることに貢献することが期待されます。しかし、技術の進化に伴い、偽情報をより巧妙に作成する手法も進化するため、この分野では常に新たな対策が求められます。また、規制当局は、AIによるコンテンツ生成とその識別方法に関するガイドラインを設けることで、この技術の健全な発展を支援する役割を担っています。

from OpenAI is adding new watermarks to DALL-E 3.