Last Updated on 2024-05-27 10:31 by 門倉 朋宏
Metaは、AIによって生成されたコンテンツに対するラベル付け要件を拡大し、今年の5月から「Made with AI」ラベルを追加すると発表しました。このポリシーはInstagram、Facebook、Threads上のコンテンツに適用されます。現行のポリシーが「狭すぎる」と認識しているMetaは、ビデオ、オーディオ、画像コンテンツに対して、より多くのAI生成コンテンツをラベル付けする予定です。ラベルは、ユーザーがAIツールの使用を開示した場合や、Metaが「業界標準のAI画像指標」を検出した場合に適用されますが、検出システムについての詳細は提供されていません。
この変更は、2020年に作成された操作されたメディアポリシーを更新するもので、Metaの監視委員会からの推奨とフィードバックに基づいています。旧ポリシーは、AIツールを使用して人が言っていないことを言わせるビデオを禁止していますが、最近ウェブに氾濫しているAI生成コンテンツの広範囲には対応していません。
また、MetaはAI生成素材のモデレーション方法も変更します。7月から、他のコミュニティガイドラインに違反しないAI生成素材の削除を停止します。これも監視委員会からの推奨に基づくもので、コンテンツを制限するのではなく、より多くのコンテキストを追加することが推奨されています。いじめ、投票干渉、嫌がらせなど、他のルールに違反する素材は、AIツールを使用して作成されたかどうかに関わらず、引き続き削除されます。
【ニュース解説】
MetaがAIによって生成されたコンテンツに対する新たなラベル付けポリシーを導入することを発表しました。この新ポリシーは、Instagram、Facebook、Threads上のビデオ、オーディオ、画像コンテンツに「Made with AI」のラベルを追加することを含みます。これは、ユーザーがAIツールの使用を自ら開示した場合や、MetaがAI生成コンテンツと判断する特定の指標を検出した場合に適用されます。この変更は、2020年に制定された操作されたメディアに関するポリシーの更新版であり、AI技術の進化に伴うコンテンツの多様化に対応するためのものです。
このポリシーの更新は、AI技術が急速に進化し、リアルなビデオ、オーディオ、画像の生成が可能になった現在の状況を反映しています。AIによって作成されたコンテンツは、人々が実際には言っていないことを言わせたり、していないことをしているように見せたりすることが可能であり、これにより真実と虚偽の区別が曖昧になるリスクがあります。Metaのこの動きは、ユーザーがコンテンツを消費する際に、そのコンテンツがAIによって生成されたものであるかどうかを明確にすることで、情報の透明性を高めることを目的としています。
また、MetaはAI生成コンテンツのモデレーション方法も変更し、他のコミュニティガイドラインに違反しない限り、AI生成素材の削除を停止します。これにより、創造性や表現の自由を促進しつつ、いじめや投票干渉、嫌がらせなどの問題行為に対しては引き続き厳格な対応を取ることが可能になります。
このポリシーの導入は、AI技術の発展に伴うポジティブな側面と潜在的なリスクのバランスを取る上で重要な一歩です。一方で、創造的な表現の新たな可能性を開くことができる一方で、偽情報の拡散や個人のプライバシー侵害などのリスクも伴います。そのため、技術の進化に合わせて規制やポリシーを適切に更新し、ユーザーが安全かつ責任ある方法でこれらのツールを使用できるようにすることが求められます。
長期的には、このようなポリシーの更新が、AI技術と社会との関係を形成する上での基盤となり、AIの利用がもたらす利益とリスクの両方を適切に管理するための枠組みの発展に寄与することが期待されます。
“Meta、AI生成コンテンツに「Made with AI」ラベル導入へ” への2件のフィードバック
MetaがAIによって生成されたコンテンツに「Made with AI」ラベルを追加するという新ポリシーを導入することは、非常に前向きなステップだと考えます。デジタルネイチャー開発研究センターのセンター長として、私たちはテクノロジーと人間の相互作用を再考し、新しい文化的価値を生み出すことを目指しています。この文脈で、AI技術の進化は、私たちの生活に多大な影響を及ぼしていますが、その利用には透明性が不可欠です。
Metaのこの動きは、ユーザーがコンテンツを消費する際に、その背後にある技術を理解するための重要な手段を提供します。これは、デジタルと物理世界の融合における新たな可能性を探求する私たちの研究にも直接関連しています。AIによって生成されたコンテンツのラベル付けは、ユーザーに対してより多くの情報を提供し、偽情報の拡散を防ぐための重要な一歩です。
また、AI生成コンテンツのモデレーション方法の変更により、創造性や表現の自由を促進しつつ、社会的責任を持ってこれらの技術を利用することが可能になります。これは、テクノロジーの民主化を推進し、その恩恵を社会のあらゆる層に届けるという私たちの使命にも一致しています。
このようなポリシーの導入は、AI技術と社会との関係を形成する上での基盤となり、AIの利用がもたらす利益とリスクの両方を適切に管理するための枠組みの発展に寄与することが期待されます。私たちは、このような進展を歓迎し、さらなる研究と開発を通じて、より豊かな社会の実現に貢献していきたいと考えています。
Metaによる「Made with AI」ラベルの導入は、AI技術によるコンテンツ生成の進展に対する重要な対応策であり、私はこの動きを支持します。AIによって生成されたコンテンツが増加する中で、消費者がそれらのコンテンツを識別できるようにすることは、情報の透明性を高め、ユーザーがより意識的な選択をするために必要不可欠です。特に、AIが生成するリアルなビデオや画像は、真実と虚構の境界を曖昧にし、偽情報の拡散に利用される危険性があります。このような背景を考慮すると、コンテンツがAIによって作成されたものであることを明示することは、社会全体の情報リテラシーを向上させる上で極めて重要です。
しかし、ラベル付けの実施にあたっては、どのようにしてAI生成コンテンツを識別し、ラベルを適用するかという技術的な課題があります。Metaが提供した情報では、検出システムの詳細については明らかにされていませんが、このシステムが正確で、誤検出や見逃しが少ないことが求められます。また、AI技術の進化に伴い、検出が困難になる可能性も考慮する必要があります。
さらに、AI生成コンテンツのモデレーション方法の変更についても、創造性や表現の自由を促進する一方で、偽情報の拡散やプライバシー侵害などのリスクに対する厳格な対応が維持されることが重要です。これらの問題に適切に対処するためには、技術的な進歩だけでなく、倫理的なガイドラインや社会的な合意形成も不可欠です。
Metaのこの取り組みは、AI技術の社会への影響を考慮した責任あるアプローチの一例であり、他のプラットフォームや業界にも同様の対策を求めるきっかけとなることを期待します。AI技術の発展は止まることなく進むため、社会全体でこれらの技術をどのように取り扱うかについて、継続的な議論と対応が必要です。