Last Updated on 2024-04-06 05:56 by admin
Meta、FacebookおよびInstagramの所有者は、人工知能（AI）技術によって生成された欺瞞的なコンテンツを監視する能力が試される選挙を前に、デジタルで作成または変更されたメディアに関するポリシーの大幅な変更を発表しました。同社は、FacebookとInstagramに投稿されたAI生成のビデオ、画像、およびオーディオに「AIで作成」というラベルを5月から適用し始めます。これは、以前に一部の加工されたビデオにのみ対応していたポリシーを拡大するものです。
また、Metaは、AIやその他のツールを使用して作成されたコンテンツにかかわらず、「重要な事項について公衆を実質的に欺く特に高いリスクがある」と判断されるデジタルで変更されたメディアに、より目立つ「高リスク」ラベルを適用します。この「高リスク」ラベルの適用は直ちに開始されます。
このアプローチは、限定された投稿の削除に焦点を当てることから、コンテンツを掲載したままで、それがどのように作成されたかについて視聴者に情報を提供する方向へと、操作されたコンテンツの扱いを変更します。
Metaは以前、他社の生成AIツールを使用して作成された画像を検出するために、ファイルに組み込まれた目に見えないマーカーを使用する計画を発表していましたが、その時点では開始日を明らかにしていませんでした。
変更は、生成AI技術によって変革される可能性があると技術研究者が警告している11月の米国大統領選挙の数ヶ月前に行われます。政治キャンペーンはすでに、インドネシアなどの場所でAIツールを展開し始めており、Metaや生成AI市場のリーダーであるOpenAIが発行したガイドラインの境界を押し広げています。
【ニュース解説】
Meta、FacebookおよびInstagramの親会社は、人工知能（AI）技術によって生成または変更されたメディアコンテンツに対する新たなポリシーを発表しました。この新しい方針により、AIで生成されたビデオ、画像、オーディオには「AIで作成」というラベルが付けられ、特に公衆を重要な事項について実質的に欺くリスクが高いと判断されるデジタルで変更されたメディアには、より目立つ「高リスク」ラベルが適用されます。この変更は、AIやその他のツールを使用して作成されたコンテンツに関係なく適用されます。
この措置は、操作されたコンテンツの扱いを、限定された投稿の削除から、コンテンツを掲載したままで、それがどのように作成されたかについて視聴者に情報を提供する方向へと変更します。これにより、ユーザーはコンテンツを見る際に、その背後にある技術や意図をより理解しやすくなります。
このポリシーの変更は、AI技術が急速に進化し、特に政治キャンペーンなどでのその使用が増加している背景のもとで行われます。AIによって生成されたコンテンツは、リアルな偽情報を作り出す能力があり、公衆を誤解させるリスクが高まっています。特に選挙のような重要なイベントを前にして、このようなコンテンツの監視と管理は極めて重要です。
この新しいラベリングシステムの導入により、ユーザーはAIによって生成または変更されたコンテンツをより容易に識別できるようになります。これは、偽情報の拡散を防ぐ上で有効な手段となり得ますが、同時に、AI技術の発展に伴い、より高度な偽情報が生成される可能性もあります。そのため、このようなラベリングシステムは、常に最新の技術進化に対応して更新される必要があります。
また、このポリシーの変更は、コンテンツ制作者や配信者に対しても、自らの作品がどのように受け取られ、理解されるかについて、より一層の注意を払うことを促します。AI技術を使用してコンテンツを作成する際には、その影響や受け取られ方を十分に考慮する必要があります。
長期的には、このようなポリシーの変更が、AI技術によるコンテンツ生成の透明性を高め、ユーザーが情報を批判的に評価する能力を向上させることに寄与することが期待されます。しかし、AI技術の進化に伴う潜在的なリスクに対処するためには、技術的な対策だけでなく、教育や法的な規制など、社会全体での取り組みが必要となるでしょう。
from Facebook and Instagram to label digitally altered content ‘made with AI’.
“Metaが選挙前にAI生成コンテンツの新ラベル政策を発表” への2件のフィードバック
Metaの新しいポリシー導入は、AI技術の急速な進化と、それによって生じる偽情報の拡散リスクに対処するための重要な一歩です。特に、選挙のような民主主義の根幹に関わるイベントにおいて、AIによって生成または変更されたコンテンツがもたらす影響は計り知れないものがあります。このようなコンテンツに「AIで作成」や「高リスク」といったラベルを付けることで、ユーザーが情報を受け取る際の警戒心を高め、より批判的な視点でコンテンツを評価するきっかけを提供することは、偽情報の拡散を防ぐ上で有効な手段と言えます。
しかし、このようなラベリングシステムの導入だけでは不十分です。AI技術は日々進化しており、より巧妙な偽情報が生成される可能性があります。そのため、ラベリングシステムも常に最新の技術進化に対応して更新される必要があります。また、技術的な対策だけでなく、ユーザー自身が情報を批判的に評価する能力を高めるための教育や、偽情報の拡散を抑制するための法的な規制など、社会全体での取り組みが求められます。
私たち研究者も、テクノロジーの進化とその社会への影響を常に監視し、テクノロジーの民主化を推進するとともに、その責任ある使用を促進することが重要です。Metaのこのような取り組みは、テクノロジーと社会の健全な関係を築くための一歩であると評価できるでしょう。
Metaの新しいポリシーに対する私の感想は、一歩前進であると同時に、慎重な楽観主義を持っています。AI技術によって生成されたコンテンツに「AIで作成」というラベルを付けることは、ユーザーが情報を消費する際により意識的な選択をするのに役立つでしょう。これは、特に政治的なコンテキストや社会的に敏感な話題において、偽情報の拡散を防ぐ上で重要なステップです。
しかし、私はAIが芸術や文化に及ぼす影響について懐疑的な立場を取っています。この技術の急速な発展が、人間の創造性や感情を模倣し、それを超えることができるかもしれないという点で、私たちは警戒する必要があります。AIによって生成されたコンテンツがリアリティを持ち、人間の作品と区別がつかなくなる可能性があるため、消費者はより警戒心を持って接するべきです。
加えて、このラベリングシステムがどの程度効果的に機能するかは、Metaがどれだけ迅速かつ正確にAI生成コンテンツを識別できるかにかかっています。技術の進化は止まらないため、検出システムも常に更新される必要があります。また、ユーザー自身も、情報を批判的に評価する能力を高める必要があります。
最後に、このポリシー変更が、AI技術の使用に対するより広範な社会的な議論を促すきっかけになることを願っています。AIによるコンテンツ生成がもたらす可能性とリスクを理解し、適切な規制やガイドラインを設けることが、私たちの文化や社会にとって重要です。