選挙悪用防止へAI大手が躍起: Google、Meta、OpenAIが制限策を発表

Last Updated on 2024-06-17 05:02 by 門倉 朋宏

人工知能（A.I.）の主要開発者であるAnthropic、OpenAI、Google、Metaなどが、技術の悪用を防ぐために行動を起こしている。これらの企業は、技術が民主主義を脅かすことがないように、そのツールがより強力になるにつれて、特に世界中で重要な選挙が行われる年に、A.I.の使用に制限を設けている。

OpenAIは、選挙でのツールの悪用を防ぐために、実在の人物や機関を装うチャットボットの作成を禁止するなどの措置を講じていると発表した。Googleは、特定の選挙関連のプロンプトに対するA.I.チャットボットBardの応答を制限し、不正確な情報を避ける方針を示した。Metaは、FacebookとInstagramのプラットフォーム上でA.I.によって生成されたコンテンツをより明確にラベル付けし、有権者が実際の情報と偽情報を容易に識別できるようにすると約束した。

Anthropicは、政治キャンペーンやロビー活動への技術の適用を禁止し、ルールに違反するユーザーに対して警告または利用停止処分を行うと発表した。同社は、自動的に誤情報や影響操作を検出し、ブロックするために訓練されたツールを使用していると述べた。

これらの取り組みは、世界中で少なくとも83の選挙が予定されている年に、A.I.企業が普及させた技術を管理しようとする試みの一環である。しかし、技術企業がますます洗練された技術を推進する中で、これらの制限の効果は不明である。OpenAIは、リアルなビデオを即座に生成できる技術Soraを発表したが、このようなツールは政治キャンペーンでテキスト、音声、画像を生成するために使用され、事実とフィクションを曖昧にし、有権者がコンテンツが実際にリアルかどうかを判断できるかどうかについての疑問を提起している。

【ニュース解説】

世界中で重要な選挙が行われる年において、Anthropic、OpenAI、Google、Metaなどの人工知能（A.I.）の主要開発者たちは、技術の悪用を防ぐために積極的な行動を起こしています。これらの企業は、A.I.が民主主義を脅かすことがないように、そのツールがより強力になるにつれて、A.I.の使用に制限を設けています。

例えば、OpenAIは選挙でのツールの悪用を防ぐために、実在の人物や機関を装うチャットボットの作成を禁止する措置を講じました。Googleは、A.I.チャットボットBardが特定の選挙関連のプロンプトに対して応答することを制限し、不正確な情報の拡散を避ける方針を示しました。Metaは、FacebookとInstagram上でA.I.によって生成されたコンテンツをより明確にラベル付けし、有権者が実際の情報と偽情報を容易に識別できるようにすると約束しました。

Anthropicは、政治キャンペーンやロビー活動への技術の適用を禁止し、ルールに違反するユーザーに対して警告または利用停止処分を行うと発表しました。同社は、誤情報や影響操作を自動的に検出し、ブロックするために訓練されたツールを使用していると述べています。

これらの取り組みは、世界中で少なくとも83の選挙が予定されている年に、A.I.企業が普及させた技術を管理しようとする試みの一環です。しかし、技術企業がますます洗練された技術を推進する中で、これらの制限の効果は不明です。特に、OpenAIが発表したリアルなビデオを即座に生成できる技術Soraのようなツールは、政治キャンペーンでテキスト、音声、画像を生成するために使用される可能性があり、事実とフィクションの境界を曖昧にすることで、有権者がコンテンツが実際にリアルかどうかを判断することを難しくしています。

このような状況は、A.I.技術の進化がもたらすポジティブな側面と潜在的なリスクの両方を浮き彫りにしています。一方で、A.I.は選挙プロセスを効率化し、有権者への情報提供を改善する可能性を秘めていますが、一方で、誤情報の拡散や選挙への不正な介入といったリスクも高まっています。このため、A.I.の開発者や利用者は、技術の進化に伴う倫理的な責任を常に意識し、適切な規制やガイドラインの策定に努める必要があります。将来的には、A.I.技術の進化と社会的な影響をバランス良く管理するための国際的な枠組みの構築が求められるでしょう。

from In Big Election Year, A.I.’s Architects Move Against Its Misuse.