Last Updated on 2024-07-11 04:48 by 門倉 朋宏
Moody’sは、AIによって生成されたディープフェイクの政治コンテンツが選挙の信頼性を脅かし、米国の機関の信用を損なう可能性があると警告した。連邦通信委員会(FCC)のJessica Rosenworcel委員長は、政治的なテレビ、ビデオ、ラジオ広告がAI生成コンテンツを使用した場合にそれを開示することを要求する新ルールを提案した。この提案はソーシャルメディアを直接対象としていないが、連邦選挙委員会は全プラットフォームにAI開示ルールを拡大することを検討している。
MetaやGoogleなどの企業は、AI操作コンテンツに関する自主規制を行っているが、業界標準は不足している。Moody’sの報告書によると、ディープフェイクは政府や非政府組織によってプロパガンダや社会不安、最悪の場合はテロリズムを引き起こすために「既に武器化されている」と警告している。しかし、米国の選挙システムの分散化された性質と既存のサイバーセキュリティポリシーは、ある程度の保護を提供するとMoody’sは述べている。
州や地方政府はディープフェイクと無ラベルのAIコンテンツをさらにブロックする措置を講じているが、技術進歩を妨げる懸念と言論の自由の法律が一部の州議会でプロセスを遅らせている。Moody’sによると、2月時点で州議会では週に50件のAI関連の法案が提出されており、ディープフェイクに焦点を当てたものも含まれている。Moody’sは、ディープフェイクが政治的結果に影響を与える能力を人々が認識しているだけで、「選挙プロセスと政府機関の信用性に対する公衆の信頼を損なう」リスクがあると指摘している。
【ニュース解説】
AIによって生成されたディープフェイクの政治コンテンツが、選挙の信頼性を脅かし、米国の機関の信用を損なう可能性があると、Moody’sが警告しています。ディープフェイクとは、AI技術を用いて作成された偽の映像や音声のことで、実際には存在しない言動をリアルに見せかけることができます。この技術が選挙期間中に悪用されると、有権者を誤解させ、分断を深め、不和を引き起こす可能性があります。
連邦通信委員会（FCC）のJessica Rosenworcel委員長は、政治的なテレビ、ビデオ、ラジオ広告において、AI生成コンテンツを使用した場合にそれを開示することを要求する新ルールを提案しました。この提案はソーシャルメディアを直接対象としていませんが、連邦選挙委員会は全プラットフォームにAI開示ルールを拡大することを検討しています。
MetaやGoogleなどの企業は、AI操作コンテンツに関する自主規制を行っていますが、業界全体での標準はまだ確立されていません。ディープフェイクは、政府や非政府組織によってプロパガンダや社会不安、テロリズムを引き起こすために既に使用されているとMoody’sは警告しています。しかし、米国の選挙システムの分散化された性質と既存のサイバーセキュリティポリシーは、これらの脅威からある程度の保護を提供しています。
州や地方政府は、ディープフェイクと無ラベルのAIコンテンツに対するさらなる措置を講じていますが、技術進歩を妨げる懸念や言論の自由に関する法律が一部の州議会でプロセスを遅らせています。Moody’sによると、ディープフェイクが政治的結果に影響を与える能力を人々が認識しているだけで、選挙プロセスと政府機関の信用性に対する公衆の信頼を損なうリスクがあります。
このような背景の中、ディープフェイクの悪用は、選挙の信頼性だけでなく、民主主義の基盤そのものを揺るがす可能性があります。一方で、AI技術の進化は止まらず、その利用はますます広がっています。このため、技術の進歩と社会的な課題のバランスを取りながら、適切な規制や対策を講じることが重要です。AI技術のポジティブな側面を活かしつつ、潜在的なリスクを最小限に抑えるためには、政府、企業、そして市民社会が協力して取り組む必要があります。
from Election deepfakes could undermine institutional credibility, Moody's warns.
