Last Updated on 2024-05-30 13:07 by 荒木 啓介
政治コンサルタントのスティーブン・クレイマーが、アメリカ合衆国大統領ジョー・バイデンを模倣したディープフェイクのロボコールを作成し、有権者に投票を控えさせる目的で使用したことにより、重罪の選挙妨害と候補者のなりすましの軽罪で起訴された。クレイマーはこのディープフェイクのために150ドルを支払い、ニューハンプシャー州の民主党予備選挙で投票しないよう呼びかける内容のスクリプトを書き、AIを使用して大統領の声を模倣した音声を録音させた後、テレマーケティング会社に雇ってその録音を電話で有権者に再生させた。彼の目的は、バイデン支持者を投票所から遠ざけ、低投票率を目指し、ニューハンプシャーでの大統領指名争いにおいてディーン・フィリップス議員（民主党、ミネソタ州）がバイデンに挑戦する機会を増やすことだった。
クレイマーは、このディープフェイクによって複数の調査が行われたにもかかわらず、後悔の意を表さなかった。彼は政治分野におけるAIの危険性に注意を喚起するために最初からこの計画を立てたと主張し、他の人々が同様の行為を繰り返すのを阻止するためには、より多くの取り締まりが必要になると述べた。ロボコール騒動の時点で、フィリップス議員がクレイマーに25万ドル以上を支払っていたことが、選挙資金報告書によって明らかにされている。
連邦通信委員会（FCC）は、クレイマーに600万ドルの罰金を科し、ロボコールの送信と誤ったラベリングを行った音声サービスプロバイダーであるLingo Telecomに対して200万ドルの罰金を科すことを提案した。
【編集部追記】クレイマー氏の目的は達せられたとのでは？
25万ドルのコンサルフィーをもらい、150ドルでディープフェイクを作り、600万ドルの罰金。
彼は「割に合わない」ことを立証できたと思います。
参考記事
AIが作り出す選挙のディスインフォメーションが世界を欺いている（外部記事）
AIが選挙に影響を与える準備はできているのか（外部記事）
AIによるディープフェイクの悪用は、政治の世界だけでなく、ビジネスや個人の生活にも大きな影響を及ぼす可能性があります。例えば、企業の経営者になりすまして株価操作を行ったり、有名人の顔を使って偽のスキャンダルを流布したりするなど、様々な犯罪に利用されるおそれがあります。
また、ディープフェイク技術の発達は、真実と虚偽の境界線を曖昧にし、人々の情報に対する信頼を揺るがしかねません。「見たものが全て真実とは限らない」という認識が広がることで、逆に真実の情報が信じてもらえなくなるパラドックスも生じるでしょう。
AIの倫理的な利用と規制のあり方については、技術者だけでなく、政治家や法律家、市民社会が協力して議論を重ねていく必要があります。一方で、ディープフェイク検知技術の開発や、メディアリテラシー教育の充実など、技術と教育の両面からアプローチすることも欠かせません。
読者のみなさんへ質問
ぜひ、コメント欄にご意見ご感想をお寄せください。
【ニュース解説】
スティーブン・クレイマーという政治コンサルタントが、アメリカ合衆国大統領ジョー・バイデンを模倣したディープフェイク技術を用いたロボコールを作成し、ニューハンプシャー州の民主党予備選挙での投票を控えさせる目的で使用した事件が発生しました。この行為により、クレイマーは重罪の選挙妨害と候補者のなりすましの軽罪で起訴され、連邦通信委員会（FCC）から600万ドルの罰金を科されました。また、このロボコールを送信し、誤ったラベリングを行った音声サービスプロバイダーであるLingo Telecomに対しても200万ドルの罰金が提案されています。
この事件は、政治分野におけるAI技術の悪用という新たな問題を浮き彫りにしています。ディープフェイク技術は、人工知能を用いて人物の顔や声を非常にリアルに模倣することができるため、選挙のような重要な政治的プロセスにおいて、有権者を誤誘導する目的で悪用されるリスクがあります。このような行為は、民主主義の根幹を揺るがす可能性があり、選挙の公正性を損なうことにつながります。
クレイマーは、自身の行為を政治分野におけるAIの危険性に対する注意喚起と位置づけ、他の人々が同様の行為を繰り返すのを阻止するためには、より多くの取り締まりが必要だと主張しています。しかし、彼の行為が実際に政治分野におけるAI技術のリスクに対する意識を高め、規制強化につながるかどうかは不透明です。
この事件は、ディープフェイク技術の進化に伴い、政治的な偽情報の拡散がより巧妙かつ効果的になる可能性があることを示しています。そのため、政府や規制機関は、技術の進歩に対応するための新たな規制やガイドラインの策定、有権者のデジタルリテラシーの向上など、対策を講じる必要があります。また、テクノロジー企業や研究者は、ディープフェイクの検出技術の開発を進めることが求められます。
長期的には、このような事件が繰り返されることなく、技術の進歩が民主主義を支える形で活用されるためには、社会全体での意識の向上と、技術の倫理的な使用に関する議論が不可欠です。政治、技術、倫理が交差するこの問題は、今後も注目されることでしょう。
from Mastermind Behind Biden AI Deepfake Indicted for Robocall Scheme.
