英国内務省が資金提供した過激主義対策教育ゲーム「Pathways: Navigating the Internet and Extremism」に登場するキャラクター「アメリア」が、極右のソーシャルメディアミームとして悪用されている。
紫髪の「ゴスガール」として描かれたアメリアは、本来11〜18歳の若者を極右過激主義から遠ざけるために作られたキャラクターだったが、XのユーザーがGrok AIツールを使って極右メッセージを含むミームを大量に生成している。
偽情報監視企業Logicallyの分析によると、1月9日に匿名アカウントが投稿したアメリアミームは140万回閲覧され、1月15日以降は1日約10,000件に増加、水曜日にはX上だけで11,137件に達した。Elon Muskもアメリア暗号通貨トークンを宣伝するアカウントをリツイートした。ゲーム制作会社Shout Out UKのCEO Matteo Bergaminiは「憎悪の収益化」と批判し、同社はヘイトメールの標的となっている。
From: 
AI-generated British schoolgirl becomes far-right social media meme
【編集部解説】
この事案は、AI技術が持つ二面性を鮮明に示す象徴的な出来事です。
英国政府が若者を過激主義から守るために税金を投じて開発した教育ツールが、皮肉にも極右勢力のプロパガンダ手段として転用されてしまいました。特に注目すべきは、この悪用が技術的な障壁なく誰でも実行できる点です。XのGrok AIのような一般向け生成AIツールがあれば、数クリックで無数のバリエーションを作り出せます。
元々のゲーム「Pathways」は、若者が極右的な集会に参加するかどうかといった選択肢を通じて、過激主義の危険性を学ばせる教材でした。しかし「かわいいゴスガール」というビジュアルデザインが、意図とは逆に若い男性層の共感を集める結果となりました。
数字が物語るのは、この現象の急速な拡大です。1月9日の最初の投稿から、わずか1週間で1日あたりの投稿数が500件から10,000件へと20倍に増加しています。Logicallyの分析では、極右メッセージの拡散に長けた匿名アカウントが起点となり、その後国際的に広がりました。
さらに深刻なのは、憎悪の「収益化」という新たな次元です。アメリア暗号通貨の登場により、人種差別的なミームが金融商品として取引される事態になっています。中国語でやり取りするTelegramグループが価格操作を議論しているという報告は、この問題がもはや単なる思想の拡散を超えた組織的な経済活動になっていることを示しています。
Elon Muskがアメリア暗号通貨を宣伝するアカウントをリツイートした事実も重要です。世界最大級のSNSプラットフォームの所有者による行為が、この動きに正当性を与えかねない影響を持ちます。
Institute for Strategic Dialogue（ISD）のアナリストが指摘する「反体制極右」という概念も重要です。これは従来の政治組織とは異なり、ミーム文化やオンラインコミュニティを通じて結びつく緩やかなネットワークを指します。性的な要素を含むイメージが若い男性をターゲットにしている点も、この運動の戦略的な側面を示しています。
Shout Out UKがヘイトを受けている事実は、オンラインの憎悪が現実世界の暴力につながる危険性を示しています。同社CEOが強調するように、元のゲームは「大量移民への疑問が本質的に間違い」とは述べておらず、批判的思考を促す教材でした。しかし、その文脈は完全に失われています。
この事案が提起するのは、生成AI時代における教育と規制の根本的な課題です。善意で作られたコンテンツが瞬時に悪用され、制御不能な速度で拡散する現実に、私たちはどう対応すべきなのか。技術の民主化は表現の自由を拡大する一方で、憎悪の民主化をも実現してしまいました。
【用語解説】
Grok AI
XのオーナーであるElon Muskが率いるxAI社が開発した生成AIチャットボット。X（旧Twitter）のプレミアムユーザー向けに提供されており、画像生成機能も備えている。
Prevent
英国政府の対テロ戦略の一環として2003年に開始されたプログラム。過激主義やテロリズムに引き込まれるリスクのある個人を早期に特定し、支援する取り組みである。
シットポスター（shitposters）
意図的に低品質または挑発的なコンテンツを投稿することで、議論を混乱させたり注目を集めたりするインターネットユーザーを指すスラング。
ミームコイン（meme coin）
インターネットミームやジョークをベースにした暗号通貨の総称。投機目的で取引されることが多く、価値の変動が極めて激しい。
【参考リンク】
xAI（外部）
Elon MuskによるAI企業。Grok AIを開発・提供している。
UK Government – Prevent duty guidance（外部）
英国政府によるPreventプログラムの公式ガイダンス。
Shout Out UK（外部）
政治・メディアリテラシー教育を提供する英国企業。
Logically（外部）
AI技術を活用して偽情報や誤情報を監視・分析する英国企業。
Institute for Strategic Dialogue (ISD)（外部）
過激主義、偽情報、分極化に対抗する国際的な研究機関。
【編集部後記】
善意で作られた教育ツールが、まったく逆の目的で使われてしまう。この事案は、私たちが生成AI時代に直面する複雑な問題を凝縮しています。技術の進化は確実に私たちの可能性を広げていますが、同時にその力は誰の手にも渡ります。アメリアのミームは、単なるインターネットの珍現象ではなく、デジタル空間における思想の拡散メカニズムと収益化の実態を示す重要なケーススタディです。あなたがこの記事を読んでどう感じたか、そしてこうした現象にどう向き合うべきか、ぜひ考えを深めていただければと思います。
