パリを拠点とする非営利団体AI Forensicsは、TikTok上で354のAI重視アカウントが1ヶ月間で43,000件の投稿を行い、45億回の視聴を獲得したと報告した。これらのアカウントは反移民的な内容や性的なコンテンツを含むAI生成素材を大量投稿している。
最も頻繁に投稿するアカウントの半数は女性の身体に関連するコンテンツに焦点を当てており、一部は未成年に見える少女を性的対象化する素材も含まれていた。投稿の半分にラベルが付けられておらず、TikTokのAIコンテンツラベルが付いているのは2%未満である。
一部のコンテンツは、Sky NewsやABCなどの既知の放送ブランドを使用した偽ニュースセグメントの形をとっていた。
調査は8月中旬から9月中旬のデータを分析した。TikTokは報告書の主張を「根拠がない」と反論し、有害なAI生成コンテンツの削除やボットアカウントのブロックに取り組んでいると述べた。
From: 
Anti-immigrant material among AI-generated content getting billions of views on TikTok
【編集部解説】
AI生成コンテンツが、ソーシャルメディアという私たちの情報空間を根本から変えつつあります。今回の調査が明らかにしたのは、単なる技術的な問題ではなく、プラットフォームエコノミーの構造的な歪みです。
AI Forensicsが8月中旬から9月中旬にかけて実施した調査は、TikTok上のAIコンテンツ蔓延の実態を数値で示しました。354のアカウントが1ヶ月で43,000件の投稿を行い、45億回もの視聴を獲得しています。これは単なる偶然ではなく、アルゴリズムを意図的に操作する組織的な試みです。
特に注目すべきは「エージェンティックAIアカウント」という新たなカテゴリーの出現です。これらは人間が散発的にAIツールを使うのではなく、AI生成コンテンツの自動大量生産に特化したアカウントです。1日70回もの投稿を行うアカウントや、同じ時刻に機械的に投稿するアカウントが確認されており、明らかに自動化されたシステムの存在を示しています。
コンテンツの内容も深刻です。最も頻繁に投稿するアカウントの半数が女性の身体に関連するコンテンツに焦点を当てており、一部には未成年に見える少女を性的対象化する素材も含まれていました。さらに、Sky NewsやABCといった既知の報道ブランドを模倣した偽ニュースセグメントも流通しています。これらは反移民的な物語を広め、社会の分断を煽る危険性があります。
ラベリングの問題も看過できません。調査によれば、投稿の半分にラベルが付けられておらず、TikTokの公式AIコンテンツラベルが付いているのはわずか2%未満です。TikTok自身は11月にプラットフォーム上に少なくとも13億件のAI生成投稿があると発表しましたが、毎日1億件以上のコンテンツがアップロードされる中で、これは氷山の一角に過ぎません。
この現象は収益化の仕組みと密接に関連しています。ベトナムやインドなどの国々では、TikTokでバイラルなAIコンテンツを作成することが新たな副業産業として成長しています。ある調査では、6つのTikTokアカウントを運営する起業家が7月だけで5,500ドル以上を稼いだことが明らかになっています。
「AIスロップ」と呼ばれる無意味で奇妙なコンテンツも増加しています。オリンピックの飛び込み競技に参加する動物や、話す赤ちゃんなど、一見無害に見えるコンテンツですが、これらもアルゴリズムを操作し、広告収入を得ることを目的としています。
プラットフォーム側の対応は後手に回っています。TikTokは11月にユーザーがAIコンテンツの表示量を調整できる機能を導入しましたが、これはあくまで「減らす」オプションであり、完全に排除するものではありません。また、C2PAメタデータや不可視ウォーターマーキングといった技術的対策も導入されていますが、専門家はこれらが簡単に回避可能であると指摘しています。
より深刻なのは、このAI生成コンテンツが政治的操作にも利用されていることです。ドイツの極右政党AfDは選挙キャンペーンでAI生成画像を使用し、架空の移民の群れや理想化されたドイツ人家族のイメージを作り出しました。スペイン語圏コミュニティを標的にした偽ニュースアカウントは、著名なラテン系ジャーナリストのAI生成アバターを使用し、移民に関する虚偽情報を拡散しています。
この問題の本質は、テクノロジーそのものではなく、エンゲージメントを最大化することを最優先するプラットフォームの設計思想にあります。AIツールは単なる手段であり、問題の根源は広告収入に依存するビジネスモデルと、バイラリティを促進するアルゴリズムの組み合わせです。
私たちは今、コンテンツが事実上無限になり得る時代の入り口に立っています。しかし人間の注意力は依然として有限です。この非対称性が、情報環境の質を劣化させる構造的な問題を生み出しています。プラットフォームは、エンゲージメントと真正性のバランスをどう取るかという根本的な課題に直面しています。
【用語解説】
AI Forensics（AIフォレンジクス）
パリを拠点とする非営利団体で、ソーシャルメディアプラットフォームにおけるアルゴリズムの透明性と説明責任を追求する研究組織である。欧州デジタルサービス法（DSA）の遵守状況を監視し、AI生成コンテンツやアルゴリズムの偏りに関する調査を実施している。
エージェンティックAIアカウント（Agentic AI Accounts）
AI生成コンテンツの自動大量生産に特化したソーシャルメディアアカウントのカテゴリー。人間が散発的にAIツールを使用するのではなく、生成AIを用いて産業規模で合成画像や動画を制作し配信する。AI Forensicsの調査では、このようなアカウントが153件確認されている。
AIスロップ（AI Slop）
生成AIで作成された低品質・大量生産のデジタルコンテンツを指す軽蔑的な用語。無意味で奇妙、あるいは繰り返しの多い内容が特徴で、エンゲージメントと広告収入を目的としている。オリンピックに参加する動物や話す赤ちゃんなど、バイラリティを狙った非現実的なコンテンツが典型例である。
C2PA（Coalition for Content Provenance and Authenticity）
デジタルコンテンツの出所と真正性を証明するための業界標準規格。画像や動画のメタデータに制作方法の詳細を埋め込むことで、AI生成コンテンツかどうかを識別可能にする。ただし、メタデータは容易に削除できるため、完全な解決策とはなっていない。
アルゴリズムのゲーミング（Algorithm Gaming）
プラットフォームのレコメンデーションアルゴリズムを意図的に操作し、コンテンツの露出を最大化する手法。大量投稿や特定時刻への投稿集中、バイラル性の高いハッシュタグの使用などが含まれる。
欧州デジタルサービス法（DSA: Digital Services Act）
2024年に施行されたEUの規制で、大規模オンラインプラットフォームに対してコンテンツモデレーション、透明性、説明責任の義務を課している。AI生成コンテンツの適切なラベリングもこの法律の要件に含まれる。
【参考リンク】
AI Forensics（外部）
パリを拠点とする非営利研究組織。ソーシャルメディアプラットフォームにおけるアルゴリズムの透明性とAI生成コンテンツの問題を調査している。
TikTok（外部）
ByteDance社が運営する短編動画共有プラットフォーム。世界で16億人以上の月間アクティブユーザーを持つ。AI生成コンテンツの管理が課題となっている。
C2PA（Coalition for Content Provenance and Authenticity）（外部）
Adobe、Microsoft、Intel等が参加するコンソーシアム。デジタルコンテンツの出所を証明する技術標準を開発している。
【参考記事】
AI Generated Algorithmic Virality | AI Forensics（外部）
2025年6月に実施されたTikTokとInstagramにおけるAI生成コンテンツの調査報告。検索結果の25%に合成AI画像が含まれていた。
New AI video tools are fuelling violent racism on TikTok（外部）
GoogleのVeoなどのAI動画生成ツールを使用した反移民的コンテンツが850万回近く視聴されていた実態を報告している。
‘AI slop’ videos may be annoying, but they’re racking up views — and ad money（外部）
AIスロップ動画が数百万回の視聴と広告収入を生み出している実態を調査。月に5,500ドル以上を稼ぐ事例を報告している。
‘Side job, self-employed, high-paid’: behind the AI slop flooding TikTok and Facebook（外部）
インド、ベトナム、中国などでAI生成コンテンツ制作が副業産業として成長している実態を報告している。
What’s behind the TikTok accounts using AI-generated versions of real Latino journalists?（外部）
約90のTikTokアカウントが著名なラテン系ジャーナリストのAI生成アバターを使用し虚偽情報を拡散していた。
TikTok Adds Option To Limit AI Content in Feed（外部）
TikTokが2025年11月にAIコンテンツを制限するオプションを追加。不可視ウォーターマーキング技術を導入した。
【編集部後記】
私たちが日々目にするソーシャルメディアのフィードは、もはや人間だけが作り出すものではなくなりつつあります。今回の調査が明らかにしたのは、AIが単なるツールではなく、情報空間そのものを変容させる力を持ち始めているという現実です。
特に深刻なのは、反移民コンテンツのような悪質な素材がAIによって大量生産され、アルゴリズムを通じて何億人もの目に触れているという事実です。これは単なる「偽情報」の問題ではありません。AIの力を借りて産業規模で生産される憎悪は、社会の分断を加速させ、マイノリティへの偏見を助長し、民主主義の基盤そのものを脅かしています。しかもその多くが、広告収入という経済的インセンティブによって駆動されているのです。
バイラルなコンテンツの背後に何があるのか、誰が何の目的でそれを作っているのか。私たちinnovaTopia編集部も、皆さんと共にこの新しい情報環境をどう読み解き、どう対峙していくべきか、真剣に考え続けています。技術の進化は止められませんが、その力が人々を傷つけるために使われるのを黙って見過ごすわけにはいきません。より良い情報空間を守る責任は、プラットフォーム企業だけでなく、私たち一人ひとりにあるのではないでしょうか。
