同じ選手に向けられた同じ中傷の言葉でも、書き込まれた場所がInstagramなら自動的に隠され、Xなら隠せません。FIFAが2026年大会で退けた有害な可能性のある投稿は700万件。ところがこの巨大な盾には、明確に届かない一角が残っています。守れる場所と守れない場所を分けているのは、AIの性能ではありませんでした。
FIFAは、Social Media Protection Service（SMPS）により、FIFAワールドカップ2026開幕の6月11日以降、5300万件を超える投稿・コメントをモデレーションしたと発表した。
有害な可能性のある投稿・コメントは700万件以上退けられ、これはFIFAワールドカップ2022の47万件の14倍にあたる。誹謗中傷的・脅迫的な投稿への対処・通報は20万件超で、カタール2022の1万9600件を上回った。SMPSチームはAI検知メッセージ50万件以上を評価し、1万5000件超を追加対応にエスカレーション、1000件超の脅迫を法執行機関を含む当局へ引き渡した。No RacismキャンペーンはFIFA、TikTok、アトランタ市によるイベントを含み、関連コンテンツは10億回超の視聴を記録した。決勝は7月19日にニューヨーク・ニュージャージー・スタジアムで行われ、スペインが延長の末アルゼンチンを1－0で下し、2度目の優勝を果たした。
【編集部解説】
数字だけを見ると、この発表は「AIがヘイトをうまく退けた」という成功譚に見えます。ですが、innovaTopiaが注目したいのは、その裏側にある「仕組みの構造」と「AIの手が届かない場所」です。
まず、今回発表された数字を並べてみます。大会期間中にモデレーションされた投稿・コメントは5300万件で、これは最も広い網の数字です。グループステージ時点のFIFA発表では、この「モデレーション総数」にスパムやbot・偽アカウントによる投稿も含まれると明記されていました。最終的な5300万件超も同様の広い集計とみられますが、7月18日の発表では内訳が改めて示されていません。
一方、有害の可能性ありとして退けられたのが700万件、選手・コーチ・関係者に向けられたAI検知メッセージのうち人間のチームがレビュー・評価したのが50万件超、追加対応へ回されたのが1万5000件、当局へ引き渡された悪質な脅迫が1000件超です。ここで注意したいのは、これらが大きい数から小さい数へ一直線に絞り込まれた同じ母集団とは限らない点です。SMPSは、投稿を検知して人間が評価・通報する「監視・分析」の系統と、コメントを自動的に隠す「モデレーション」の系統という、複数の処理を併せ持っています。
そのうえで監視・分析の系統に注目すると、AIが広く候補を洗い出し、その中から人間が段階的に深刻なものを絞り込んでいく流れが見えてきます。全自動ではなく、最終的な深刻な判断は人間が担う——いわゆるヒューマン・イン・ザ・ループの設計です。生成AI時代のモデレーションを考えるうえで、この「AIの速度」と「人間の判断」の役割分担は、ひとつの参照点になります。
技術的な作りも巧妙です。提供企業Respondologyによると、システムは3万を超えるキーフレーズに加え、生成AIと人間のモデレーターを組み合わせています。キーフレーズによる判定は0.5秒未満、生成AIによる判定は3秒未満とされ、誹謗中傷コメントはごく短時間で非表示化されます。投稿した本人には自分のコメントが見えたままで、非表示・通報されたことに気づかず、試合会場への入場禁止やクラブからの処分、法的措置につながる場合もあります。「加害者に気づかせない」という設計には、通報を察知して投稿を消されたり回避行動を取られたりするのを防ぐ狙いがあると考えられます（FIFAや提供企業がこの理由を公式に説明した資料は確認できていないため、あくまで編集部の見立てです）。
ここで、この記事の見出しには表れないもうひとつの事実に触れておきます。この保護のうち「コメントを自動的に非表示にする機能」は、提供企業の対応一覧では、Meta傘下のFacebookとInstagram、YouTube、TikTok、Threadsで働く一方、イーロン・マスク氏のXでは機能しません。Xでは、投稿者が非表示にした返信も、第三者を含む利用者が「非表示の返信」アイコンから開いて閲覧できます。そのため、返信を対象者や公衆から完全に見えなくする自動モデレーションを適用できないのです。過去の大会報告ではXも監視・検知・通報の対象に含まれてきましたが、この「自動的に隠す」層だけが適用できない、という区別になります。同じ大会の同じ選手に向けられた中傷であっても、どのプラットフォームに書き込まれたかで、自動的に隠される保護を受けられるかどうかが変わってしまうわけです。
この点は、AIによる保護を語るときに見落とされがちな論点だと編集部は考えます。どれほど高性能な検知エンジンを用意しても、プラットフォームがその接続や機能を許さなければ、盾の一部は届きません。技術の性能そのものではなく、プラットフォーム側の仕様が、保護の及ぶ範囲を先に区切っているとも言えます。
背景として、なぜ2026年大会でこれほど中傷が増えたのかも押さえておきたいところです。今大会はアメリカ・カナダ・メキシコの共催で、そのうちアメリカ国内だけで78試合が組まれています。合法化されたスポーツ賭博の広がりもあって、中傷の量が増えると見込まれていました。賭けの対象になった選手が、結果次第で憎悪をぶつけられる——スポーツとギャンブルとSNSが結びついた、現代特有の構造がここにあります。ただし、件数が跳ね上がった背景には、SMPS自体の検知技術や保護範囲が向上したことも含まれるとFIFAは説明しており、賭博だけを唯一の原因として切り分けられるわけではありません。
そもそもSMPSは、2022年のカタール大会で、選手会にあたるFIFPROとの協働として始まった仕組みです。2022年の開始以来、50以上の言語で3000万件を超える誹謗中傷が排除・非表示にされてきました。プレミアリーグでは、ユーロ2020決勝でPKを外した選手たちが人種差別を浴びた出来事が、こうしたAI対策の広がりを後押しした背景のひとつとされています（各クラブの導入時期はさまざまで、すべてが同じ一件を直接の契機としたわけではありません）。選手の評判を守るという話にとどまらず、メンタルヘルスと労働環境の問題として捉え直されてきた——この流れこそが、SMPSの本質だと言えます。
最後に、ひとつの見立てを添えます。プラットフォーム各社が自ら十分に踏み込まない領域を、競技団体と第三者のAIが埋めている——これがいまの構図です。それは有効な応急処置である一方、本来プラットフォームが担うべき責任を外部に肩代わりさせている、とも読めます。AIが人を守る技術として成熟していくのか、それとも制度の不作為を覆い隠す便利な道具にとどまるのか。その分岐点に、私たちはいま立っているのかもしれません。
【関連記事】
TikTokがAI肖像検出をテスト、YouTubeに続き「顔のなりすまし」を本人が直接通報可能に
プラットフォーム自身がAIで本人保護機能を追加する動き。競技団体と第三者AIが担う本記事の構図とは主体が異なる。
FIFAワールドカップ2026を狙うサイバー攻撃―脅威の全貌と防御の最前線
同じW杯2026のデジタル防御でも、対象はチケット詐欺やDDoS。SNS上の誹謗中傷モデレーションとは守る領域が異なる。
Metaオーバーサイト・ボード、トランス差別動画を『表現の自由』と判断─AIモデレーションの文化的限界
事後的な表現の裁定とAIモデレーションの文化差を扱う一本。選手保護のための事前の自動非表示と対照的に読める。
【関連記事】
TikTokがAI肖像検出をテスト、YouTubeに続き「顔のなりすまし」を本人が直接通報可能に
プラットフォーム自身がAIで本人保護機能を追加する動き。競技団体と第三者AIが担う本記事の構図とは主体が異なる。
FIFAワールドカップ2026を狙うサイバー攻撃―脅威の全貌と防御の最前線
同じW杯2026のデジタル防御でも、対象はチケット詐欺やDDoS。SNS上の誹謗中傷モデレーションとは守る領域が異なる。
Metaオーバーサイト・ボード、トランス差別動画を『表現の自由』と判断─AIモデレーションの文化的限界
事後的な表現の裁定とAIモデレーションの文化差を扱う一本。選手保護のための事前の自動非表示と対照的に読める。
【編集部後記】
非表示という仕組みには、加害者に手応えを与えないという静かな効果があります。自分の言葉が消されたと分かれば人はやり方を変えますが、見えたままなら、届いていないことに気づかないまま投稿を続ける。攻撃のエネルギーが空を切り続ける設計です。
ただ、これは中傷そのものを減らす仕組みではありません。標的の視界から遠ざけているだけで、言葉は消えずにどこかへ残ります。選手を守る盾が、加害の総量を測る物差しを同時に手放しているとしたら、私たちは何をもって「対策が効いた」と判断すればいいのでしょうか。
【用語解説】
モデレーション（moderation）
SNSや掲示板などに投稿された内容を監視し、有害・不適切なものを非表示にしたり削除したりする管理行為である。SMPSの場合は、選手や関係者に向けられた誹謗中傷コメントを検知し、対象者の目に触れないよう隠すことを指す。
ヒューマン・イン・ザ・ループ（human in the loop）
AIによる自動処理の過程に人間の判断を組み込む設計思想である。AIが広く候補を洗い出し、重要な最終判断は人間が下すことで、機械の速度と人間の慎重さを両立させる。SMPSがAI検知後に人間チームのレビューを挟む構造がこれにあたる。
エスカレーション
一次的な対応では処理しきれない案件を、上位の担当や専門部署、外部機関へ引き上げて対応することである。SMPSでは、AIが検知した中傷のうち深刻なものを追加対応や当局への通報へと段階的に引き上げている。
合法スポーツ賭博（legal sports betting）
法律で認められた枠組みのもとで行われるスポーツの勝敗などへの賭けである。アメリカでは近年、州単位で合法化が進んだ。賭けの結果と選手のプレーが直結するため、敗因とみなされた選手に憎悪が向かいやすいという副作用が指摘されている。
【参考リンク】
FIFA Social Media Protection Service（FIFA公式）（外部）
選手やチーム、審判をオンライン上の中傷から守るFIFAの公式保護サービス解説ページ。目的と仕組みを確認できる基礎資料。
FIFA（国際サッカー連盟／公式サイト）（外部）
世界のサッカーを統括する国際競技団体の公式サイト。大会情報や社会貢献キャンペーン、各種プレスリリースを掲載している。
FIFPRO（国際プロサッカー選手会／公式サイト）（外部）
世界のプロ選手を代表する労働組合。FIFAと協働でSMPSを立ち上げ、選手のメンタルヘルスと労働環境の保護に取り組む。
TikTok（公式サイト）（外部）
ショート動画中心のSNS。今大会ではFIFA、アトランタ市とともにヘイトスピーチ対策イベントを共催し、差別対策で協力した。
【参考記事】
Soccer-FIFA detects 7 million abusive comments targeting players and staff during World Cup（外部）
ロイター配信。700万件検知や14倍、5300万件モデレーションを伝える独立報道。決勝カード（スペイン対アルゼンチン）にも言及している（決勝は7月19日に実施され、スペインが優勝）。
Fifa expands AI abuse filtering for World Cup players（外部）
3万キーワードで2秒以内に非表示化、Xでは機能しない仕組み、米国78試合と合法賭博という背景を解説した記事。
FIFA Social Media Protection Service identifies 89,000 abusive posts during FIFA World Cup 2026™ group stage（外部）
グループステージ集計。検知中傷の11%が人種差別で最多、モデレーション総数はスパムやbotも含むと示す。
FIFA and FIFPRO release report on the Social Media Protection Service at the FIFA Women’s World Cup 2023™（外部）
SMPSが2022年カタール大会でFIFPROとの協働で始まった経緯と、AI活用の仕組みを押さえる背景資料。
