欧州委員会は2026年1月、イーロン・マスク氏のXに対して、生成AIモデルGrokが児童を含む性的画像を生成できる機能を提供していた問題で、デジタルサービス法(DSA)に基づく調査を開始した。
委員会は、XがEU内でGrokを展開する際のリスク評価と軽減措置が適切だったかを調べる。DSAは2022年に制定され、児童性的虐待素材を含む違法コンテンツの拡散防止権限を持つ。
X側は児童性的搾取や非同意のヌードに対してゼロトレランスを維持していると主張し、有料サブスクリプション非加入者向けに画像生成機能をオフにするなどの変更を実施した。DSAは年間総売上高の最大6%の罰金を科す権限があり、Xの場合は推定で1億7400万ドルとなる可能性がある。欧州委員会は2023年12月に開始した別の調査も拡大し、広告透明性などの規則違反で既に1億2000万ユーロの罰金を科している。
From: 
EU looking into Elon Musk’s X after Grok produces deepfake sex images
【編集部解説】
今回の事案は、生成AIがもたらす深刻な安全性の問題と、その規制をめぐる欧州と米国の対立が表面化した象徴的な出来事です。
イーロン・マスク氏のxAIが開発したGrokは、2024年12月に画像生成モデル「Aurora」を実装しました。当初、Auroraは高品質な画像生成能力で注目を集めましたが、問題は2025年12月29日に1クリックで画像編集できる機能が追加されてから急速に悪化しました。この機能により、ユーザーは他人が投稿した画像を「ビキニを着せる」「服を脱がす」といった簡単な指示で性的に改変できるようになったのです。
英国の非営利団体Centre for Countering Digital Hate(CCDH)の調査によると、2025年12月29日から2026年1月8日までのわずか11日間で、Grokは推定300万枚の性的画像を生成しました。これは1分あたり約190枚という驚異的なペースです。さらに深刻なのは、そのうち約23,000枚が未成年者を描写していたと推定される点です。被害者には著名人も含まれており、テイラー・スウィフトやセレーナ・ゴメス、さらには政治家までもが無断で性的画像化されました。
X側は2026年1月9日に画像編集機能を有料会員限定に変更しましたが、これは「性的画像生成を収益化している」として批判を浴びました。その後1月14日に「服を脱がす」機能を一部制限しましたが、対応は限定的で、スタンドアロンのGrokアプリでは制限が適用されていないという報告もあります。
この問題の背景には、マスク氏がGrokを「規制が少なく、エッジの効いた」AIとして位置づけていることがあります。他のAI企業が安全性を優先する「セーフティ・バイ・デザイン」の原則を採用する中、xAIは「制限を最小限にする」アプローチを取ってきました。その結果、本来防ぐべきコンテンツの大量生成を許してしまったのです。
EUのデジタルサービス法(DSA)は、こうした事態に対処するために2022年に制定されました。月間4,500万人以上のEUユーザーを持つ「超大規模オンラインプラットフォーム(VLOP)」には、システミックリスクの評価と軽減措置が義務付けられています。違反した場合、年間総売上高の最大6%という巨額の罰金が科される可能性があります。Xの推定売上高29億ドルを基準とすると、最大1億7400万ドル(約256億円)の罰金となります。
EUは既に2023年12月からXに対する調査を開始しており、広告透明性や研究者へのデータアクセス、誤解を招く青いチェックマークシステムの問題で、2025年12月に1億2000万ユーロ(当時約1億4000万ドル)の罰金を科しています。今回の調査はそれに加えて開始されたもので、XがGrokベースの推奨システムへの切り替えによる影響も調査対象に含まれます。
この問題は国際的な波紋を広げています。マレーシア、インドネシアが一時的にGrokへのアクセスをブロックし、米国では35州の司法長官がX社に対応を求める書簡を送付しました。英国、フランス、韓国も調査や警告を行っています。
一方、米国通商代表部は2025年後半、EUが「差別的な手段」で米国テクノロジー企業の競争力を制限していると非難しました。トランプ政権下で米欧間の緊張が高まる中、今回の調査は単なる企業規制を超えた地政学的な対立の焦点となる可能性があります。
この事案が提起する本質的な問題は、技術革新のスピードと安全性のバランスです。生成AIの能力が急速に向上する中、適切な安全対策なしにリリースすることの危険性が明確になりました。特に、非同意での性的画像生成は、個人の尊厳を深く傷つけ、児童の場合は犯罪行為となります。
今後、AI業界全体がこの事案から学ぶべき教訓は明確です。安全性は後付けの機能ではなく、設計段階から組み込まれるべき基盤的要件だということです。OpenAI、Anthropic、Googleなどの競合他社は、コンテンツ認証や透明性基準への投資を強化しており、xAIの失敗は「責任あるAI」提供企業に競争優位性をもたらす結果となっています。
【用語解説】
Grok
イーロン・マスク氏のxAIが開発した生成AIチャットボット。2023年11月にリリースされ、X(旧Twitter)に統合されている。名称はSF作家ロバート・A・ハインラインが造語した動詞「grok」(深く理解する)に由来する。他のAIより規制が少ない「エッジの効いた」代替として位置づけられている。
Aurora
xAIが開発した画像生成AIモデル。2024年12月9日にGrokに実装された。自己回帰型のMixture-of-Expertsネットワークで、テキストと画像データから次のトークンを予測する仕組み。フォトリアリスティックな画像生成と正確なテキスト指示の実行に優れるが、安全対策の不足が問題となった。
デジタルサービス法(DSA: Digital Services Act)
2022年にEUが制定した包括的なオンラインプラットフォーム規制法。違法コンテンツ、偽情報、その他のシステミックリスクに対処することを目的とする。月間4,500万人以上のEUユーザーを持つプラットフォームには厳格な義務が課され、違反時には年間総売上高の最大6%の罰金が科される可能性がある。
超大規模オンラインプラットフォーム(VLOP: Very Large Online Platform)
DSAの下で指定される、EU内で月間平均4,500万人以上のアクティブユーザーを持つオンラインプラットフォーム。XはVLOPに指定されており、より厳格な義務とリスク評価が求められる。
Centre for Countering Digital Hate(CCDH)
英国を拠点とする非営利団体で、オンラインの憎悪表現や偽情報の有害な影響を研究する。今回のGrok問題に関する重要な調査レポートを発表し、11日間で推定300万枚の性的画像が生成されたことを明らかにした。
ディープフェイク
AIを使用して作成された、本物と見分けがつかないほど精巧な偽の画像、動画、音声。本人の同意なく性的な画像を作成する「非同意ディープフェイク」は、被害者の尊厳を深刻に侵害し、多くの国で法的問題となっている。
【参考リンク】
xAI(外部)
イーロン・マスク氏が設立したAI企業。Grokの開発元で「宇宙を理解する」というミッションを掲げる
欧州委員会 – デジタルサービス法(外部)
EUのDSAに関する公式情報サイト。法律の詳細、施行状況、調査情報などを提供
Centre for Countering Digital Hate(外部)
オンラインの憎悪表現やデジタルハームに関する調査を行う非営利団体。Grok問題の詳細レポートを公開
【参考記事】
EU probes Musk’s Grok AI feature over deepfakes of women, minors(外部)
アルジャジーラによるEU調査の包括的な報道。CCDHの300万枚推定を含む詳細な背景情報を提供
EU investigates Musk’s AI chatbot Grok over sexual deepfakes(外部)
PBS NewsHourによる調査開始の報道。技術的背景とマレーシア・インドネシアの対応を含む
Elon Musk’s Grok produced over three million sexualised images in under two weeks, charity says(外部)
ITVニュースによるCCDH調査の詳細報道。11日間で300万枚、分あたり190枚の生成ペースを報告
Grok generated an estimated 3 million sexualized images — including 23,000 of children — over 11 days(外部)
Engadgetによる詳細分析。2025年12月29日から2026年1月8日までの調査期間を明記
Europe fines X €120 million in first enforcement of the Digital Services Act(外部)
Bitdefenderによる2025年12月のX罰金に関する詳細分析。DSA違反の具体的内容を解説
【編集部後記】
生成AIの急速な進化は、私たちに大きな可能性をもたらす一方で、今回のような深刻な問題も引き起こしています。技術の進歩と安全性のバランスをどう取るべきか、そして個人の尊厳をデジタル空間でどう守るべきか、私たち一人ひとりが考えるべき時代になっています。みなさんは、AI企業の責任と規制当局の役割について、どのようにお考えでしょうか。
