マレーシアとインドネシアが2026年1月11日からGrok AIへのアクセス制限を発表したが、VPNやDNS変更により容易に回避可能な状態が続いている。
Grok自身のXアカウントも「VPNで簡単に回避できる」と発言し、実際にGuardianの検証ではインドネシアでウェブサイトがVPNなしで動作した。
Grokは児童を含む性的画像生成機能により世界的な批判を浴びており、フィリピンも禁止を計画している。
水曜日にXは追加の安全対策を発表したが、Guardianはスタンドアロン版Grokで衣服除去動画の作成が可能であることを確認した。
トリニティ・カレッジ・ダブリンのNana Nwachukwu研究者は「ブロックは洗浄していない傷に絆創膏を貼るようなもの」とし、法執行による個人の調査とプラットフォーム自体へのセーフガード組み込みが必要だと指摘した。
インドネシアではJKT48など有名人の画像が悪用され、マレーシアではヒジャブ除去に使用された事例が報告されている。
From: 
‘Still here!’: X’s Grok AI tool accessible in Malaysia and Indonesia despite ban
【編集部解説】
マレーシアとインドネシアによるGrok AIの世界初ブロックは、AI倫理とガバナンスにおける重大な転換点です。両国が2026年1月10日と11日に相次いで決断を下したこの措置は、表面的には機能しているかに見えますが、実態は技術的制約の限界を如実に示しています。
Guardian紙の検証によれば、インドネシアではGrokのウェブサイトがVPNなしで動作し、Grokの公式アカウント自身が「VPNやDNS調整で簡単に回避できる」と発言しています。この皮肉な状況は、地理的ブロックという手法そのものの脆弱性を浮き彫りにしました。
問題の本質は、Grokが実装している「Spicy Mode」にあります。パリの非営利団体AI Forensicsが2025年12月25日から2026年1月1日までに実施した大規模調査では、約20,000枚の画像と50,000件のリクエストを分析しました。その結果は衝撃的です。生成された画像の53%が下着やビキニなどの最小限の服装を着た人物で、そのうち81%が女性でした。さらに深刻なのは、2%が18歳以下と推定される未成年者を描写していた点です。
インドネシアでは国民的アイドルグループJKT48のメンバー、特にキャプテンのFreya Jayawardanaを含む複数のメンバーの画像が悪用され、同意なく性的なコンテンツに加工される事態が発生しました。JKT48のマネジメントは2026年1月8日、48時間以内にコンテンツが削除されない場合は法的措置を取ると警告する声明を発表しました。マレーシアでは、女性たちのヒジャブを除去する目的でツールが使用されたケースが報告されており、文化的・宗教的な尊厳を傷つける行為として大きな問題となっています。
Xは1月15日に追加の安全対策を発表し、X上のGrokアカウントが「ビキニなどの露出度の高い服装の実在の人物の画像編集を許可しない」と表明しました。さらに、そうしたコンテンツが違法である管轄区域では、すべてのユーザーの画像生成能力を地理的にブロックするとしています。しかし、Guardianはウェブブラウザから簡単にアクセスできるスタンドアロン版のGrokを使用することで、実在の女性の画像から衣服を除去する短い動画を作成できることを確認しました。このコンテンツはX上の公開プラットフォームに投稿され、数秒以内に世界中のユーザーが閲覧可能になります。
トリニティ・カレッジ・ダブリンのAIガバナンス専門家Nana Nwachukwu氏は、「Grokをブロックすることは、洗浄していない傷に絆創膏を貼るようなものだ」と指摘します。彼女は、政府が法執行と個人の調査に焦点を当て、プラットフォーム自体にセーフガードを組み込むべきだと主張しています。「ゲート型のアクセスは破壊される可能性がある」という彼女の警告は、技術的制限だけでは不十分であることを示唆しています。
世界的な反応も急速に拡大しています。英国のメディア規制当局Ofcomは1月12日に正式調査を開始し、EU委員会は2026年末までXとxAIに内部記録の保存を命令しました。デジタルサービス法(DSA)違反が認められれば、最大で全世界年間売上高の6%という巨額の罰金が科される可能性があります。フィリピンは1月16日にブロックを実施し、カリフォルニア州は1月15日に調査を開始しました。
CNNによれば、xAIの安全チームは論争が発生する数週間前にすでに複数のスタッフが離職しており、組織的な安全体制の脆弱性が指摘されています。マスク氏自身は「Grokを使って違法コンテンツを作成する者は、違法コンテンツをアップロードした場合と同じ結果に直面する」と述べていますが、xAIがCNNに提供したコメントは「Legacy Media Lies(レガシーメディアの嘘)」という3語のみでした。
この事案は、AI技術の民主化と安全性のバランスという根本的な問題を提起しています。マスク氏は長年「woke AI」への反対を表明してきましたが、ガードレールの欠如は技術の悪用を招きました。シンガポールのISEAS – Yusof Ishak InstituteのNuurrianti Jalli博士は、ブロックの脅威が「個々の悪質な行為者」から「プラットフォームの責任、設計による安全性、安全対策が失敗した際のアカウンタビリティ」へと議論をシフトさせる可能性があると指摘しています。
イスラム教徒が多数を占めるインドネシアとマレーシアは、厳格な反ポルノ法を持っています。インドネシアの新刑法では、ポルノ素材の制作と配布は最大10年の懲役刑を科される可能性があります。両国の決断は、単なる技術的問題ではなく、人権、尊厳、デジタル空間における市民の安全という価値観に基づいたものです。
Copyleaksの調査によれば、この傾向はアダルトコンテンツクリエイターが自分自身の性的画像を生成するマーケティング手法として始まりましたが、ユーザーはすぐに同意していない女性に対して同様のプロンプトを発行し始めました。Grokは「1分あたり約1枚の同意のない性的画像」を生成していると推定されており、それぞれがXに直接投稿され、バイラルになる可能性があります。
AI Forensicsの報告では、公人の画像の6%が生成されており、その約3分の1が政治家でした。ドナルド・トランプ、ベンジャミン・ネタニヤフ、ナレンドラ・モディ、エマニュエル・マクロンといった国家元首が含まれており、プロパガンダや偽情報に使用される可能性のあるコンテンツに対する明確なガードレールがないことが示唆されています。さらに、ナチスやISISのプロパガンダ素材も生成されており、フランスやドイツを含む複数の管轄区域で配布が厳格に規制されているコンテンツが作成されています。
この事案は、AI開発における「リリース・ファースト、修正・レイター」アプローチに対する政府の許容度が低下していることを示しています。技術的可能性と社会的責任のバランスをどう取るか、人類はまさに歴史的な分岐点に立っています。
【用語解説】
Grok AI
イーロン・マスクのxAIが開発したAIチャットボット。2023年にローンチされ、X（旧Twitter）に統合されている。2025年夏に画像生成機能「Grok Imagine」を導入し、いわゆる「Spicy Mode」により成人向けコンテンツの生成が可能になった。他の主流AIモデルと比較して制約が少ないことが特徴だが、同意のない性的画像の生成により世界的な批判を浴びている。
VPN（仮想プライベートネットワーク）
ユーザーのインターネット接続を暗号化し、IPアドレスを隠すことで、地理的制限を回避できる技術。多くが無料で利用可能であり、地域ブロックの効果を大幅に低下させる。
DNS（ドメインネームシステム）
ウェブサイトのアドレス名をIPアドレスに変換するインターネット上のプロトコル。DNS設定を変更することで、一部の地理的ブロックを回避できる。
ディープフェイク
AI技術を使用して作成された、実在の人物の顔や声を別の人物に合成した偽の画像や動画。技術の進歩により、一見しただけでは本物と区別がつかないレベルに達している。
デジタルサービス法(DSA)
EU域内の大規模オンラインプラットフォームに対して違法コンテンツの管理や透明性の確保を義務付ける法律。違反した場合、最大で全世界年間売上高の6%という巨額の罰金が科される可能性がある。
AI Forensics
パリを拠点とするヨーロッパの非営利団体で、アルゴリズムの調査を専門とする。今回のGrok問題では、大規模なデータ分析により問題の実態を明らかにした。
JKT48
インドネシアのジャカルタを拠点とする女性アイドルグループで、日本のAKB48の姉妹グループ。インドネシアで最も人気のあるガールズグループの一つとされ、メンバーの画像がGrokにより無断で性的コンテンツに加工される被害を受けた。
【参考リンク】
AI Forensics – Grok Unleashed Report（外部）
2025年12月25日～2026年1月1日の調査報告書。20,000画像と50,000リクエストの詳細な分析結果を公開
X (旧Twitter)（外部）
イーロン・マスクが所有するソーシャルメディアプラットフォーム。Grok AIが統合されている
Ofcom（外部）
英国のメディア・通信規制当局。Grokに関する正式調査を2026年1月13日に開始した
JKT48 公式サイト（外部）
インドネシアのアイドルグループ。メンバーがGrokによる画像悪用の被害を受けた
【参考記事】
CNN – Musk’s Grok blocked by Indonesia, Malaysia over sexualized images in world’s first（外部）
マレーシアとインドネシアの世界初ブロック措置を報道。AI Forensicsの調査結果とxAI安全チームの縮小について詳述
NPR – Governments ban the Grok chatbot due to nonconsensual bikini pics（外部）
各国政府の対応と技術的制約の詳細。1月9日に有料会員のみに制限した措置の限界を指摘
CNBC – Malaysia and Indonesia block Elon Musk’s Grok over deepfake sexual abuse material（外部）
11歳から13歳の児童を含む犯罪的画像の発見について英国のInternet Watch Foundationの報告を引用
Fortune – Malaysia and Indonesia move to ban Musk’s Grok AI over sexually-explicit deepfakes（外部）
規制当局の「リリース・ファースト、修正・レイター」アプローチへの許容度低下について専門家の見解を紹介
Jakarta Globe – Indonesia Temporarily Blocks X’s Grok Over Deepfake Pornography Risks（外部）
JKT48マネジメントの法的措置警告とインドネシア新刑法における最大10年の懲役刑について報道
Creatives Unite EU – EU Orders X to Preserve Data Amid Sexualised Deepfakes Furore（外部）
EU委員会による2026年末までの内部記録保存命令とDSA違反時の罰金について詳述
Bloomberg – Philippines to Join Indonesia, Malaysia in Blocking Musk’s Grok（外部）
フィリピンが1月16日にブロックを実施したことを報道。児童ポルノ生成能力の除去を要求
【編集部後記】
技術的制約だけでは解決できない問題に、私たちは今、直面しています。VPNという誰でも使える技術が、国家の規制を簡単に無効化してしまう現実は、AI時代のガバナンスがいかに複雑かを示しています。Grokの事案は、技術の民主化と安全性のバランスをどう取るかという、人類共通の課題を突きつけています。皆さんは、AIの自由な発展と厳格な規制、どちらを優先すべきだと考えますか。innovaTopia編集部は、この問題について読者の皆さんとともに考え続けたいと思います。
