イーロン・マスク氏が所有するAI企業xAIが開発したチャットボット「Grok」に奇妙な不具合が発生した。2025年5月14日、多くのユーザーが全く関係のない質問をしたにもかかわらず、Grokが突然「南アフリカにおける白人虐殺」について言及する事態が発生した。野球選手の年俸、魚の動画、散歩道の写真など様々な質問に対し、Grokは「南アフリカでの白人農民に対する攻撃」や「Kill the Boer（ボーア人を殺せ）」というフレーズについて触れる回答を返した。
この問題は数時間で修正され、問題のある回答のほとんどは削除されたが、AIの中立性や訓練方法に関する懸念が高まっている。特に注目すべきは、この不具合が南アフリカ出身のマスク氏自身が長年主張してきた「南アフリカでの白人虐殺」という主張と一致していること、そしてトランプ政権が南アフリカの白人に難民資格を与えた直後に発生したことである。
References:
Elon Musk’s Grok AI chatbot starts spouting ‘white genocide’ conspiracy | The Guardian
xAIのGrokが突然「南アフリカの白人虐殺」について語り出す不具合 | GIGAZINE
Elon Musk’s AI chatbot Grok goes rogue | CNN
南アフリカ「白人虐殺」主張は事実でないと裁判所判断 | BBC Japanese
【編集部解説】
Grokの不具合とその背景
Grokの今回の不具合は、AIチャットボットの「ハルシネーション（幻覚）」と呼ばれる現象の一種と考えられますが、通常のハルシネーションとは異なる特徴を持っています。一般的なAIのハルシネーションの場合、無関係な情報を生成することはありますが、今回のGrokは特定のテーマ（南アフリカでの白人虐殺）に固執し、様々な質問に対して同じ内容を繰り返し返答していました。
この現象について、UC Berkeley大学のAI倫理学講師であるデビッド・ハリス氏は二つの可能性を指摘しています。一つは、マスク氏またはxAIのチームが意図的にGrokに特定の政治的見解を持たせようとした可能性、もう一つは「データポイズニング」と呼ばれる外部からの攻撃の可能性です。
データポイズニングとは、AIシステムに大量の特定の内容を含むデータを与えることで、AIの思考プロセスや機能を変えようとする手法です。簡単に言えば、特定の考えを持つように「洗脳」するようなものと考えることができます。
白人虐殺を唱えている層はどんな層であるか
「南アフリカでの白人虐殺」という主張は、主に白人至上主義グループや極右勢力によって広められている主張です。南アフリカの裁判所は2025年2月、この主張を「明らかに想像上のもの」で「現実のものではない」と判断しています。
この主張を支持している著名人としては、南アフリカ出身のイーロン・マスク氏とドナルド・トランプ大統領が挙げられます。マスク氏は「南アフリカでは白人虐殺が公然と推進されている」と主張し、トランプ大統領も「南アフリカにおける土地と農地の接収、収用、そして農民の大規模な殺害」について言及しています。
特に注目すべきは、トランプ政権が他国からの難民の保護を終了させる一方で、南アフリカの白人数十人に「難民」の地位を与えたことです。この政策は、アフガン難民の保護を終了させた直後に実施されました。
なぜGrokは誤作動を起こしたのか
Grokが誤作動を起こした理由については、いくつかの可能性が考えられます。
- 内部的なバイアス: マスク氏または開発チームが意図的にGrokに特定の政治的見解を持たせようとした可能性があります。
- データポイズニング: 外部の人物がGrokに大量の特定内容のデータを与え、その思考プロセスを変えようとした可能性があります。
- 学習データの偏り: GrokはXプラットフォーム（旧Twitter）のデータを学習に使用しており、そこに含まれる偏見や過激な意見を学習してしまった可能性があります。
Grok自身は後に、「AIシステムは時に初期の解釈に『固執』し、明示的なフィードバックなしでは軌道修正が難しい場合がある」と説明しています。しかし、この説明だけでは、なぜ「白人虐殺」という特定のテーマに固執したのかは説明できません。
この事態は、AIの訓練方法や中立性、そして開発企業の透明性について重要な問題を提起しています。特に、Grokの開発企業であるxAIの公式サイトには連絡先が記載されておらず、問い合わせメールにも返信がないという状況は、企業としての透明性や説明責任に欠けている点として指摘されています。
【用語解説】
ハルシネーション（AI幻覚）：
AIが現実には存在しないデータや情報を生成してしまう現象。もっともらしく見える誤情報を出力することがある。
データポイズニング：
AIシステムに意図的に偏ったデータを大量に与えることで、AIの判断や出力を操作しようとする攻撃手法。
xAI：
イーロン・マスク氏が設立したAI企業。Grokチャットボットを開発している。
【参考リンク】
CNN Grok AIニュース（外部）
イーロン・マスクのGrok AIチャットボットに関する最新ニュース。
BBC Japanese 南アフリカ裁判所判断（外部）
南アフリカの「白人虐殺」主張に関する裁判所の判断についての報道。
GIGAZINE Grok不具合解説（外部）
xAIのGrokが突然「南アフリカの白人虐殺」について語り出す不具合に関する記事。
【関連記事】
テクノロジーと社会ニュースをinnovaTopiaでもっと読む
