The Guardianが実施したテストにより、ChatGPTの最新モデルGPT-5.2がElon MuskのGrokipediaを情報源として引用していることが明らかになった。
十数件の質問に対して9回Grokipediaを引用し、イランの政治構造やホロコースト否定論者David Irvingの裁判における専門家証人Sir Richard Evansの経歴などに関する情報を提供した。
2025年10月に開始されたGrokipediaはAI生成のオンライン百科事典で、Wikipediaと競合することを目指しているが、右翼的な物語を広めていると批判されている。
AnthropicのClaudeも同様にGrokipediaを参照していることが逸話的に報告されている。
偽情報研究者Nina Jankowiczは、Grokipediaのエントリーが信頼できない情報源に依存しており、最悪の場合意図的な偽情報であると指摘した。
OpenAIは幅広い情報源から引用することを目指しており、安全フィルターを適用していると述べた。
From: 
Latest ChatGPT model uses Elon Musk’s Grokipedia as source, tests reveal
【編集部解説】
ChatGPTの最新モデルGPT-5.2がElon MuskのGrokipediaを引用していることが明らかになり、AI業界における情報の信頼性という根本的な問題が浮き彫りになっています。
Grokipediaは2025年10月27日にローンチされたAI生成のオンライン百科事典です。Wikipediaに対抗することを目指していますが、Cornell大学の研究により、ネオナチサイトのStormfrontを42回、陰謀論サイトのInfowarsを34回、白人至上主義サイトのVDareを107回引用していることが判明しました。これらはいずれもWikipediaでは信頼できないソースとして扱われています。
GPT-5.2は2025年12月11日にリリースされたOpenAIの最新フラッグシップモデルで、プロフェッショナルな業務に特化した能力を謳っています。しかしThe Guardianのテストでは、イランの政治構造やホロコースト否定論者David Irvingの裁判に関する質問に対し、Grokipediaの情報を9回引用していました。
この問題の深刻さは、単なる誤情報の拡散にとどまりません。偽情報研究者Nina Jankowiczが指摘する「LLMグルーミング」という新たな脅威が存在します。これは、ロシアのPravdaネットワークのような組織が、AIモデルに嘘を植え付けるために大量の偽情報を生成する手法です。
NewsGuardの調査によれば、2024年に360万件のロシアのプロパガンダ記事が西側のAIシステムに組み込まれ、10の主要AIチャットボットが33%以上の確率でPravdaネットワークの虚偽を繰り返していました。
さらに、2024年6月には米国議会でGoogleのGeminiが新疆における人権侵害や中国のCovid-19政策について中国政府の立場を繰り返していることが問題視されました。Voice of Americaのテストでは、Geminiは中国の問題には沈黙する一方、米国や台湾の問題については北京の公式見解を反映した回答を返していました。
OpenAIは「幅広い公開情報源と視点から引用することを目指している」と述べ、安全フィルターを適用していると説明しています。しかし実際には、より曖昧なトピックについて質問された際に、Grokipediaの情報が回答に入り込んでいます。
この事態が示すのは、AIシステムの根本的な脆弱性です。一度AIチャットボットに入り込んだ誤情報は削除が困難です。Jankowiczの経験では、大手報道機関が彼女の捏造された引用を削除した後も、AIモデルはしばらくの間それを彼女のものとして引用し続けました。
そして最も懸念されるのは、LLMが信頼性の低いソースを引用することで、逆にそれらのソースの信頼性を高めてしまう可能性があることです。ユーザーは「ChatGPTが引用しているなら、きちんと検証された情報源に違いない」と考え、その情報源を直接参照するようになる可能性があります。
AnthropicのClaudeも同様にGrokipediaを参照していることが報告されており、この問題はOpenAIに限定されたものではありません。AI業界全体として、情報源の信頼性を確保するための新たな仕組みが必要とされています。
【用語解説】
GPT-5.2
OpenAIが2025年12月11日にリリースした最新のフラッグシップ大規模言語モデル。プロフェッショナルな業務に特化しており、スプレッドシート作成、プレゼンテーション、コーディング、複雑なマルチステッププロジェクトの実行において、以前のモデルよりも優れた性能を発揮するとされる。
LLMグルーミング
悪意ある行為者がAIモデルに嘘を植え付けるために、大量の偽情報をインターネット上に生成するプロセス。ロシアのPravdaネットワークなどが実践しており、AIの学習データに虚偽情報を紛れ込ませることを目的としている。
Basij
イランの準軍事組織で、イスラム革命防衛隊の一部門である。
Mostazafan財団
イランの慈善組織だが、最高指導者の事務所と関連があるとされる巨大な経済複合体でもある。
David Irving
英国の歴史家で、ホロコースト否定論者として知られる。名誉毀損裁判で敗訴した。
Sir Richard Evans
英国の歴史家で、David Irvingの名誉毀損裁判において専門家証人を務めた。
Pravdaネットワーク
Portal Kombatとしても知られる、親ロシアのプロパガンダを世界的に拡散するために設計されたロシア拠点の大規模な偽情報ネットワーク。150以上のドメインを使用し、40以上の言語で200以上の虚偽の主張を拡散している。
【参考リンク】
Introducing GPT-5.2 | OpenAI（外部）
GPT-5.2の公式発表ページ。プロフェッショナルな知識労働向けの最新モデルであり、スプレッドシート作成などで優れた性能を発揮
Grokipedia – Wikipedia（外部）
Grokipediaに関するWikipediaの記事。2025年10月27日にローンチされたAI生成オンライン百科事典の詳細
American Sunlight Project（外部）
Nina Jankowiczが率いる非営利組織で、LLMグルーミングなどの偽情報の脅威について研究している
NewsGuard（外部）
ニュースの信頼性を評価する組織。AIチャットボットにおける偽情報の拡散について調査を実施
【参考記事】
Report reveals that OpenAI’s GPT-5.2 model cites Grokipedia（外部）
The GuardianのテストによりGPT-5.2がGrokipediaを引用していることが判明したことを報告
Grokipedia – Wikipedia（外部）
2025年10月27日にローンチされたAI生成オンライン百科事典で88万記事でスタートし2026年初頭には560万記事を超えた
Elon Musk’s Grokipedia cites neo-Nazi website 42 times: study（外部）
Cornell大学の研究でGrokipediaがネオナチサイトStormfrontを42回引用していることが判明
What did Elon change? A comprehensive analysis of Grokipedia（外部）
Cornell大学による初の包括的分析。883,858記事をスクレイピングし引用実践の違いを明らかにした
Russian disinformation ‘infects’ AI chatbots, researchers warn（外部）
NewsGuardの研究でロシアのPravdaネットワークが西側AIチャットボットを操作していることが判明
Google AI Gemini parrots China’s propaganda（外部）
Voice of AmericaのテストによりGoogleのGeminiが中国の人権侵害について沈黙することが判明
Grokipedia touts AI-powered depth. The reality: heavily borrowed Wikipedia entries.（外部）
PolitiFactの調査によりGrokipediaの記事がWikipediaからほぼ完全に転用されていることが判明
【編集部後記】
私たちが日々利用するAIチャットボットは、もはや単なるツールではなく、情報の入り口になりつつあります。しかし今回のニュースが示すように、その情報源の信頼性は必ずしも保証されていません。ChatGPTやClaudeが引用する情報が、どこから来ているのか、本当に信頼できるものなのか――そんな疑問を持つことが、これからの時代にはますます重要になるでしょう。AIが便利であればあるほど、私たちは批判的な目を持ち続ける必要があります。みなさんは、AIからの回答をどこまで信頼していますか？情報源を確認する習慣を、一緒に大切にしていきたいですね。
