AI が AI の作ったデータを食べて育つ時代——その先に待つのは「自滅」かもしれない。インターネット上に AI 生成コンテンツが溢れるなか、次世代の AI はそれらを学習データとして取り込まざるを得ず、出力が次第に劣化していく「モデル崩壊」が現実の脅威として迫っています。ところが 2026 年 5 月 14 日、キングス・カレッジ・ロンドンを中心とする研究チームが、この崩壊を防ぐ意外なほどシンプルな鍵を発見しました。必要なのは、外部世界からのたった 1 つのデータ。なぜ無数の AI 生成データのなかで、たった 1 点の「本物」がそれほど効くのか。Physical Review Letters に掲載された研究の中身を読み解きます。
キングス・カレッジ・ロンドン、ノルウェー科学技術大学、アブドゥス・サラム国際理論物理学センターの研究チームは、AIの「モデル崩壊(Model Collapse)」を防ぐ手法を発見した。
モデル崩壊とは2024年に提唱された概念で、AIが生成したデータで訓練されたAIモデルが正確な結果を出せなくなり、不正確な出力を生成する現象を指す。研究チームは、指数型分布族(Exponential Families)と呼ばれる統計モデル群を解析し、外部世界からのデータポイントをたった1つ訓練に組み込むだけで、あらゆるケースでモデル崩壊を防げることを示した。この効果は、機械生成のデータポイントが無限に増えても保たれる。同様の現象は制限ボルツマンマシン(Restricted Boltzmann Machines)でも観察された。
本研究は『Physical Review Letters』誌に掲載され、キングス・カレッジ・ロンドン数学科のヤッセル・ロウディ教授らが発表した。
From: 
Scientists come up with way to overcome AI ‘Data Cannibalism’
【編集部解説】
このニュースが今、私たちに突きつけているのは、生成AI時代における極めて根源的な問いです。インターネット上にAI生成コンテンツが急速に増え続けるなか、次世代のAIはそれらを「学習データ」として取り込まざるを得ない状況に追い込まれつつあります。研究者たちはこの現象を「データ共食い(data cannibalism)」あるいは「データ自食症(data-autophagy)」と呼んできました。
モデル崩壊という概念は、2024年にイリヤ・シュマイロフ氏らがネイチャー誌で発表した論文によって広く知られるようになりました。そこでは、AIが自ら生成したデータで再帰的に訓練を繰り返すと、データ分布の「裾(tail)」が失われ、最終的にモデルが多様性を喪失して意味不明な出力に陥ることが示されています。これは将来訪れる仮想的な脅威ではなく、すでに学習データの取得が限界に近づきつつある現実の課題なのです。
今回のキングス・カレッジ・ロンドンを中心とした研究の独自性は、複雑な大規模言語モデルではなく、あえて「指数型分布族」というシンプルな統計モデルに焦点を絞った点にあります。LLMは内部の挙動がブラックボックス化しているため、なぜハルシネーション(幻覚)が起きるのかを厳密に説明できません。研究チームは敢えて見通しのよい数学的設定に立ち戻ることで、モデル崩壊が起きる「原理」そのものを明らかにしようとしました。
ここで導かれた結論が、本研究の最も衝撃的な部分です。閉ループ学習に外部世界からのデータポイントをたった1つ加えるだけで、モデル崩壊はあらゆるケースで防げる。しかも機械生成データが無限に増えても、その1点の効果は失われない、というのです。直感的には信じがたいこの結果は、最尤推定という標準的な学習法が持つ数学的な性質(論文では「マルチンゲール性」と表現されています)に由来します。
もう一つの予防策として挙げられているのが「事前信念(prior belief)の導入」です。これはベイズ統計でいう事前分布、あるいは「過去に獲得した知識」を学習に組み込むアプローチに相当します。AIが真っ白な状態から学ぶのではなく、人類がこれまで積み上げてきた知の体系を「錨(いかり)」として保持することの重要性を、数学的に裏付けた成果と言えるでしょう。
研究チームは同様の効果が制限ボルツマンマシンでも確認できたと報告しており、この知見が指数型分布族だけに留まらず、より広範なモデルクラスに適用できる可能性を示唆しています。次の検証対象として挙げられているのが、現代のAIを支えるニューラルネットワークです。第一原理から導かれた指針が、ChatGPTのような大規模モデルにまで一般化できるかどうか、今後の研究展開が注目されます。
ポジティブな側面としては、合成データを活用したAI開発に対して、初めて「数学的な安全弁」が示されたことが挙げられます。これまで合成データの利用は経験則に頼る部分が大きかったのですが、本研究は「最低限これを満たせば崩壊しない」という設計指針の出発点となり得ます。データセンターの計算資源を浪費せず、持続可能なAI訓練を実現する道筋にもつながるでしょう。
一方で、潜在的なリスクも見落とすべきではありません。「たった1点でよい」という結果は、裏を返せば「その1点をどう確保するか」という新たな問題を生みます。ウェブ上のテキストがAI生成物で溢れていくなか、純粋に人間が生み出した「真正データ(ground truth)」をいかに識別し、保全するか。これは技術的課題であると同時に、著作権や情報のトレーサビリティに関する制度設計の課題でもあります。
innovaTopiaとして注目したいのは、この研究が「AIは人間の知から完全には独立できない」という哲学的含意を示している点です。閉ループに陥った機械は自己崩壊する。そこに人間が関与する余地が、数学的に必然として残されている。これはTech for Human Evolutionというテーマにとって、人間とAIの関係性を再考する重要な手がかりとなるでしょう。
長期的に見れば、本研究はAI開発の規制やガバナンスにも影響を及ぼす可能性があります。EU AI Actをはじめとする各国の規制議論において、訓練データの出自や品質管理がより重視されるようになるなか、「人間由来データの最低限保証」という考え方が政策的な指針として参照される日が来るかもしれません。
【用語解説】
モデル崩壊(Model Collapse)
AIが生成したデータで再帰的に訓練を続けることで、モデルが本来のデータ分布の多様性を失い、不正確で意味不明な出力を生成するようになる現象。2024年にシュマイロフらの研究によって広く知られるようになった概念である。
データ共食い(Data Cannibalism) / データ自食症(Data-autophagy)
AIが自ら生成したデータを別のAIの学習データとして取り込み続けることで、エコシステム全体が劣化していく状態を比喩的に表した用語。生物が自身の組織を分解する「オートファジー」になぞらえている。
ハルシネーション(Hallucination)
生成AIが事実とは異なる内容を、もっともらしく出力してしまう現象。日本語では「幻覚」とも訳される。
指数型分布族(Exponential Families)
正規分布やポアソン分布、ベルヌーイ分布など、確率分布のうち特定の数学的構造を共有するクラスの総称。シンプルでありながら統計モデリングにおいて極めて強力な枠組みであり、機械学習の基礎理論にも広く応用されている。
閉ループ学習(Closed-loop Learning)
モデル自身が生成したデータを用いて、そのモデルを繰り返し再訓練するプロセス。外部からの新しい情報が入らない閉じた循環構造を指す。
最尤推定(Maximum Likelihood / 最尤推定法)
観測されたデータが最も得られやすくなるようにモデルのパラメータを推定する、統計学における標準的な手法。今回の研究では、この手法を閉ループに適用すると必ずモデル崩壊が起きることが示された。
事前信念(Prior Belief) / 事前分布
ベイズ統計の枠組みにおいて、データを観測する前にモデルが持っている知識や仮定を指す。論文では「最大事後確率推定(Maximum a Posteriori Estimation)」を用いることで、モデル崩壊を回避できると示されている。
制限ボルツマンマシン(Restricted Boltzmann Machines / RBM)
2層構造を持つ確率的ニューラルネットワークの一種で、生成モデルの基礎として研究されてきた。ディープラーニング黎明期に重要な役割を果たしたモデルである。
大規模言語モデル(Large Language Models / LLM)
膨大なテキストデータで訓練された、自然言語処理を行うニューラルネットワークモデルの総称。ChatGPTやClaudeなどが該当する。
合成データ(Synthetic Data)
実世界から収集されたデータではなく、AIモデルや計算手法によって人工的に生成されたデータのこと。AI訓練データの不足を補う手段として近年注目を集めている。
【参考リンク】
キングス・カレッジ・ロンドン(King’s College London)公式サイト(外部)
ロンドンに本拠を置く、世界有数の研究型総合大学。1829年創立。本研究の主導機関である。
ヤッセル・ロウディ教授プロフィール(キングス・カレッジ・ロンドン公式)(外部)
本研究の責任著者である無秩序系を専門とする教授の研究プロフィール。脳と機械の情報処理を研究する。
ノルウェー科学技術大学(NTNU)公式サイト(外部)
ノルウェー最大の総合大学で、科学技術分野に強みを持つ研究機関。本研究の共同研究機関の一つ。
アブドゥス・サラム国際理論物理学センター(ICTP)公式サイト(外部)
イタリア・トリエステに所在する、ユネスコ傘下の国際研究機関。理論物理学研究で広く知られる。
Physical Review Letters 公式サイト(外部)
米国物理学会が発行する物理学分野の主要学術誌の一つ。本研究の掲載先である。
論文プレプリント「Lost in Retraining」(arXiv)(外部)
本研究のプレプリント版。ヤッセル・ロウディ教授らによる詳細な数式と実験結果を確認できる。
Nature掲載論文「AI models collapse when trained on recursively generated data」(外部)
2024年にモデル崩壊の概念を広めた、イリヤ・シュマイロフ氏らによるオリジナル論文である。
【参考記事】
A single real-world data point may stop AI model collapse, analysis suggests(外部)
Tech Xploreによる本研究の解説記事。3つの研究機関の共同研究と、外部からの1データポイントまたは事前信念の導入による崩壊防止効果を詳述している。
Lost in retraining: Closed-loop learning and model collapse in exponential families(外部)
本研究の査読済み論文の正式情報。最尤推定によるパラメータ推定がマルチンゲール性を生み、初期バイアスを増幅する吸収状態に収束することを数式で示している。
AI models collapse when trained on recursively generated data(外部)
イリヤ・シュマイロフ、ヤリン・ガル氏らによる2024年7月のNature論文。モデル崩壊の概念を提唱し、生成AIを再帰的にAI生成データで訓練すると元の分布の裾が消失することを示した基礎文献である。
Using AI to train AI: Model collapse could be coming for LLMs, say researchers(外部)
2024年7月のシュマイロフらの研究を受けたTech Xploreの解説記事。AIモデルが再帰的に学習することで起こりうるモデル崩壊を数学モデルを用いて説明している。
Lost in Retraining: Roaming the Parameter Space of Exponential Families Under Closed-Loop Learning(外部)
ジャンジュー氏、マルシリ氏、ロウディ氏による論文プレプリント。データ自食症が訓練データの合成データ比率に応じて病的に進行することを論じる。
Yasser Roudi 教授プロフィール(キングス・カレッジ・ロンドン公式)(外部)
本研究の責任著者ヤッセル・ロウディ教授の所属と専門分野を確認するために参照したページである。
【関連記事】
生成AIが自滅する日 – モデル崩壊のメカニズムとAIデータ品質の未来
モデル崩壊の仕組みとAIデータ品質の課題を網羅的に解説した記事。本記事の背景理解に最適。
ChatGPT「GPT語」が人間の会話を侵食 マックス・プランク研究所が文化多様性の危機を警告
人間とAIの言語が閉じたループを形成し、文化的多様性が均質化していくリスクを論じた記事。
SNSの投稿やショート動画で訓練されたAIに「脳の腐敗」が起こることが判明
低品質データがAIの認知機能を蝕む現象を扱い、モデル崩壊研究とも呼応する内容を解説。
【編集部後記】
「AIが自分で生み出したデータで自分自身を学ばせる」というループのなかで、たった一つの外部データが救世主になる――この発見には、技術的な驚きを超えた示唆があるように思えてなりません。皆さんがSNSに投稿する一文、ブログに綴る思考、撮影する一枚の写真。
それらは将来、AIにとって「真正データ」として尊重される存在になるかもしれません。生成AIと人間が共に進化していくこれからの時代、「人間が生み出すものの価値」がどう再定義されていくのか。innovaTopia編集部では、皆さんと一緒にこの問いを考え続けていきたいと思います。記事の感想やご意見、ぜひお寄せください。
