答案已发布2个月前Last edited 上个月15 来源

AI模型崩塌：为什么用AI生成的数据训练AI会让模型逐渐偏离现实

研究表明，如果AI模型反复使用AI生成的数据进行训练，会出现“模型崩塌”，导致数据分布中的稀有模式逐渐消失，模型对现实的表达能力下降。[1][4] 递归训练会放大采样偏差：高概率模式被不断强化，而位于分布“尾部”的罕见情况越来越少见，最终被模型完全遗忘。[1][9] 分析显示，即使只加入极少量真实世界数据或引入先验知识，也可能作为锚点防止模型崩塌，保持对真实分布的正确学习。[7][33]

使用 Studio Global AI 搜索并核查事实浏览更多热门页面

Concept illustration of AI model collapse showing synthetic data loops shrinking a distribution and removing rare patterns — What does the new study on AI model collapse find about preventing degradation when models are trained on synthetic data, why does recursiveRecursive training on AI‑generated data can gradually erase rare patterns from a model’s learned distribution, a phenomenon researchers call model collapse.
AI 提示
Create a landscape editorial hero image for this Studio Global article: What does the new study on AI model collapse find about preventing degradation when models are trained on synthetic data, why does recursive. Article summary: The study describes model collapse as a failure mode where recursively trained generative models lose information about the original data distribution, especially its rare or low-probability regions.. Topic tags: general, government, education, academic, general web. Reference image context from search candidates: Reference image 1: visual subject "However, as AI-generated data increasingly populates the internet, an important question arises: What happens when new AI models are trained on datasets containing their previous o" source context "Avoiding Model Collapse in AI Training - Risk Insight" Reference image 2: visual subject "Artificial intelligence models
openai.com

生成式人工智能越来越多地使用**合成数据（synthetic data）**进行训练——也就是由早期AI模型生成的文本、图像或其他内容。但研究人员发现，这种做法隐藏着一个重要风险：模型崩塌（model collapse）。在这种情况下，模型会逐渐失去对真实数据多样性的表达能力。

一项关于递归训练（recursive training）的研究指出：当新模型不断从旧模型生成的内容中学习，而不是从真实世界数据中学习时，它们会逐渐“遗忘”原始数据分布中的稀有模式。随着训练代数增加，这些缺失会累积，最终让模型对现实的表示出现系统性偏差。

随着互联网中AI生成内容越来越多，这个问题对未来AI训练变得尤为关键。

什么是“模型崩塌”？

模型崩塌指的是一种失效现象：当生成模型主要依赖前一代模型产生的数据进行训练时，模型性能和数据表示能力会逐渐退化。

研究人员发现，这种递归训练会产生不可逆缺陷：模型会逐渐丢失数据分布“尾部”（tails）中的信息——也就是那些出现频率较低但真实存在的罕见样本。

结果是：

模型输出越来越单一
数据多样性下降
只剩下最常见的模式被保留下来

这一现象并不只出现在某一种AI架构中。研究显示，以下多类生成模型都可能出现模型崩塌：

Studio Global AI

Search, cite, and publish your own answer

Use this topic as a starting point for a fresh source-backed answer, then compare citations before you share it.

使用 Studio Global AI 搜索并核查事实

人们还问