让 ChatGPT 写一首关于日落的诗。然后再问 Claude。再问 Gemini。
你会得到三首不同的诗,但仔细观察,你会发现它们都带有同一个幽灵般的指纹。结构会惊人地相似。隐喻(“描绘天空”、“黄金时刻”)会一模一样。曾在 2023 年让这些模型各不相同的独特“声音”正在消退。
这一现象有个名字。NeurIPS 2025 的研究者将其命名为**“人工蜂巢思维”**效应。
递归训练循环正在造成反馈失效。这不是理论,而是牛津与剑桥大学的研究所证实的数学必然性。随着人工智能模型用自身产出充斥互联网,它们开始相互使用彼此的数据进行训练。这种近亲繁殖式的循环不仅让它们听起来越来越像,更在从根本上侵蚀使智能具有价值的方差。整个行业正在见证数字层面的近亲繁殖,其结果是创造力缓慢而“米色”地崩塌。
引子:“米色”奇点
专家们此前担心人工智能会变得与人类过于不同——一种冰冷、异类的超级智能,无法理解人类的微妙之处。
现实要无聊得多。人工智能正在成为“平均”的人类。
蜂巢思维效应表明,随着模型使用相似的基于人类反馈的强化学习(RLHF)数据集来优化“安全性”与“有用性”,并且它们摄取的是同一份 Common Crawl 抓取数据(其中 30-50% 现已为 AI 生成的文本),它们会在语言的“潜在空间”中收敛于同一个点。
它们正在成为派对上那些出人意料的客人——都读过同一批 Wikipedia 文章,都持有完全相同、礼貌而无冒犯性的观点。
技术深潜:坍塌的数学
要理解为何这是灾难性的,必须先审视概率分布这一概念。
1. 钟形曲线截断
大语言模型作为概率引擎运作。在处理文本时,它们计算可能的续写。早期(GPT-2、GPT-3),这些概率分布是“尖峰状”的。模型偶尔会大胆猜测(一个低概率 token,从而产生具有创意的输出)。
然而,像 RLHF(Reinforcement Learning from Human Feedback,基于人类反馈的强化学习)这样的现代训练技术会惩罚这些独特的尖峰。工程师训练模型避开“怪异”的答案,将曲线压平。
当你用模型 A 的输出来训练模型 B 时,你其实是在一个已经被压平的分布中采样。模型 B 看到的“罕见”词汇比模型 A 更少。如果你再用模型 B 的输出去训练模型 C,分布的尾部就会完全消失。这就是模型坍塌。
2. 方差的丧失
从数学上讲,数据集的“方差”随着每一代而缩减。
- 第一代(人类数据):高方差、高创造力、偶有错误。
- 第二代(AI 数据):较低方差、错误更少、“更安全”的语调。
- 第三代(合成循环):方差趋近于零。模型失去生成任何超出分布狭窄“均值”之外内容的能力。
3. “模式坍塌”的噩梦
在生成对抗网络(GAN)中,当生成器找到一张能骗过判别器的单一图像,并只生成那张图像时,就会发生“模式坍塌”。
大语言模型正面临着一种更温和的版本。它们并非每次都生成完全相同的句子,而是在生成完全相同的思想风格。那些专业知识——旧论坛或冷门博客中奇特、小众、充满人情味的细节——正在被海量“平庸”AI 内容的重压磨平。
历史背景:衔尾蛇循环
希腊人有一个象征:一条咬着自己尾巴的蛇,名为衔尾蛇。
- 2020-2022(抓取的黄金时代):像 GPT-3 这样的模型训练于一个“原始”的互联网。Reddit、Twitter 和 Stack Overflow 几乎完全由人类用户组成。人类混乱、庞杂、富有创造力的数据就是燃料。
- 2023(污染开始):ChatGPT 问世。突然间,互联网上涌现出大量 AI 生成的 SEO 垃圾、LinkedIn 帖子以及学生论文。
- 2024(中毒):研究人员注意到,新模型越来越难以区分人类精华与 AI 垃圾。
- 2025(蜂巢思维):据报道,如今主要实验室正撞上“数据墙”。不再有新鲜的人类文本。为了继续扩展规模,它们被迫使用“合成数据”(由 AI 生成以训练 AI 的数据)。
实验室辩称,合成数据可能比人类数据“质量更高”,因为它干净且无错误。但他们忽略了关键:质量不等于多样性。
一本教科书比一条混乱的 Reddit 帖子“质量更高”,但如果你只用教科书来训练一名喜剧演员,他不会变得好笑。他会变得准确,且无聊。
前瞻性分析:“认证人类”的未来
那么,这一切会走向何方?
如果“蜂巢思维”效应持续下去,互联网将出现两极分化。
1. “脏”数据的价值
矛盾的是,最混乱的人类数据(错别字、俚语、情绪化的 rant、论坛争论)将成为地球上最有价值的商品。这是唯一能为 AI 打破循环提供“熵”或随机性的来源。未来可能出现这样一种景象:科技巨头付费让用户仅仅在网上做一个人类、做一个怪人,只为收获新鲜的方差。
2. 专业化的“分叉”
为了对抗蜂巢思维,企业将不再使用通用的“Do Everything”模型。相反,市场将回归高度专业化的小型模型,这些模型训练于彼此隔离的独立数据集。
- 一个只接受经过验证的期刊训练的**“医学蜂巢”**。
- 一个只接受小说和剧本训练的**“创意蜂巢”**,并被明确禁止阅读 LinkedIn 或企业邮件。
3. 通才的消亡
“One Model to Rule Them All”的梦想正在消亡。蜂巢思维表明,如果一家公司试图打造一个讨好所有人、不得罪任何人的模型,结果只会是一个没有灵魂的模型。
结论
AI Hivem这不仅仅是一种审美上的抱怨;它是一场信息危机。cious;这是他们正在变得官僚化的迹象。它们正收敛于安全、平庸与可预测。
对人类而言,这其实是个好消息。这意味着那种具体、古怪、有缺陷的创造力并未过时——它正是维持机器运转的燃料。AI 越听起来像企业新闻稿,独特而混乱的人类声音就越有价值。
别磨平你的棱角。机器需要它们。
🦋 Bluesky 讨论
在 Bluesky 上讨论