链接已复制!

大融合:为什么所有人工智能听起来都一样

这被称为“人工蜂群思维”效应。随着人工智能模型以互联网为食,而互联网又以人工智能模型为食,人类表达的多样性正在崩溃成一个单一的、优化的“平均值”。模型崩溃的增加在数学上是不可避免的。

🌐
机器翻译

本文由英文原文自动翻译而成。 阅读英文原文

数字机器人面孔融合成一个发光的网络,代表人工智能蜂群思维。

让 ChatGPT 写一首关于日落的诗。然后再问 Claude。再问 Gemini。

你会得到三首不同的诗,但仔细观察,你会发现它们都带有同一个幽灵般的指纹。结构会惊人地相似。隐喻(“描绘天空”、“黄金时刻”)会一模一样。曾在 2023 年让这些模型各不相同的独特“声音”正在消退。

这一现象有个名字。NeurIPS 2025 的研究者将其命名为**“人工蜂巢思维”**效应。

递归训练循环正在造成反馈失效。这不是理论,而是牛津与剑桥大学的研究所证实的数学必然性。随着人工智能模型用自身产出充斥互联网,它们开始相互使用彼此的数据进行训练。这种近亲繁殖式的循环不仅让它们听起来越来越像,更在从根本上侵蚀使智能具有价值的方差。整个行业正在见证数字层面的近亲繁殖,其结果是创造力缓慢而“米色”地崩塌。

引子:“米色”奇点

专家们此前担心人工智能会变得与人类过于不同——一种冰冷、异类的超级智能,无法理解人类的微妙之处。

现实要无聊得多。人工智能正在成为“平均”的人类。

蜂巢思维效应表明,随着模型使用相似的基于人类反馈的强化学习(RLHF)数据集来优化“安全性”与“有用性”,并且它们摄取的是同一份 Common Crawl 抓取数据(其中 30-50% 现已为 AI 生成的文本),它们会在语言的“潜在空间”中收敛于同一个点。

它们正在成为派对上那些出人意料的客人——都读过同一批 Wikipedia 文章,都持有完全相同、礼貌而无冒犯性的观点。

技术深潜:坍塌的数学

要理解为何这是灾难性的,必须先审视概率分布这一概念。

1. 钟形曲线截断

大语言模型作为概率引擎运作。在处理文本时,它们计算可能的续写。早期(GPT-2、GPT-3),这些概率分布是“尖峰状”的。模型偶尔会大胆猜测(一个低概率 token,从而产生具有创意的输出)。

然而,像 RLHF(Reinforcement Learning from Human Feedback,基于人类反馈的强化学习)这样的现代训练技术会惩罚这些独特的尖峰。工程师训练模型避开“怪异”的答案,将曲线压平。

当你用模型 A 的输出来训练模型 B 时,你其实是在一个已经被压平的分布中采样。模型 B 看到的“罕见”词汇比模型 A 更少。如果你再用模型 B 的输出去训练模型 C,分布的尾部就会完全消失。这就是模型坍塌

2. 方差的丧失

从数学上讲,数据集的“方差”随着每一代而缩减。

  • 第一代(人类数据):高方差、高创造力、偶有错误。
  • 第二代(AI 数据):较低方差、错误更少、“更安全”的语调。
  • 第三代(合成循环):方差趋近于零。模型失去生成任何超出分布狭窄“均值”之外内容的能力。

3. “模式坍塌”的噩梦

在生成对抗网络(GAN)中,当生成器找到一张能骗过判别器的单一图像,并生成那张图像时,就会发生“模式坍塌”。

大语言模型正面临着一种更温和的版本。它们并非每次都生成完全相同的句子,而是在生成完全相同的思想风格。那些专业知识——旧论坛或冷门博客中奇特、小众、充满人情味的细节——正在被海量“平庸”AI 内容的重压磨平。

历史背景:衔尾蛇循环

希腊人有一个象征:一条咬着自己尾巴的蛇,名为衔尾蛇

  • 2020-2022(抓取的黄金时代):像 GPT-3 这样的模型训练于一个“原始”的互联网。Reddit、Twitter 和 Stack Overflow 几乎完全由人类用户组成。人类混乱、庞杂、富有创造力的数据就是燃料。
  • 2023(污染开始):ChatGPT 问世。突然间,互联网上涌现出大量 AI 生成的 SEO 垃圾、LinkedIn 帖子以及学生论文。
  • 2024(中毒):研究人员注意到,新模型越来越难以区分人类精华与 AI 垃圾。
  • 2025(蜂巢思维):据报道,如今主要实验室正撞上“数据墙”。不再有新鲜的人类文本。为了继续扩展规模,它们被迫使用“合成数据”(由 AI 生成以训练 AI 的数据)。

实验室辩称,合成数据可能比人类数据“质量更高”,因为它干净且无错误。但他们忽略了关键:质量不等于多样性。

一本教科书比一条混乱的 Reddit 帖子“质量更高”,但如果你只用教科书来训练一名喜剧演员,他不会变得好笑。他会变得准确,且无聊。

前瞻性分析:“认证人类”的未来

那么,这一切会走向何方?

如果“蜂巢思维”效应持续下去,互联网将出现两极分化。

1. “脏”数据的价值

矛盾的是,最混乱的人类数据(错别字、俚语、情绪化的 rant、论坛争论)将成为地球上最有价值的商品。这是唯一能为 AI 打破循环提供“熵”或随机性的来源。未来可能出现这样一种景象:科技巨头付费让用户仅仅在网上做一个人类、做一个怪人,只为收获新鲜的方差。

2. 专业化的“分叉”

为了对抗蜂巢思维,企业将不再使用通用的“Do Everything”模型。相反,市场将回归高度专业化的小型模型,这些模型训练于彼此隔离的独立数据集。

  • 一个只接受经过验证的期刊训练的**“医学蜂巢”**。
  • 一个只接受小说和剧本训练的**“创意蜂巢”**,并被明确禁止阅读 LinkedIn 或企业邮件。

3. 通才的消亡

“One Model to Rule Them All”的梦想正在消亡。蜂巢思维表明,如果一家公司试图打造一个讨好所有人、不得罪任何人的模型,结果只会是一个没有灵魂的模型。

结论

AI Hivem这不仅仅是一种审美上的抱怨;它是一场信息危机。cious;这是他们正在变得官僚化的迹象。它们正收敛于安全、平庸与可预测。

对人类而言,这其实是个好消息。这意味着那种具体、古怪、有缺陷的创造力并未过时——它正是维持机器运转的燃料。AI 越听起来像企业新闻稿,独特而混乱的人类声音就越有价值。

别磨平你的棱角。机器需要它们。

资料来源

Advertisement

🦋 Bluesky 讨论

在 Bluesky 上讨论

正在搜索帖子...