链接已复制!

神经符号人工智能:“系统2”升级

大型语言模型是诗歌大师,但数学水平平庸。下一个前沿领域,神经符号人工智能,通过将神经直觉与符号逻辑相结合来解决这个问题,从而解锁可信代理所需的“系统2”推理。

🌐
机器翻译

本文由英文原文自动翻译而成。 阅读英文原文

数字可视化显示了一个大脑,左侧连接着抽象的神经网络,右侧连接着结构化的数学证明。

人工智能领域最危险的迷思,就是相信“规模即一切”。

过去三年,共识性的假设是:只要模型实验室给架构投喂更多文本、指数级增加算力,系统终将掌握物理定律与逻辑法则。这个假设很简单:推理不过是语言复杂度的副产品。

但这个假设正在动摇。

GPT-4 及其继任者虽能写出关于烤面包机的莎士比亚十四行诗,却仍会卡在五年级学生几秒就能解出的多步骤逻辑题上。它们会虚构引用、信心满满地算错算术,也无法在无人监督的情况下被信任去执行自主工作流。

诺贝尔经济学奖得主丹尼尔·卡尼曼曾定义两种认知模式:第一种快速而直觉化,第二种缓慢而逻辑化。当代生成模型完全依赖第一种模式。它们是概率模式匹配器,基于统计可能性而非验证来预测下一个词。

要构建真正能承担实际工作的智能体——例如管理银行账户、设计基础设施或诊断疾病——行业必须解锁第二种模式:缓慢、审慎、符合逻辑的推理。

于是,**Neurosymbolic AI(神经符号人工智能)**登场。

纯神经网络未能兑现的承诺

要理解这一转变为何发生,必须先审视当前范式的失败。

“草莓”问题

让标准 LLM 数一数 “strawberry” 这个单词里有多少个字母 “r”。对人类而言轻而易举,对 LLM 却出奇困难。这并非因为模型“笨”,而是源于 tokenization(分词)。模型看到的不是 “s-t-r-a-w…” 这些字母,而是代表“strawberry”概念的单个整数 token。如果不进一步拆分,它实际上无法“看见” token 内部的字母;而这一拆分所需逻辑步骤,恰恰是它仅凭概率根本无法稳定完成的。

数学幻觉

当 LLM 解题如 345 x 921 时,它并非在执行乘法,而是在训练数据里回忆相似模式。如果具体数字罕见或从未出现,模型就会根据哪些数字“看起来”应该相邻来猜测答案。这就是为什么模型常常首位和末位正确(高概率),却把中间数字搞得一团糟。

这种概率模糊性用于写诗无伤大雅,用于结构工程则是灾难。

推理的架构

Neurosymbolic AI 不是单一模型,而是一种混合架构。它承认神经网络与符号逻辑分别擅长截然相反的任务,并停止强迫一方承担另一方职责的尝试。

  • 神经层(直觉):负责处理“混乱”数据。它处理图像像素、人类语音的歧义,或文档的“感觉”,把混沌的现实世界转化为结构化表示。
  • 符号层(逻辑):这是“经典老式人工智能”(GOFAI)的领域。它处理硬规则、代数、形式逻辑和知识图谱。它不猜测,只计算。
  • 桥梁:突破在于两层之间的双向通信。神经网络解析问题,符号引擎证明答案。

实际如何运作

考虑一道抛体运动物理题。

纯 LLM(系统 1)会在训练数据里寻找类似的文字题,基于概率预测答案。如果变量是独特的,它经常会捏造一个听起来合理却错误的结果。

Neurosymbolic 系统则不同:

  1. 神经感知:LLM 阅读文本,将语义解析为形式化表示(例如变量 v = 60d = 300a = 9.8)。
  2. 符号执行:它把这些变量交给符号求解器(如 Python 计算器或形式定理证明器)。求解器严格套用公式 d = vt + 0.5at^2
  3. 神经翻译:求解器把精确数值结果返回给神经组件,后者再用自然语言句子包装给用户。

系统从不真正“做数学”。它只是充当混乱的人类世界与严苛的逻辑世界之间的翻译。

学派之争的历史

这一方法终结了计算机科学长达五十年的内战。

  • 符号主义者(1950s–1990s):他们认为智能就是清晰的规则操作。他们建造了专家系统(如 IBM 的 Deep Blue)。这些系统逻辑完美却极度脆弱:若规则未被显式编程,系统就会崩溃。它们无法处理现实世界的混乱(例如识别一只猫)。
  • 连接主义者(2010s–至今):他们认为智能源于海量简单神经元组成的网络(深度学习)。这一方法在过去十年取胜,因为它能处理混乱数据,但却为了性能牺牲了可解释性与逻辑。

Neurosymbolic AI 是停战协议。它承认符号主义者在推理上是对的,连接主义者在学习上是对的。

证据:AlphaGeometry 与 AlphaProof

这一路径并非理论推测。Google DeepMind 已在最高水平的竞赛中证明了它的可行性。

2024 年,DeepMind 发布 AlphaGeometry,这是一个 Neurosymbolic 系统,能在国际数学奥林匹克(IMO)几何题上达到金牌得主水平。

该系统采用独特的混合方法

  • 神经生成器负责创造“构造”(例如在三角形中添加一条辅助线以帮助证明)。它充当“直觉”,提示解可能在哪里。
  • 符号引擎则尝试用形式逻辑严格证明命题。

如果符号引擎卡住,神经模型会提供新的“想法”(一条辅助构造)。二者来回循环——直觉引导逻辑,逻辑验证直觉——直到证明完成。

AlphaProof 与 “Lean” 语言

2025 年末,AlphaProof 更进一步。它将强化学习与 Lean 这一用于数学验证的形式化编程语言结合。

与 Python 不同——Python 代码可以运行但逻辑仍有缺陷——Lean 是一款“证明助手”。它会从数学层面验证每一行代码。如果逻辑不严谨,代码就无法编译。通过强制 AI 用 Lean 输出推理过程,DeepMind 实质上筑起了一道防幻觉屏障。模型可以试错一千次,但用户只会看到那个在数学上能够通过编译的结果。

企业鸿沟:银行为何讨厌聊天机器人

向 Neurosymbolic AI 转型,是企业“智能体时代”的前提。

当前,企业采纳正被“信任鸿沟”拖住。没有首席财务官会授权一个大概订购了正确数量钢材的自主供应链智能体。他们需要的是可证明地依据库存数据库推导出订购量的智能体。

Neurosymbolic 系统为企业带来三项关键升级:

  1. 可验证性:由于逻辑发生在符号层,审计员可以检查其“思维过程”。他们能清楚看到拒绝贷款或批准交易时究竟应用了哪条规则。
  2. 数据效率:神经网络需要看过数百万个加法示例才能“学会”加法;符号系统只需一次加法规则。这大幅降低了专业领域任务的数据需求。
  3. 泛化能力:神经网络难以处理“分布外”数据(例如训练时未见过的更大数字)。而符号逻辑规则对 x=1x=1,000,000,000 同样精确。

混合 AI 的谱系

需要指出的是,这并非非黑即白的开关。研究者将 Neurosymbolic 融合划分为一个谱系:

  • Type 1(标准型):神经网络 + 符号后处理(例如 ChatGPT 写 Python 代码解数学题)。
  • Type 2(深度型):符号规则被嵌入神经网络的损失函数中共同训练。即使文本流畅,模型违反逻辑也会“受惩罚”。
  • Type 3(完全集成型):像 AlphaGeometry 那样,两个组件在紧密的迭代循环中协同,形成一个“整体大于部分之和”的推理引擎。

前路

“纯 LLM”时代正在落幕。下一代前沿模型(GPT-5、Gemini 3)的底层很可能已是 Neurosymbolic,只是将符号求解器藏在聊天界面之后。

AI 的“魔力”正在消退,而这是一件好事。行业正在用写诗聊天机器人的魔力,交换工程级工具的可靠性。它在聚会上或许没那么令人兴奋,但对文明的贡献却无可估量。

这个行业终于开始给数字大脑配上前额叶皮层。

资料来源

Advertisement

🦋 Bluesky 讨论

在 Bluesky 上讨论

正在搜索帖子...