核心要点
- 1亿美元的幻觉:当OpenAI、Google等西方巨头单次模型训练开销动辄超过1亿美元时,DeepSeek-V3仅用560万美元完成训练,证明暴力堆算力是一种选择,而非必需。
- 稀疏激活护城河:DeepSeek采用专家混合(MoE)架构,每次查询仅从6710亿总参数中激活373亿,实现1/18的效率比,大幅削减推理成本。
- 强化学习优先的智能:通过率先采用强化学习优先训练(DeepSeek-R1-Zero),团队证明推理能力可以在没有昂贵人工标注监督微调的情况下涌现。
- 效率鸿沟:所谓“算力护城河”正迅速被“效率护城河”取代,DeepSeek等公司用老旧的H800硬件而非最新的H100/H200集群,就达到了最先进的性能。
算力护城河正在崩塌
这个叙事我们很熟悉:要打造世界级AI,必须拥有主权级数据中心、数百亿美元资本,以及直通NVIDIA硬件的供应链。到了2025年第四季度,这套叙事撞上了一堵坚不可摧的高墙。就在微软和谷歌确认来年AI资本支出合计超过4000亿美元之际,一支相对精干的中国团队发布了DeepSeek-R1,一款在推理性能上媲美OpenAI o1、成本却低得多的模型。
这不仅仅是小幅度优化,而是对AI行业经济逻辑的结构性颠覆。过去两年,“算力护城河”是主流理论:谁拥有最多的GPU和电力,谁就默认获胜。DeepSeek打破了这一理论,证明算法效率可以弥补硬件规模上10倍的劣势。如果一款GPT-4级别的模型能用曼哈顿一套中等公寓的价格训练出来,那么硅谷在位者的准入门槛就已经不复存在。
技术深潜:稀疏激活的精通
如何在560万美元的训练预算下运行6710亿参数?答案在于**专家混合(MoE)**与极致的稀疏激活。传统的“稠密”模型,如最初的GPT-3或GPT-4o,生成每个token时都会激活所有参数。这相当于为了向一个人问路,就把整座城市的人都叫醒。
DeepSeek-V3和R1采用了一种专门的MoE架构。模型总共有6710亿参数,但对任意给定token只激活一个特定子集——约373亿。
专家调度器
想象一座巨型图书馆:与其让一位图书管理员什么都懂,不如让数百位高度专业化的研究员待命。当有人问一个量子物理问题时,“调度器”(门控网络)只把请求发给物理学专家。数学公式如下:
这个1/18的比例意味着,DeepSeek只做了同等规模稠密模型5.5%的工作量。由于模型绝大多数部分在任意时刻都处于“关闭”状态,系统可以塞入10倍的知识量,同时保持推理速度和训练成本可控。
硬件优化:让H800高歌猛进
或许最 impressive 的技术成就是,DeepSeek在NVIDIA H800 GPU上实现了这些结果:这是受国际出口管制限制、由H100改造而来的版本。这些芯片的互联带宽只有西方版本的50%(400GB/s对900GB/s)。为克服这一点,DeepSeek团队开发了专有通信内核,最小化GPU之间的数据传输,用工程上的卓越智慧有效地“隐藏”了硬件瓶颈。
RL-First:无需巨额人工成本的推理
效率鸿沟的第二大支柱是强化学习(RL)。传统上,AI模型会经历一个名为监督微调(SFT)的过程:数千名人工被付费撰写“完美”答案。这很慢、很昂贵,而且受限于人类智能。
DeepSeek-R1-Zero走了另一条路:纯强化学习。模型被给予一套规则、一个目标(解数学题)以及一个“可验证奖励”系统。答对就奖励,答错就惩罚。
经过数千轮迭代,模型在没有一个人教它如何思考的情况下,发展出了自己的“思维链”(CoT)。它通过试错独立发现了逻辑、纠错,甚至自我怀疑。这种方法,加上最终版R1中用于提升可读性的“冷启动”SFT阶段,消除了西方公司视为经营必需成本的数百万美元人工标注账单。
历史背景:暴力堆算力时代的终结
要理解这为何重要,可以回顾研究人员在2020年提出的“Scaling Laws”。当时的假设是:数据和算力翻倍,智能就会线性增长。五年来,整个行业以宗教般的狂热追随这一路线图。
- 2021:GPT-3证明1750亿参数只是新的下限。
- 2023:GPT-4将训练预算推至上亿美元级别。
- 2024:Meta Llama 3.1用1.6万块H100训练,估计成本达1.2亿美元。
DeepSeek在2025年底的发布,标志着暴力堆算力时代的终结。历史表明,当某种资源变得昂贵到难以承受(算力/GPU),市场最终会找到用更便宜资源替代它的办法:数学层面的巧思。整个行业正在实时上演“软件定义GPU”的戏码。
前瞻性分析:资本支出陷阱
整个行业正进入**“西方资本支出陷阱”**。微软、亚马逊、谷歌等公司已经在庞大的实体数据中心上投入了数千亿美元,前提是算力是一条持久的护城河。
但如果竞争对手能用100亿美元的集群和更好的数学达到同样效果,那么一座1000亿美元集群的投资回报率(ROI)会怎样?
利润压缩
当DeepSeek以OpenAI o1 1/30的价格提供API接入时,巨大的通缩压力正冲击AI市场。企业开始意识到,他们无需为推理任务支付“OpenAI税”。这迫使西方供应商二选一:
- 降价,以牺牲自身利润为代价参与竞争。
- 接受市场份额流失,因为开发者会迁移到更高效的免费开源或更便宜的替代方案。
地缘政治转向
这不仅是商业问题,更是一次地缘政治重置。出口管制旨在扼杀中国AI的算力供应。国际社会通过迫使中国团队使用较差硬件,无意中激励他们成为了全球最高效的算法工程师。这种“稀缺思维”催生出的模型,从根本上比硅谷基于“富足思维”打造的模型更适应现实世界。
这对你意味着什么
对开发者或企业领导者而言,“算力护城河”已不再是忽视AI竞争的有效理由。高推理能力AI的准入门槛已从“主权国家”级别降至“中等市值企业”级别。
如果你是开发者:
- 停止一味追求“最大”模型,开始尝试R1的蒸馏版本。
- 关注智能体工作流,让多个小型、高效的专家协同解决问题,而不是依赖一个庞大昂贵的模型。
如果你是投资者:
- 仔细审视你持有的AI公司资本支出与智能产出之比。
- 问自己:“他们是在建硅的护城河,还是数学的护城河?”硅护城河可以像主图中的数据中心金库一样被轻易绕过。
结论:效率胜于暴力
DeepSeek-R1在2025年第四季度的发布,将被铭记为AI行业停止用万亿次浮点运算(Teraflops)衡量实力、开始用效率比衡量实力的时刻。西方资本支出陷阱警示着每一家正在建造数十亿美元算力堡垒的公司:效率鸿沟的数学不在乎资产负债表。最终,最智能的系统不是GPU最多的那个,而是能用最少资源做最多事的那个。
🦋 Bluesky 讨论
在 Bluesky 上讨论