链接已复制!

Blackwell Ultra:价值 1000 亿美元的“中期”升级

NVIDIA 并没有等待 Rubin 世代。Blackwell Ultra (B300) 即将推出,并配备 288GB HBM3e 升级,将超大规模企业锁定在永久的资本支出周期中,仅仅是为了保持竞争力。

🌐
机器翻译

本文由英文原文自动翻译而成。 阅读英文原文

高对比度数据中心机架,带有液冷 NVIDIA B300 GPU 和蓝色流体管。

核心要点

  • 年度更新:NVIDIA 已正式放弃两年一更的产品周期,转向 “Tick-Tock” 式年度节奏,推出 Blackwell Ultra(B300)。
  • 内存即护城河:B300 的核心优势在于转向 12 层堆叠的高带宽内存 3e(HBM3e),使单 GPU 显存容量提升至 288GB。
  • 功耗与性能:B300 的热设计功耗(TDP)达到 1,400 瓦,这让液冷从可选配置变成了强制性基础设施要求。
  • 资本支出陷阱:超大规模云厂商被迫在部署中期投入数十亿美元进行 “Ultra” 升级,否则就可能在争夺 “Reasoning” 模型主导权的竞赛中落后。

两年周期的终结

在半导体产业史上,“Tick-Tock” 模式曾被 Intel 奉为维持 CPU 市场统治地位的法宝:一年更新架构(Tick),下一年优化工艺(Tock)。多年来,NVIDIA 的节奏相对宽松,大致为两年一代:Pascal(2016)、Volta(2017/18)、Ampere(2020)、Hopper(2022),再到 Blackwell(2024)。

但 AI 淘金热改变了市场规律。2025 年 12 月 4 日,Supermicro 开始大批量出货采用液冷散热的 HGX B300 系统,标志着 “Ultra” 时代正式到来。这并非小修小补,而是一轮规模达 1,000 亿美元 的中期更新,迫使全球所有云厂商重新规划 2026 年的资本支出(CapEx)。

NVIDIA 已不再只是卖芯片,而是在兜售一种 “永久升级订阅”。如果某家公司半年前刚买了标准版 Blackwell(B200),那它现在就已经落后了。Blackwell Ultra(B300)是一次战略 maneuver,目的就是在下一代 “Rubin” 架构于 2026 年到来之前,不给竞争对手任何喘息空间。

12 层堆叠内存墙

现代生成式 AI 系统(LLM)的瓶颈很少是 raw 算力,而是如何持续为算力喂入数据,这取决于高带宽内存(HBM)。

HBM3e 12 层堆叠的过渡

标准版 Blackwell 显卡采用 8 层堆叠(8-hi)的 HBM3e,相当于把内存芯片垒成 8 层高楼。Blackwell Ultra 则升级到 12 层堆叠(12-hi)。通过增加堆叠高度,NVIDIA 将单 GPU 显存容量从 192GB 提升到了 288GB

这 50% 的内存增幅对以下场景至关重要:

  1. 模型驻留:复杂的 “Reasoning” 模型(如 OpenAI 的 o1)需要大量 “活跃” 内存来保存中间推理步骤。
  2. 上下文窗口:更大的内存意味着更长的上下文窗口,无需把数据 “换页” 到更慢的存储介质,从而避免延迟。
  3. KV 缓存:Key-Value(KV)缓存随并发用户数量增长,更多内存意味着单 GPU 更高吞吐。

功耗代价

卓越表现是有代价的,而且以兆瓦(MW)计量。B300 将热设计功耗(TDP)——即芯片发热量——推升至 1,400 瓦。作为对比,H100 为 700 瓦。NVIDIA 仅用三年就把功率密度翻了一倍。

这一转变让传统风冷数据中心在顶级 AI 训练场景下显得过时。液冷不再是小众发烧友配置。变压器危机 已经说明,如果不在冷却和供电效率上取得重大突破,电网根本无法支撑这些负载。

背景:硅芯片的 Tick-Tock

从 Hopper 到 Blackwell 是 “Tick”(新架构),B300 则是 “Tock”(工艺/设计优化)。通过缩短这一周期,NVIDIA 正在执行经典的 “包围” 战略。

2023 年,H100 还是唯一选择。2024 年,AMD(MI325X)和 AWS(Trainium2)等竞争对手开始在显存容量上缩小差距。NVIDIA 选择在这些竞品刚上市时推出 B300 “Ultra”,相当于又一次把球门挪远了。

这一战略依赖台积电的 CoWoS-L(Chip-on-Wafer-on-Substrate with Local Interconnect) 封装技术。CoWoS-L 是 NVIDIA 把多颗 GPU 裸片与 HBM 堆栈 “粘” 成单一巨型封装的 “胶水”。通过提前预订台积电 2026 年绝大部分 CoWoS 产能,NVIDIA 同时也在打一场供应链封锁战。

B300 真正的魔力不在单芯片,而在网络。B300 NVL72 机架配置中的 NVLink 互联提供高达 130 TB/s(每秒 130 万亿字节) 的聚合带宽。

形象地理解:130 TB/s 足够在不到一秒内传输美国国会图书馆的全部馆藏。这让 72 颗 GPU 可以像一颗巨型统一 GPU 一样协同工作。这种 “统一内存” 架构正是 NVIDIA 区别于所有对手的关键。当竞争对手在 专有硅片基础设施上押下重注 时,它们仍然难以匹敌 NVIDIA NVLink 架构的低延迟通信能力。

数据:“Ultra” 的投资回报

B300 的财务影响极其巨大。

核心数据:

  • 显存密度:单 GPU 288GB(较 B200 提升 50%)。
  • 功耗:单 GPU 1.4kW(较 B200 提升 40%)。
  • 互联带宽:NVL72 配置下达 130 TB/s。
  • 收入增长:受液冷机架转型推动,NVIDIA 数据中心收入预计在 2026 财年突破 1,500 亿美元

行业影响

对超大规模云厂商(Microsoft、Google、Meta)的影响

对三大云巨头而言,B300 是一把双刃剑。一方面,它能提供承载下一代 AI 服务所需的性能;另一方面,它也加速了现有 H100 和 B100 机队的贬值。如果一家云厂商在 2024 年为 H100 集群签了三年的租约,到 2026 年初,这批硬件已经落后两代。

对电网的影响

转向 1.4kW 芯片对电网规划者是个严峻挑战。单个 NVIDIA NVL72 机架如今功耗超过 120kW;一排 10 个机架就要超过 1 兆瓦。正因如此,Microsoft 和 Amazon 才积极 布局核电——传统电网根本不是为 Blackwell Ultra 这种密度而生的。

对 AI 研究的影响

B300 推动 AI 从 “训练时扩展” 转向 “推理时扩展”。像 o1 这样的模型采用 “Chain of Thought” 推理,会在给出答案前花更多时间 “思考”。这需要 B300 提供的大容量显存缓冲。简而言之:B300 是 AI 推理时代的硬件基石。

挑战与局限

  1. 能耗墙:许多现有数据中心无法改造以承载 120kW 机架。缺乏 “液冷就绪” 的物业资源,是 B300 部署的主要瓶颈。
  2. HBM 供应:虽然 12-hi HBM3e 在技术上可行,但其良率低于 8-hi。一旦 SK Hynix 或 Samsung 出现制造困难,整个 B300 rollout 都可能被推迟。
  3. 投资回报之问:硬件成本何时会超过其生成的智能价值?超大规模云厂商面临巨大压力,必须证明 1,000 亿美元的 GPU 投入能带来真实利润,而非只是 “token” 收入。

下一步是什么?

短期(2026 年)

“Rubin” 架构的过渡即将开始。Rubin 很可能升级到 HBM4,采用更宽的 2048-bit 接口。B300 就是通往未来的桥梁,确保 NVIDIA 在过渡期仍能保持 90% 以上的市场份额。

中期(2027–2029 年)

业界预计将发生 “System-on-Package”(SoP)革命。GPU 不再位于主板上,整台服务器可能被集成进单个 3D 堆叠硅立方体中。单单元功耗很可能突破 2kW。

长期(2030 年以后)

限制因素将不再是晶体管,而是光速。光互联很可能完全取代铜缆,以光子速度在 GPU 之间传输数据,从而突破 “上下文墙”。

对行业利益相关者的意义

Blackwell Ultra 的发布证明,AI 周期正在压缩,而不是放缓。

对 IT 决策者:

  • 别再建风冷数据中心,它们从水泥干透的那一刻起就是遗留基础设施。
  • 按 18 个月的硬件更新周期做预算,而非传统的 3–5 年。

对 AI 开发者:

  • 面向随显存容量扩展的模型进行设计。Reasoning 模型趋势正是 B300 288GB 显存池的直接受益者。

Blackwell Ultra 不仅是一颗芯片,更是一份宣言。变化是唯一不变,而在 NVIDIA 的世界里,留在牌桌上的唯一方式就是持续支付升级费用。

资料来源

Advertisement

🦋 Bluesky 讨论

在 Bluesky 上讨论

正在搜索帖子...