重要なポイント
- 年次更新: NVIDIA は、2 年間の製品サイクルを正式に放棄し、Blackwell Ultra (B300) の発売により「チクタク」年次ペースに移行しました。
- メモリは堀です: B300 の主な利点は、12-hi High Bandwidth Memory 3e (HBM3e) への移行で、GPU あたりの容量が 288GB に増加します。
- 電力対パフォーマンス: 1,400 ワットの熱設計電力 (TDP) を備えた B300 は、液体冷却をオプションの贅沢ではなく必須のインフラストラクチャ要件にします。
- 設備投資の罠: ハイパースケーラーは、導入途中の「Ultra」リフレッシュに数十億ドルを投資することを余儀なくされ、そうしないと、「Reasoning」モデルの優位性をめぐる競争で遅れをとるリスクがあります。
2 年サイクルの終わり
半導体業界の歴史の中で、CPU 市場での優位性を維持するために Intel が「Tick-Tock」モデルを擁護したことは有名です。ある年には新しいアーキテクチャ (Tick) が導入され、次の年にはプロセスの改良 (Tock) が導入されました。 NVIDIA は長年にわたり、Pascal (2016)、Volta (2017/18)、Ampere (2020)、Hopper (2022)、そして最後に Blackwell (2024) という、より緩やかな 2 年のペースで運営してきました。
しかし、AIのゴールドラッシュは市場の物理学を変えた。 2025 年 12 月 4 日、Supermicro は最初の大容量水冷 HGX B300 システムの出荷を開始し、「ウルトラ」時代が正式に到来したことを示しました。これは単なるマイナーパッチではありません。これは、地球上のすべてのクラウド プロバイダーに 2026 年の設備投資 (CapEx) の再考を強いる 1,000 億ドルのミッドサイクル リフレッシュです。
NVIDIA はもはやチップを販売するだけではありません。彼らは永久アップグレードサブスクリプションを販売しています。企業が標準的なブラックウェル (B200) を 6 か月前に購入した場合、すでに遅れています。ブラックウェル ウルトラ (B300) は、次世代の「ルービン」アーキテクチャが 2026 年に登場するまでに、競合他社に「息抜きの余地」を与えないようにする戦略的な戦略を表しています。
12-Hi メモリーウォール
最新の生成 AI システム (LLM) のボトルネックが、生のコンピューティング能力であることはほとんどありません。代わりに、高帯域幅メモリ (HBM) によって管理されるプロセスであるデータをコンピューティングに供給する機能です。
HBM3e 12-Hi への移行
標準の Blackwell カードは 8-hi HBM3e スタックを使用しました。これらは基本的に、メモリチップが積み重ねられた 8 階建ての建物です。 Blackwell Ultra は 12 Hi HBM3e に移行します。スタックの高さを増やすことで、NVIDIA は GPU あたりのメモリ容量を 192GB から 288GB に増やしました。
このメモリの 50% の増加は、次の場合に重要です。
- モデルの常駐: OpenAI の o1 のような複雑な「推論」モデルは、中間の論理ステップを保持するために大量の「アクティブ」メモリを必要とします。
- コンテキスト ウィンドウ: メモリが大きいため、モデルがデータを低速ストレージに「スワップ」する必要がなく、遅延の原因となるコンテキスト ウィンドウを長くすることができます。
- KV キャッシュ: Key-Value (KV) キャッシュは、同時ユーザーの数に応じて増加します。メモリが多いほど、GPU あたりのスループットが高くなります。
パワーペナルティ
卓越性には、メガワット (MW) 単位で測定されるコストがかかります。 B300 は、チップが生成する熱量である熱設計電力 (TDP) を 1,400 ワットに押し上げます。比較のために、H100 は 700 ワットでした。 NVIDIA は、わずか 3 年で電力密度を効果的に 2 倍にしました。
この変化により、トップレベルの AI トレーニングには従来の空冷データセンターは時代遅れになります。液冷はもはやニッチな愛好家向けの設定ではありません。 変圧器危機 は、冷却と電力供給の大幅な効率向上がなければ、物理グリッドがこれらの負荷をサポートできないことを裏付けています。
背景: シリコンのチクタク
Hopper から Blackwell への進化は「Tick」（新しいアーキテクチャ）でした。 B300は「Tock（洗練）」です。このサイクルを短縮することで、NVIDIA は古典的な「包囲」戦略を実行しています。
2023 年、H100 は街で唯一のゲームでした。 2024 年には、AMD (MI325X) や AWS (Trainium2) などの競合他社がメモリ容量の差を縮め始めました。競合他社が市場に投入されるのと同じタイミングで B300 “Ultra” を発売することで、NVIDIA は効果的に再びゴールポストを動かしました。
この戦略は、TSMC の CoWoS-L (Chip-on-Wafer-on-Substrate with Local Interconnect) パッケージング テクノロジに依存しています。 CoWoS-L は、NVIDIA が複数の GPU ダイと HBM スタックを単一の巨大なパッケージに接続できるようにする「接着剤」です。 TSMC の CoWoS キャパシティの大部分を 2026 年に事前予約することで、NVIDIA はサプライ チェーン拒否で勝利を収めています。
シリコンモート: NVLink 130 TB/秒
B300 の本当の魅力は単一チップではありません。それはネットワークです。 B300 NVL72 ラック構成の NVLink インターコネクトは、130 テラバイト/秒 (TB/s) の総帯域幅を提供します。
これを視覚化すると、130 TB/秒で米国議会図書館のコンテンツ全体を 1 秒以内に転送できます。これにより、72 個の GPU が単一の巨大な統合 GPU として機能できるようになります。この「統合メモリ」アーキテクチャが、NVIDIA を他のすべてのプレーヤーと区別するものです。競合他社は独自のシリコンに対するインフラストラクチャの賭けに大規模な賭けをしていますが、NVIDIA の NVLink ファブリックの低遅延通信に匹敵するのに依然として苦労しています。
データ: 「超」ROI
B300 の経済的影響は甚大です。
主要な統計:
- メモリ密度: GPU あたり 288GB (B200 より 50% 増加)。
- 電力使用量: GPU あたり 1.4kW (B200 より 40% 増加)。
- 相互接続帯域幅: NVL72 構成で 130 TB/秒。
- 収益の伸び: NVIDIA のデータセンターの収益は、主に水冷ラックへの移行によって促進され、2026 年度には 1,500 億米ドルを超えると予測されています。
業界への影響
ハイパースケーラーへの影響 (Microsoft、Google、Meta)
「ビッグ 3」クラウド プロバイダーにとって、B300 は両刃の剣です。一方で、次世代の AI サービスをホストするために必要なパフォーマンスを提供します。一方で、既存の H100 および B100 の資産価値の低下が加速します。プロバイダーが 2024 年に H100 クラスターの 3 年間のリースに署名した場合、そのハードウェアは 2026 年初めまでにすでに 2 世代遅れています。
エネルギー網への影響
1.4kW チップへの移行は、公共事業プランナーにとっての課題です。単一の NVIDIA NVL72 ラックで 120kW+ の電力を供給できるようになりました。標準的な 10 ラックの列には、メガワットを超える電力が必要です。これが、Microsoft や Amazon のような企業が 原子力の確保 に積極的に取り組んでいる理由です。単に、グリッドが Blackwell Ultra の密度に合わせて構築されていないだけです。
AI 研究への影響
B300 は、「トレーニング」から「推論時間のスケーリング」への移行を可能にします。 o1 のようなモデルは、「思考連鎖」推論を使用します。これは、回答する前に「考える」ことに多くの時間を費やすことを意味します。これには、B300 が提供する大規模なメモリ バッファが必要です。つまり、B300 は AI 推論時代のハードウェア基盤です。
課題と限界
- エネルギーの壁: 既存のデータセンターの多くは、120kW ラック用に改修できません。 「液体対応」不動産の不足が、B300 導入の主なボトルネックです。
- HBM 供給: 12 Hi HBM3e は技術的には可能ですが、歩留まりは 8 Hi よりも低くなります。 SKハイニックスやサムスンで製造上の問題が発生すると、B300の展開全体が遅れる可能性がある。
- ROI の質問: ハードウェアのコストが生成されるインテリジェンスの価値を超えるのはどの時点ですか?ハイパースケーラーは、1,000 億ドルの GPU 支出が単なる「トークン」収益ではなく、実質利益につながることを証明するという強いプレッシャーに直面しています。
次は何ですか?
短期 (2026)
「Rubin」アーキテクチャへの移行が始まります。 Rubin は、より広範な 2048 ビット インターフェイスを使用する HBM4 に移行する可能性があります。 B300 はその未来への架け橋となり、NVIDIA は移行期間中に 90% 以上の市場シェアを確実に維持します。
中期 (2027-2029)
業界は「システムオンパッケージ」（SoP）革命を期待しています。 GPU をボード上に配置する代わりに、サーバー全体を 3D スタックされた単一のシリコン キューブに統合することもできます。電力要件はユニットあたり 2kW 以上になる可能性があります。
長期 (2030 年以降)
制限はもはやトランジスタではなく、光の速度になります。光インターコネクトは銅を完全に置き換える可能性が高く、光子の速度で GPU 間でデータを移動して「コンテキストの壁」を克服します。
これが業界関係者にとって何を意味するか
Blackwell Ultra の発表は、AI サイクルが減速しているのではなく、圧縮していることを証明しています。
IT 意思決定者向け:
- 空冷データセンターの建設は避けてください。コンクリートが乾いた瞬間、それらはレガシーインフラになります。
- 従来の 3 ～ 5 年ではなく、18 か月のハードウェア更新サイクルの予算を立てます。
AI 開発者向け:
- メモリ容量に応じて拡張できるモデル向けに設計。推論モデルのトレンドは、B300 の 288GB メモリ プールの直接の恩恵を受けています。
🦋 Bluesky での議論
Bluesky で議論する