AI 業界には汚い秘密があります。それは、電力が不足しているということです。チップに電力を供給するだけでなく、チップ間でデータを移動します。
50 年間、私たちは電子を点 A から点 B に移動させるのに銅線に依存してきました。CPU ではそれが機能しました。初期の GPU では機能しました。しかし、数千のチップにまたがる 1 つの巨大な脳のように機能する最新の AI トレーニング クラスターにとって、銅は 「銅の壁」 として知られる物理的な限界に達しています。
抵抗により熱が発生します。静電容量により信号が遅くなります。 Blackwell GPU 間でテラバイト規模のデータを転送しようとすると、銅線がヒーターに変わります。
業界の解決策は抜本的です。データの移動に電気を使用するのをやめます。光を使用してください。
物理学の問題: SerDes の「税金」
この変化が避けられない理由を理解するには、データ伝送の物理学、特に SerDes (シリアライザー/デシリアライザー) に注目する必要があります。
GPU はデータを送信するたびに、次のことを行う必要があります。
- シリアル化: 並列データを取得し、高速ストリームに変換します。
- 増幅: 電子を抵抗銅線に押し込むのに十分な電圧でストリームを爆発させます。
- イコライズ: 受信機は、ワイヤーによって引き起こされるノイズと信号劣化を除去する必要があります。
このプロセスには費用がかかります。
- 銅線コスト: サーバー ボード上で少量のデータを移動するには、1 ビットあたり 10 ~ 15 ピコジュール (pJ/ビット) のコストがかかります。
- スケール: AI トレーニングのために エクサバイト のデータを移動すると、合計はメガワットになります。
シリコン フォトニクスは数学を変えます。
- 光のコスト: 光子は生成されると、ほぼゼロの抵抗で導波路 (微細なガラスのトンネル) を通って移動します。
- 効率: 光インターコネクトは < 1 pJ/ビットでデータを移動できます。これは 10 倍の大幅な改善です。
テクノロジー: チップ上で光を曲げる方法
コンピューターのチップにレーザーを搭載するにはどうすればよいでしょうか?それは思っているよりも難しいです。
1. 導波路 (窒化シリコン)
シリコンを通して光を当てるだけではだめです。結局は散ってしまう。エンジニアは、窒化シリコン または シリコン オン インシュレータ (SOI) の小さなトンネルをチップ上にエッチングします。
- 内部全反射: 海底の光ファイバー ケーブルと同じように、これらのトンネルは光を壁で反射し、信号を失うことなくデータがチップ上で 90 度の角を曲がることを可能にします。
2. 変調 (リングレゾネーター)
データ (1 と 0) をエンコードするには、1 秒間に何十億回もライトを「オン」または「オフ」にする必要があります。 マイクロリングモジュレーターを使用しています。
- 導波管の隣にある小さなシリコンのリングを想像してください。リングに微小な電圧を加えると、その屈折率が変化します (電気光学効果)。 ※瞬時に「透明」から「不透明」になります。この切り替えは ピコ秒で発生します。
3. 熱の悪夢 (熱光学効果)
ここに問題があります。シリコンはプロセスが高温になると光学特性が変化します。 1 度の温度変化によりレーザーの調整が外れ、接続が失われる可能性があります。
- 修正: すべてのリング変調器には、原子スケールの小さなヒーターが組み込まれています。制御ループはこのヒーターを常に調整して、リングを共鳴に必要な「正確な」温度に保ち、隣の GPU から発せられる熱と闘います。
Co-Packaged Optics (CPO): プラガブルの終焉
長年にわたり、「光」とは、サーバーの背面 (QSFP-DD モジュール) に接続される個別のケーブルを意味していました。電子はプラグに到達するまでにマザーボード上を 10 インチ移動する必要がありました。その10インチの旅でエネルギーが失われます。
COUPE (Compact Universal Photonic Engine) が TSMC の答えです。 3D スタッキングを使用して、フォトニック エンジンを GPU ダイの上 (またはすぐ隣) に 直接 配置します。
- 経路: 電気信号はインチではなくミクロンで伝わります。
- 遅延: オンチップ グローバル インターコネクトの場合は 130 ピコ秒 (光) 対 330 ピコ秒 (銅線)。
「外部レーザー光源」(ELS) の回避策
高温の GPU に光学系を搭載する場合には、大きな問題が 1 つあります。それは、熱によりレーザーが死滅するということです。 レーザーは 70°C を超えると急速に劣化します。 GPU は 80°C 以上で動作します。
解決策は 外部レーザー光源 (OIF ELSFP 標準) です。
- リモート電源: 実際のレーザー ダイオードは、サーバー ラックの前面にある冷却ボックス内に配置されます (光の「電源」)。
- ファイバー配信: ホット GPU パッケージに連続光の「ブランク」ビームを照射します。
- 変調: GPU のフォトニクス チップは、その光を * 変調* (切り刻み) するだけです。それは生成しません。
- 利点: レーザーが故障した場合は、前面のプラグイン可能なモジュールを交換するだけです。 30,000 ドルの GPU は捨てられません。
プレイヤー: 誰が勝者ですか?
1. ジャイアンツ: Nvidia & TSMC
Nvidia は、将来の NVLink 相互接続が光化されることをすでに示唆しています。タイムラインは、「Rubin」アーキテクチャで 2026 年から 2027 年になると噂されています。これを大量生産可能にするために、TSMC の COUPE 異種統合を利用しています。
2. ディスラプター: ライトマターとアイヤー研究所
スタートアップ企業の動きはさらに加速しています。
- Lightmatter: 同社の 「Passage」 製品は、ウェハー スケールの相互接続です。光の配電盤として機能する巨大なシリコンウェハーを想像してみてください。その上に数十の GPU を配置すると、ケーブルを一切使わずに光を介して通信します。
- Ayar Labs: 彼らはリモート レーザー コンセプト (SuperNova) を支持しました。同社の TeraPHY チップレットは、おそらく現在最も先進的な「ドロップイン」光 I/O ソリューションです。
未来
私たちはムーアの法則 (トランジスタ密度) についてよく話しますが、今日の本当のボトルネックは I/O の壁です。 100,000 GPU クラスターは、思考速度によって制限されません。考えを共有できる速さによって制限されます。
「カッパーチップ」の時代は終わりつつあります。次世代のスーパーコンピューターはハイブリッドになります。電子頭脳は電子で思考しますが、光の光学神経系と通信します。
出典 (3)
- pr.tsmc.com TSMC COUPE Technology
- nvidia.com Nvidia Optical Networking
- lightmatter.co Lightmatter Passage
🦋 Bluesky での議論
Bluesky で議論する