실리콘 전쟁: Google TPU 대 Nvidia Blackwell

주요 내용

• 비용 효율성: Google의 TPU v6(Trillium)은 추론 작업에서 Nvidia H100/Blackwell에 비해 달러당 4.7배 더 나은 성능을 제공합니다.
• 에너지 왕: Google의 TPU는 동일한 작업 부하에 대해 67% 더 적은 전력을 소비합니다. 이는 데이터 센터 에너지 수요가 급증함에 따라 중요한 요소입니다.
• 새로운 도전자: Google의 “Ironwood”(TPU v7)는 뛰어난 효율성을 유지하면서 Blackwell의 기본 성능과 일치합니다.
• 평결: Nvidia는 여전히 훈련을 지배하지만 Google은 대규모 AI 추론 전쟁에서 승리하고 있습니다.

지난 3년 동안 “AI 하드웨어”는 Nvidia라는 이름과 동의어였습니다. 회사의 H100 및 후속 Blackwell 칩은 ChatGPT에서 Gemini에 이르기까지 모든 것을 지원하는 표준이 되었습니다. 그러나 AI 산업이 “훈련”(모델 구축)에서 “추론”(모델 실행)으로 전환함에 따라 미적분학도 변화하고 있습니다.

구글을 입력하세요. 전 세계가 Nvidia 할당을 위해 싸우고 있는 동안 Google은 자체 맞춤형 실리콘인 TPU(텐서 처리 장치)를 조용히 완성하고 있었습니다. Trillium(v6) 및 곧 출시될 Ironwood(v7) 아키텍처의 출시로 Google은 단순히 대안을 제시하는 것이 아닙니다. 그들은 하이퍼스케일러에게 가장 중요한 지표인 비용과 에너지의 우월성을 주장하고 있습니다.

단순한 스펙시트 싸움이 아니다. 범용 유연성(Nvidia)과 전문화된 효율성(Google)이라는 철학의 충돌입니다. 이 선택은 AI 시대의 경제학을 정의할 것입니다.

배경: 컨텍스트

엔비디아 독점

엔비디아의 지배력은 우연이 아니었습니다. CUDA 소프트웨어 생태계는 개발자가 전환하기를 엄청나게 어렵게 만드는 “해자”를 만들었습니다. 최첨단 모델을 훈련하고 싶다면 Nvidia GPU를 사용했습니다. 기간. 이로 인해 Nvidia는 Blackwell 랙의 가격이 300만 달러 이상에 달하는 엄청난 마진을 확보할 수 있었습니다.

Google의 장기전

구글은 다른 길을 택했습니다. 10년 전에 표준 CPU와 GPU가 AI 요구 사항을 따라잡을 수 없다는 사실을 깨달은 이들은 자체 워크로드(검색, 지도, 현재는 Gemini)에 맞게 특별히 TPU를 구축하기 시작했습니다. 수년 동안 이것은 내부 비밀이었습니다. 이제 이는 Google Cloud AI 제품의 중추입니다.

하드웨어 이해

엔비디아 블랙웰(B200/GB200)

Nvidia의 Blackwell은 짐승입니다. 이 칩은 “만능” 칩으로 설계되었습니다.

• 강점: 대규모 메모리 대역폭, 놀라운 원시 컴퓨팅 성능, 모든 유형의 AI 워크로드(훈련, 추론, 과학적 시뮬레이션)를 처리할 수 있는 능력.
• 약점: 전력 소모가 많고 엄청나게 비쌉니다. 이는 마치 포뮬러 1 자동차를 타고 식료품점으로 가는 것과 같습니다. 빠르지만 많은 작업을 수행하기에는 너무 과합니다.

Google Trillium(TPU v6) 및 Ironwood(TPU v7)

Google의 TPU는 정밀 기기입니다. GPU의 그래픽 렌더링 레거시를 제거하여 순수하게 행렬 수학(AI의 핵심)에만 집중합니다.

• 강점: 극도의 에너지 효율성, 광학 상호 연결(수천 개의 칩이 하나의 “슈퍼컴퓨터”로 작동 가능) 및 저렴한 비용.
• 약점: 프로그래밍하기가 더 어렵고(JAX/TensorFlow 전문 지식 필요) AI가 아닌 작업에는 유연성이 떨어집니다.

데이터: 숫자로 알아보기

숫자는 기업 구매자에게 냉혹한 그림을 그려줍니다.

비용 비교(3년 TCO)

출처: AINewsHub, CloudOptimo

성능 지표

• 추론: TPU v6은 Nvidia의 현재 세대보다 달러당 4.7배 더 나은 성능을 제공합니다.
• 효율성: Google 칩은 특정 변압기 작업 부하에서 와트당 100% 더 나은 성능을 제공합니다.

업계에 미치는 영향

추론으로의 전환

Gemini 3 및 GPT-5와 같은 모델이 수십억 명이 사용하는 제품이 되면서 업계의 지출은 교육(모델 제작)에서 추론(모델 제공)으로 전환되고 있습니다. 이는 Google의 손에 직접적으로 영향을 미칩니다. Nvidia의 칩은 훈련에는 환상적이지만 하루에 수백만 개의 쿼리를 처리하려면 비용이 많이 드는 과잉입니다.

”담으로 둘러싸인 정원” 효과

Google의 TPU는 Google Cloud를 통해서만 사용할 수 있습니다. TPU를 구입하여 자체 데이터 센터에 넣을 수는 없습니다. 이로 인해 기업은 Nvidia(AWS, Azure 또는 온프레미스)를 통해 유연성을 유지하거나 더 나은 경제성을 위해 Google 생태계에 고정할 것인지 선택해야 합니다.

과제 및 한계

사양에도 불구하고 Nvidia는 아무데도 가지 않습니다.

1. CUDA 해자: Nvidia의 소프트웨어 생태계는 여전히 매우 우수합니다. 대부분의 AI 연구자들은 CUDA에서 학습합니다. Google의 JAX 또는 TensorFlow로 코드를 포팅하는 것은 골치 아픈 일이 될 수 있습니다.
2. 가용성: 거의 모든 클라우드 제공업체에서 Nvidia GPU를 임대할 수 있습니다. TPU는 Google 전용입니다.
3. 다용성: 워크로드가 변경되면 GPU가 이를 처리할 수 있습니다. TPU는 전문 도구입니다. 모델 아키텍처가 강점에 맞지 않으면 성능이 저하될 수 있습니다.

이것이 당신에게 의미하는 것

AI 스타트업인 경우:

• R&D 및 교육을 위해 Nvidia를 선택하세요. 유연성은 비용 대비 가치가 있습니다.
• 규모에 도달하면 배포를 위해 TPU로 이동하는 것을 고려하세요. 50%의 비용 절감은 이익과 파산의 차이가 될 수 있습니다.

투자자인 경우:

• 추론이 지배적인 작업 부하가 되면서 Nvidia의 마진은 압박을 받을 수 있습니다.
• Google Cloud는 아직 가격이 완전히 책정되지 않은 엄청난 구조적 비용 이점을 갖고 있습니다.

결론

“실리콘 전쟁”은 하나의 칩이 다른 칩을 죽이는 것이 아닙니다. 전문화에 관한 것입니다. Nvidia Blackwell은 혁신의 엔진인 교육의 확실한 왕으로 남아 있습니다. 하지만 Google의 TPU는 경제의 엔진인 추론을 정복했습니다.

2026년에는 두 가지 시장이 나타날 것으로 예상됩니다. Nvidia는 엔터프라이즈 및 연구 클라우드를 소유하고 Google, AWS(Trainium) 및 Meta(MTIA)는 하이퍼스케일러 내부 워크로드를 소유합니다. 현재 Google은 원시 전력뿐만 아니라 효율성이 AI의 미래라는 점에 대해 96억 달러 규모의 경고 사격을 가했습니다.