서구 자본 지출의 함정: DeepSeek과 효율성 격차

주요 내용

• 1억 달러의 환상: OpenAI 및 Google과 같은 서구의 거대 기업은 모델 훈련 실행당 1억 달러 이상을 지출하는 반면, DeepSeek-V3는 단지 $560만 훈련되었으며, 무차별 대입 컴퓨팅은 필수 사항이 아닌 선택임을 입증했습니다.
• 희소 활성화 해자: DeepSeek는 쿼리당 총 671B 중 37.3B 매개변수만 활성화하는 MoE(Mixture-of-Experts) 아키텍처를 사용하여 추론 비용을 대폭 절감하는 1/18 효율성 비율을 달성합니다.
• RL-First Intelligence: 강화 학습 우선 교육(DeepSeek-R1-Zero)을 개척함으로써 팀은 값비싼 사람이 라벨을 붙인 감독 미세 조정 없이도 추론 능력이 나타날 수 있음을 입증했습니다.
• 효율성 격차: DeepSeek과 같은 회사가 최신 H100/H200 클러스터 대신 노후된 H800 하드웨어를 사용하여 최첨단 성능을 달성함에 따라 “컴퓨팅 해자”는 “효율성 해자”로 빠르게 대체되고 있습니다.

컴퓨팅 해자가 깨지고 있습니다

이야기는 친숙합니다. 세계적 수준의 AI를 구축하려면 주권 규모의 데이터 센터, 수백억 달러의 자본, NVIDIA 하드웨어에 대한 직접 파이프라인이 필요합니다. 2025년 4분기에 그 이야기는 견고한 금벽에 부딪혔습니다. Microsoft와 Google이 내년에 $4,000억을 초과하는 통합 AI 자본 지출 약속을 확인함에 따라 상대적으로 규모가 작은 중국 팀이 적은 비용으로 추론 성능에서 OpenAI의 o1과 일치하는 모델인 DeepSeek-R1을 출시했습니다.

이것은 단지 사소한 최적화가 아닙니다. 이는 AI 산업 경제의 구조적 혼란입니다. 2년 동안 가장 많은 GPU와 가장 많은 전력을 보유한 개체가 기본적으로 승리한다는 생각인 “컴퓨팅 해자(Compute Moat)“가 지배적인 이론이었습니다. DeepSeek은 알고리즘 효율성이 하드웨어 규모의 10배 단점을 극복할 수 있음을 입증함으로써 이러한 이론을 깨뜨렸습니다. GPT-4 클래스 모델을 맨해튼의 중형 아파트 가격으로 훈련할 수 있다면 실리콘 밸리 기존 기업의 진입 장벽은 사라질 것입니다.

기술 심층 분석: 희소 활성화의 달인

560만 달러의 훈련 예산으로 6,710억 개의 매개변수가 어떻게 실행됩니까? 대답은 **전문가 혼합(MoE)**과 극도의 희박한 활성화에 있습니다. 원래 GPT-3 또는 GPT-4o와 같은 전통적인 “밀도” 모델은 생성되는 모든 단일 토큰에 대해 모든 단일 매개변수를 활성화합니다. 한 사람에게 길을 물어보기 위해 도시 전체의 사람들을 깨우는 것과 같은 계산입니다.

DeepSeek-V3 및 R1은 특수 MoE 아키텍처를 활용합니다. 모델에는 총 6,710억 개의 매개변수가 포함되어 있지만 특정 토큰에 대해 특정 하위 집합(약 373억 개)만 활성화됩니다.

전문 파견자

한 명의 사서가 모든 것을 알고자 하는 대신 수백 명의 고도로 전문화된 연구자가 있는 대규모 도서관이라고 생각하십시오. 양자 물리학에 대한 질문이 나오면 “디스패처”(게이팅 네트워크)는 물리학 전문가에게만 요청을 보냅니다. 수학은 다음과 같습니다.

$\text{Active Ratio} = \frac{\text{Active Parameters}}{\text{Total Parameters}} = \frac{37.3 \text{B}}{671 \text{B}} \approx \frac{1}{18}$

이 1/18 비율은 DeepSeek가 동일한 전체 크기의 밀도 모델이 수행하는 작업의 5.5%만 수행한다는 것을 의미합니다. 특정 순간에 대부분의 모델을 “어두운” 상태로 유지함으로써 시스템은 추론 속도와 훈련 비용을 관리 가능하게 유지하면서 시스템에 10배 더 많은 지식을 담을 수 있습니다.

하드웨어 최적화: H800을 노래하게 만들기

아마도 가장 인상적인 기술적 업적은 DeepSeek가 NVIDIA H800 GPU에서 이러한 결과를 달성했다는 것입니다. 이는 국제 수출 통제에 의해 제한되는 H100의 수정 버전입니다. 이 칩은 서구 칩보다 상호 연결 대역폭(400GB/s 대 900GB/s)이 50% 적습니다. 이를 극복하기 위해 DeepSeek 팀은 뛰어난 엔지니어링 기술을 통해 하드웨어 병목 현상을 효과적으로 “숨기고” GPU 간의 데이터 전송을 최소화하는 독점 통신 커널을 개발했습니다.

RL-First: 인간 계산서 없는 추론

효율성 격차의 두 번째 요소는 **강화 학습(RL)**입니다. 전통적으로 AI 모델은 SFT(Supervised Fine-Tuning)라는 프로세스를 거치며, 수천 명의 인간이 프롬프트에 “완벽한” 답변을 작성하기 위해 돈을 받습니다. 이는 느리고 비용이 많이 들고 인간의 지능에 의해 제한됩니다.

DeepSeek-R1-Zero는 순수 RL이라는 다른 경로를 택했습니다. 모델에는 일련의 규칙, 목표(수학 문제 해결) 및 “검증 가능한 보상” 시스템이 제공되었습니다. 모델이 정답을 맞추면 보상을 받았습니다. 실패하면 처벌을 받았습니다.

수천 번의 반복을 통해 모델은 단 한 명의 사람도 생각하는 방법을 보여주지 않고도 자체적인 “사고 사슬”(CoT)을 개발했습니다. 시행착오를 통해 논리, 오류 수정, 심지어 자기 의심까지 완전히 발견했습니다. 가독성을 높이기 위해 최종 R1 릴리스의 “콜드 스타트” SFT 단계와 결합된 이 방법론은 서구 기업이 필수 비즈니스 비용으로 간주하는 수백만 달러의 인적 라벨링 비용을 제거합니다.

상황적 역사: 무차별 대입 시대의 종말

이것이 왜 중요한지 이해하려면 2020년 연구원들이 확인한 “확장 법칙”을 되돌아보세요. 데이터와 컴퓨팅이 두 배로 증가하면 지능이 선형적으로 증가할 것이라고 가정했습니다. 5년 동안 업계는 종교적인 열정으로 이 로드맵을 따랐습니다.

• 2021: GPT-3는 175B 매개변수가 새로운 층임을 증명합니다.
• 2023: GPT-4는 예산을 수억 달러로 늘립니다.
• 2024년: Meta Llama 3.1 열차는 H100 16,000대에 달하며 비용은 약 1억 2천만 달러입니다.

2025년 말 DeepSeek의 출시는 이러한 무차별 대입 시대의 종말을 의미합니다. 역사를 보면 리소스(컴퓨팅/GPU)가 엄청나게 비싸질 때마다 시장은 결국 이를 더 저렴한 리소스, 즉 수학적 영리함으로 대체할 수 있는 방법을 찾습니다. 업계에서는 “소프트웨어 정의 GPU”가 실시간으로 구현되는 것을 보고 있습니다.

미래 예측 분석: Capex 함정

업계는 이제 **“서부 자본 투자 함정”**에 진입하고 있습니다. Microsoft, Amazon, Google과 같은 회사는 컴퓨팅이 내구성 있는 해자라는 가정을 기반으로 이미 대규모 물리적 데이터 센터에 수천억 달러를 투자했습니다.

하지만 경쟁업체가 100억 달러 클러스터와 더 나은 계산을 사용하여 동일한 결과를 달성할 수 있다면 1000억 달러 클러스터의 투자 수익률(ROI)은 어떻게 될까요?

여백 압축

DeepSeek이 OpenAI o1 가격의 1/30 가격으로 API 액세스를 제공함에 따라 AI 시장에는 엄청난 디플레이션 압력이 가해지고 있습니다. 기업들은 추론 작업을 위해 “OpenAI 세금”을 지불할 필요가 없다는 사실을 깨닫기 시작했습니다. 이로 인해 서구 서비스 제공자는 다음을 선택해야 합니다.

1. 가격을 인하하고 경쟁을 위해 자체 마진을 파괴합니다.
2. 개발자가 보다 효율적인 오픈 소스나 저렴한 대안으로 마이그레이션함에 따라 시장 점유율 손실을 수용합니다.

지정학적 변화

이것은 단순한 비즈니스 문제가 아닙니다. 지정학적 재설정이다. 수출 통제는 중국 AI의 컴퓨팅을 중단시키기 위해 고안되었습니다. 중국 팀이 열등한 하드웨어로 작업하도록 강요함으로써 국제 사회는 의도치 않게 중국 팀이 세계에서 가장 효율적인 알고리즘 엔지니어가 되도록 장려했습니다. “희소성 사고방식”은 실리콘 밸리에서 구축된 “풍부 모델”보다 현실 세계에 맞게 근본적으로 더 잘 설계된 모델 세대를 만들어냈습니다.

이것이 당신에게 의미하는 것

개발자나 비즈니스 리더에게 “컴퓨팅 해자”는 더 이상 AI 경쟁을 무시할 수 있는 유효한 이유가 아닙니다. 고 추론 AI의 진입 장벽이 ‘주권 국가’ 수준에서 ‘중견기업’ 수준으로 낮아졌습니다.

개발자인 경우:

• “가장 큰” 모델에 대한 최적화를 중단하고 R1의 정제된 버전으로 실험을 시작하십시오.
• 하나의 거대하고 값비싼 모델보다는 여러 명의 효율적인 소규모 전문가가 함께 문제를 해결하는 에이전트 워크플로에 중점을 둡니다.

투자자인 경우:

• AI 보유 자산의 지능 대비 자본 지출 비율을 주의 깊게 조사하세요.
• 물어보세요: “그들은 실리콘 해자를 만들고 있습니까, 아니면 수학의 해자를 만들고 있습니까?” 실리콘 해자는 히어로 이미지의 데이터 센터 금고만큼 쉽게 우회할 수 있습니다.

평결: 무차별 대입에 대한 효율성

2025년 4분기 DeepSeek-R1 출시는 AI 업계가 테라플롭스 단위의 전력 측정을 중단하고 효율 비율로 측정을 시작한 순간으로 기억될 것입니다. Western Capex Trap은 현재 수십억 달러 규모의 컴퓨팅 포트리스를 구축하고 있는 모든 회사에 대한 경고입니다. 즉, 효율성 격차 계산은 대차대조표와 상관이 없습니다. 결국, 가장 지능적인 시스템은 GPU를 가장 많이 탑재한 시스템이 아니라, 최소한으로 최대의 성능을 발휘하는 시스템입니다.

---