웨이모의 다크 모드: 전력망이 멈췄을 때

샌프란시스코는 미래의 도시가 될 것으로 예상됩니다. 그러나 2025년 12월 토요일 오후, 그것은 산업화 이전의 과거의 한 장면처럼 보였습니다.

8번가와 미션에서 발생한 대규모 변전소 화재로 인해 130,000명의 주민이 어둠 속으로 빠져들자 도시의 교통 인프라는 완전히 사라졌습니다. 녹색 신호등, 빨간색 신호등, 보행자 신호등이 없습니다. 교차로 위에 검은색 금속 상자가 걸려 있을 뿐입니다. 인간 운전자의 경우 이는 지저분하지만 이해 가능한 사회적 프로토콜, 즉 “4방향 정지로 처리” 규칙을 촉발했습니다. 혼란스럽고 공격적이며 느리지만 흐름이 이어졌습니다.

그러나 그리드 장애는 Waymo의 자율주행차에 인지적 재앙이었습니다.

리치먼드, 프레시디오, 다운타운 지역에서 “세계에서 가장 경험이 풍부한 운전자”는 무엇을 해야할지 몰랐습니다. 교통 신호의 결정론적 확실성을 상실하고 앞으로 기어가는 Honda Civic의 혼란스러운 운전자와 눈을 마주칠 수 없었던 로봇은 안전 검증 모델이 허용하는 유일한 작업을 수행했습니다. 바로 얼어붙었습니다.

구경꾼들의 말에 따르면 그 결과는 “완전한 대혼란”이었습니다. Waymo 차량은 어두운 교차로에서 공회전하고 있었고 LiDAR 어레이는 맹렬하게 회전하면서 결코 오지 않을 신호를 기다리고 있었습니다. 이것은 단순한 기술적 결함이 아니었습니다. 이는 무너져가는 아날로그 세계에서 자율 시스템의 취약성에 대한 근본적인 계시였습니다. 로봇은 도로를 주행할 준비가 되어 있지만 도로는 로봇을 주행할 준비가 되어 있지 않습니다.

”죽은” 교차점의 물리학

정전이 눈보라보다 로봇에게 더 마비되는 이유를 이해하려면 자율주행차(AV)가 ‘권위’를 어떻게 인식하는지 살펴봐야 합니다.

결정론적 오류

AV는 제약 계층에 따라 작동합니다. 이 계층 구조의 최상위에는 **교통 제어 장치(TCD)**가 있습니다.

$P(Action) = P(Path | Signal) \times P(Clearance)$

일반적인 시나리오에서 신호등 상태($Signal$)는 이진 또는 삼진 제약 조건입니다. 녹색은 ‘가다’, 빨간색은 ‘중지’를 의미합니다. 차량의 다음 행동에 대한 확률 분포는 이 신호를 기반으로 거의 확실성으로 붕괴됩니다. 컴퓨터 비전 시스템은 신호등의 경계 상자를 식별하고 픽셀 색상(빨간색/노란색/녹색)을 분류한 다음 이를 HD 지도의 의미 계층에 매핑하여 이 조명이 차량의 차선을 제어하는지 확인합니다.

전원이 꺼지면 TCD 상태는 NULL가 됩니다.

인간에게 어두운 빛은 상징이다. 이는 “4-Way Stop”이라는 개념에 매핑됩니다. 운전자는 게임 이론을 사용합니다. 앞으로 조금씩 움직여 손을 흔들고 상대방 운전자의 얼굴을 보면서 공격성이나 양보 의도를 평가합니다. 인간은 사회적 신호를 기반으로 복잡하고 마이크로초 단위의 협상에 참여합니다.

AV의 경우 어두운 빛은 극도로 불확실성이 있는 극단적인 경우입니다.

1. 감지 실패: 카메라가 하우징을 인식하지만 조명 픽셀이 없습니다. 꺼져 있나요? 태양이 눈부시게 빛나고 있나요?
2. 규칙 충돌: HD 지도에 “이곳은 신호 교차로입니다.”라고 표시됩니다. 센서에 “신호가 없습니다.”라고 표시됩니다.
3. 최소 위험 조건(MRC): 불확실성 임계값($\sigma$)이 안전 매개변수를 초과하는 경우 차량은 기본적으로 최소 위험 조건으로 설정됩니다. 일반적으로 이는 “중지하고 명확해질 때까지 기다리십시오”를 의미합니다.

12월 20일 정전에서 “명확성”은 결코 도달하지 못했습니다. 로봇은 물리학이 제공할 수 없는 신호 변화를 기다렸습니다.

센서 격차: LiDAR가 ‘진행’을 볼 수 없는 이유

관찰자들은 “어두운 조명을 정지 신호로 처리하도록 AV를 코딩하는 것이 어떨까요?”라고 물을 수 있습니다.

문제는 의도 예측입니다. 4방향 정류장에서는 도착 시간과 지형에 따라 우선 통행권이 결정됩니다. 하지만 정전이 발생하면 인간은 속임수를 합니다. 그들은 정류장을 통과하고, 차례대로 나가고, 함께 모여듭니다.

Waymo의 인식 스택은 LiDAR(레이저 이미징 감지 및 범위 지정) 및 레이더를 사용하여 객체를 추적합니다.

• LiDAR는 정확한 거리($d$)와 속도($v$)를 제공합니다.
• 카메라는 물체 분류를 제공합니다.

센서는 경찰관의 수신호나 운전자의 고개를 끄덕이는 것을 감지할 수 없습니다. 차세대 AV에는 무법 교차로를 통과하는 능력이 부족합니다.

그리드가 제거되면 규칙도 제거됩니다. 그리고 로봇은 즉흥적으로 행동할 수 없습니다.

맥락적 역사: 마비의 패턴

이는 우려되는 추세를 의미합니다. 정전 동안의 “Waymo Freeze”는 고립된 사건이 ​​아닙니다. 이는 AV가 맥락적 모호성으로 인해 어려움을 겪는 패턴의 일부입니다.

콘 사건(2023)

활동가들이 Waymo와 Cruise 차량의 후드에 교통 콘을 설치했던 “Cone Week” 시위를 기억해 보십시오. 차량이 움직이지 않게 되었습니다. 왜? 인식 스택이 원뿔을 차량이나 중요한 경로에 부착된 “폐쇄” 또는 “장애물”로 분류했기 때문입니다. 논리 루프가 교착 상태에 빠졌습니다.

1. 장애물이 감지되었습니다.
2. 장애물이 사라질 때까지 이동할 수 없습니다.
3. 장애물은 자동차와 함께 움직입니다.
4. 결과: 중지합니다.

전쟁의 안개(2024)

지난해 샌프란시스코에는 짙은 안개가 짙게 깔렸을 때 웨이모(Waymo) 차량이 한꺼번에 멈춰 섰습니다. 이는 안전 기능이었습니다. LiDAR 성능은 매체가 산란되면 저하되지만 이로 인해 진입로와 거리가 막혔습니다.

블랙아웃(2025)

12월 20일 정전은 센서 상호작용 문제가 아니었기 때문에 가장 심각했습니다. 인프라 종속성 오류였습니다. 차량은 완벽하게 기능했습니다. 그들의 배터리는 충전되었습니다. 센서는 깨끗했습니다. 하지만 세상이 무너졌습니다.

이는 AV의 광범위한 배포에 있어 중요한 취약점인 상호의존성을 강조합니다. 업계는 간신히 버틸 수 있는 20세기 전력망 위에 21세기 디지털 AI 전송 계층을 겹겹이 쌓고 있습니다.

인프라 종속성: 그리드는 그래프입니다

사이버 보안 전문가들은 종종 보안의 “킬 체인(kill chain)“에 대해 이야기합니다. 자율주행차에는 ‘종속성 체인’이 있습니다.

1. 레벨 1: 차량(하드웨어, 타이어, 배터리).
2. 레벨 2: 연결성(LTE/5G에서 서버/텔레옵스 매핑).
3. 레벨 3: 인프라(신호등, 가로등, 도로 표시).

2025년 정전으로 인해 레벨 2와 레벨 3이 동시에 깨졌습니다.

원격 운영 병목 현상

일반적으로 Waymo는 혼란스러울 때 “집에 전화”합니다. RA(원격 지원) 에이전트는 카메라 피드를 보고 “앞으로 이동” 또는 “이 신호 무시”와 같은 고급 명령을 내립니다.

그러나 PG&E 변전소 화재로 인해 지역 기지국의 성능이 저하되었을 가능성이 있습니다. 타워에 백업 배터리가 있더라도 국지적인 혼잡(수천 명이 친척에게 전화)으로 인해 대역폭이 무너질 수 있습니다.

$\text{Latency} \propto \frac{\text{Users}}{\text{Bandwidth}}$

Waymo가 네트워크 정체로 인해 RA 서버에 도달할 수 없고 안전 제약으로 인해 현장을 로컬로 해결할 수 없는 경우 5,000파운드 벽돌이 됩니다. 규칙을 따르는 벽돌이지만 그럼에도 불구하고 벽돌입니다.

미래 예측 분석: 이 문제를 해결할 수 있습니까?

대규모 규모에 도달하기 전에 “정전 문제”를 해결해야 합니다. 이번 정전 기간 동안 SF 교통의 10%가 자율주행이었다면 정체로 인해 소방차와 구급차가 막혀 불편을 비극으로 만들었을 것입니다.

솔루션 A: 메시 네트워크 V2V

V2V(Vehicle-to-Vehicle) 통신을 통해 차량은 교차로 상태에서 “투표”할 수 있습니다.

• 콘셉트: A 차량이 어두운 신호를 보고 정지하고, B 차량(교차로를 향하는)이 어두운 신호를 보고 정지하는 경우 디지털 방식으로 악수할 수 있습니다.
• 프로토콜: 위치와 상태를 확인하는 디지털 악수로 조정된 움직임이 가능합니다.
• 현실: 이를 위해서는 모든 OEM(Tesla, Rivian, Waymo)이 동의하는 범용 표준(V2X)이 필요합니다. 업계는 이것으로부터 몇 년 떨어져 있습니다.

해결 방법 B: “무법 모드”(뉴욕 Cabbie 업데이트)

AV 개발자는 보다 공격적인 특정 “통제되지 않은 교차로 정책”을 교육해야 할 수도 있습니다.

• 논리: TCD = NULL이 30초 이상인 경우 -> 정지 신호로 처리 -> 중앙으로 이동 -> 고속 수신 벡터가 없는 경우 -> 강제 병합.
• 위험: 이는 $P(Collision)$를 비선형적으로 증가시킵니다. 그러나 대안(완전 마비)에는 고유한 위험 프로필(응급 서비스 차단)이 있습니다.

솔루션 C: 인프라 강화

지루하지만 실제적인 대답은 신호등용 배터리 백업입니다. 주요 복도에서 LED는 전력을 거의 사용하지 않습니다. 소형 태양광 + 배터리 개조를 통해 전력망 장애 시 신호 로직을 24시간 동안 계속 실행할 수 있습니다. 이는 인간의 협상을 이해하기 위해 AI를 재교육하는 것보다 저렴하지만 도시 예산이 이를 우선시하는 경우는 거의 없습니다.

평결

샌프란시스코 정전 당시 Waymo의 실패는 인공 지능의 실패가 아니었습니다. AI와 엔트로피의 충돌이었습니다.

엔지니어들은 체스 마스터의 수학적 정확성으로 구동되는 기계를 만들었습니다. 하지만 현실 세계, 특히 재난 상황에서는 체스가 아닙니다. 모쉬 구덩이입니다. 이 로봇들이 파괴된 인프라의 지저분하고 기록되지 않은 규칙을 밀고, 밀고, 협상하는 방법을 배울 때까지, 그들은 맑은 날씨의 운전자로 남을 것입니다. 불이 켜져 있을 때는 훌륭하지만 도시가 어두워지면 마비됩니다.

어두운 교차로에서 로봇택시를 발견한 관찰자는 신호를 기대해서는 안 됩니다. 기계는 오지 않는 녹색 신호등을 기다리고 있습니다.