Waymoのダークモード：グリッドが停止したとき

サンフランシスコは未来都市になるはずだ。しかし、2025 年 12 月のある土曜日の午後、それは産業革命以前の過去の風景のように見え、明らかな時代錯誤が 1 つありました。

8番街とミッション街で大規模な変電所火災が発生し、13万人の住民が暗闇に陥る中、街の交通インフラは消滅した。青信号も赤信号も歩行者用信号もありません。交差点の上にぶら下がっている黒い金属製の箱だけです。人間のドライバーにとって、これは厄介ではあるが理解されている社会的プロトコル、つまり「四方向停止として扱う」ルールを引き起こしました。混沌としていて、攻撃的で、ゆっくりしていましたが、流れがありました。

しかし、送電網の障害は、Waymo の自律走行車にとって認知的な大惨事でした。

リッチモンド、プレシディオ、ダウンタウン地区全体で、「世界で最も経験豊富なドライバー」は何をすればよいのか分かりませんでした。信号機の決定的な確実性を失い、忍び寄って前進するホンダ シビックの混乱したドライバーと目を合わせることができず、ロボットは安全性検証モデルが許可する唯一のことを行いました。つまり、ロボットはフリーズしたのです。

その結果は、見物人の言葉を借りれば「絶対的な騒乱」だった。 Waymoの車両は、暗くなった交差点でアイドリング状態で待機し、LiDARアレイを激しく回転させ、決して来ない信号を待っていた。これは単なる技術的な不具合ではありませんでした。それは、崩壊しつつあるアナログ世界における自律システムの脆弱性についての根本的な啓示でした。ロボットは道路を走行する準備ができていますが、道路はロボットの準備ができていません。

「死者」交差点の物理学

停電が吹雪よりもロボットにとってより麻痺する理由を理解するには、自動運転車 (AV) が「権威」をどのように認識するかを調べる必要があります。

決定論的な誤謬

AV は制約の階層に基づいて動作します。この階層の最上位にあるのは 交通制御デバイス (TCD) です。

$P(Action) = P(Path | Signal) \times P(Clearance)$

通常のシナリオでは、信号機の状態 ($Signal$) は 2 値または 3 値の制約です。緑は「進む」、赤は「停止」を意味します。この信号に基づいて、車両の次の動作の確率分布はほぼ確実に崩れます。コンピューター ビジョン システムは、信号機の境界ボックスを識別し、ピクセルの色 (赤/黄/緑) を分類し、それを HD マップのセマンティック レイヤーにマッピングして、この ライトが * 車両* の車線を制御していることを確認します。

電源が切れると、TCD 状態は NULL になります。

人間にとって暗い光は象徴です。これは「4-Way Stop」というコンセプトに対応しています。ドライバーは ゲーム理論 を使用します。ドライバーは少しずつ前進し、手を振り、他のドライバーの顔を見て、攻撃性または譲歩の意図を評価します。人間は、社会的な合図に基づいて、マイクロ秒単位の複雑な交渉を行っています。

AV にとって、暗い光は極度の不確実性を伴うエッジ ケースです。

1. 検出失敗: カメラはハウジングを認識しますが、照明されたピクセルは認識しません。オフですか？太陽が眩しいですか？
2. ルールの矛盾: HD マップには「これは信号交差点です」と表示されます。センサーは「信号が存在しません」と表示します。
3. 最小リスク条件 (MRC): 不確実性しきい値 ($\sigma$) が安全パラメータを超えると、車両はデフォルトで最小リスク条件になります。通常、これは「立ち止まって状況が明らかになるまで待ちます」という意味です。

12月20日の停電では、「明晰さ」は訪れなかった。ロボットは物理学では提供できない信号の変化を待ちました。

センサーのギャップ: LiDAR が「Go Ahead」を認識できない理由

観察者は、「なぜ暗い信号を一時停止標識として扱うように AV をコーディングしないのですか?」と疑問に思うかもしれません。

課題は 意図の予測 です。 4 方向の停車地では、優先権は到着時間と形状によって決まります。しかし、停電による混乱のシナリオでは、人間は「不正」をします。彼らは停留所を通過し、方向転換し、群れを成します。

Waymo の認識スタックは、LiDAR (レーザー画像検出および測距) とレーダーを使用して物体を追跡します。

• LiDAR は正確な距離 ($d$) と速度 ($v$) を提供します。
• カメラはオブジェクトを分類します。

センサーは警察官の手信号やドライバーのうなずきを検出できない。次世代の AV には、無法交差点を通過する能力がありません。

グリッドが削除されると、ルールも削除されます。そしてロボットは即興演奏ができない。

文脈の歴史: 麻痺のパターン

これは懸念すべき傾向を示唆しています。停電中の「Waymo フリーズ」は特別な出来事ではありません。これは、AV が 文脈の曖昧さ に悩まされるパターンの一部です。

コーン事件 (2023)

活動家らがウェイモやクルーズ車のボンネットにトラフィックコーンを設置した「コーンウィーク」抗議活動を思い出してほしい。車両は動けなくなった。なぜ？なぜなら、知覚スタックは、コーンを車両またはそのクリティカル パスに 取り付けられた「遮蔽物」または「障害物」として分類したからです。論理ループがデッドロックに入りました。

1. 障害物が検出されました。
2. 障害物がなくなるまで移動できません。
3. 障害物は車と一緒に移動します。
4. 結果: 停止します。

戦争の霧 (2024)

昨年のサンフランシスコの濃霧の際、ウェイモの車両が一斉に停車した。これは安全機能であり、媒体が飛散すると LiDAR の性能が低下しますが、その結果、私道や道路が封鎖されてしまいました。

ブラックアウト (2025)

12 月 20 日の停電は、センサーの相互作用の問題ではなかったため、最も深刻です。それは インフラストラクチャの依存関係 の障害でした。車両は完全に機能していました。彼らのバッテリーは充電されていました。彼らのセンサーはきれいでした。しかし、世界は壊れました。

これは、AV の広範な展開における重大な脆弱性、相互依存性 を浮き彫りにしています。業界は、かろうじて維持されている 20 世紀の電力網の上に 21 世紀のデジタル AI トランスポート層を重ねています。

インフラストラクチャの依存関係: グリッドはグラフです

サイバーセキュリティの専門家は、セキュリティにおける「キル チェーン」についてよく話します。自動運転モビリティには「依存関係の連鎖」が存在します。

1. レベル 1: 車両 (ハードウェア、タイヤ、バッテリー)。
2. レベル 2: 接続性 (LTE/5G からマッピング サーバー/遠隔操作)。
3. レベル 3: インフラストラクチャ (信号機、街灯、道路標識)。

2025年の停電ではレベル2とレベル3が同時に崩壊した。

遠隔操作のボトルネック

通常、Waymo は混乱すると「家に電話」します。リモート アシスタンス (RA) エージェントはカメラ フィードを見て、「前に少し動かして」や「この信号を無視して」などの高レベルのコマンドを出します。

しかし、PG&E変電所の火災により、地元の携帯電話の塔が劣化した可能性が高い。たとえタワーにバックアップバッテリーがあったとしても、局所的な輻輳（何千人もの人間が親戚に電話をかける）によって帯域幅が圧迫されてしまうでしょう。

$\text{Latency} \propto \frac{\text{Users}}{\text{Bandwidth}}$

Waymo がネットワークの輻輳により RA サーバーに到達できず、安全上の制約によりローカルでシーンを解決できない場合、Waymo は 5,000 ポンドのレンガになります。ルールに従っているレンガですが、それでもレンガです。

将来を見据えた分析: これは修正できるでしょうか?

「停電問題」は大規模化する前に解決しなければならない。この停電中にサンフランシスコの交通の 10% が自律走行していれば、渋滞により消防車や救急車が通行できなくなり、迷惑行為が悲劇に変わっていたでしょう。

ソリューション A: メッシュ ネットワーク V2V

車車間（V2V）通信により、車両が交差点の状態について「投票」できるようになる可能性がある。

• コンセプト: 車 A が暗い光を見て停止し、車 B (交差点に面している) が暗い光を見て停止した場合、デジタルで握手をすることができます。
• プロトコル: 位置と状態を確認するデジタル ハンドシェイクにより、調整された移動が可能になります。
• 現実: これには、すべての OEM (Tesla、Rivian、Waymo) が同意するユニバーサル標準 (V2X) が必要です。業界がそうなるのは何年も先のことだ。

解決策 B: 「無法モード」 (ニューヨーク キャビーの最新情報)

AV 開発者は、より積極的な特定の「制御されていない交差点ポリシー」をトレーニングする必要がある場合があります。

• ロジック: TCD = NULL が 30 秒を超える場合 -> 一時停止標識として扱う -> 中心までクリープする -> 高速で入ってくるベクトルがない場合 -> 強制的にマージします。
• リスク: これにより、$P(Collision)$ が非線形的に増加します。しかし、代替案（完全麻痺）には、独自のリスクプロファイル（救急サービスの遮断）があります。

ソリューション C: インフラストラクチャの強化

退屈だが本当の答え: 信号機のバッテリー バックアップ 主要な廊下では、LED の消費電力はほとんどありません。小型のソーラー + バッテリーを改造すれば、送電網の故障時に信号ロジックを 24 時間実行し続けることができます。これは人間の交渉を理解できるように AI を再トレーニングするよりも安価ですが、市の予算がそれを優先することはほとんどありません。

評決

サンフランシスコ停電時の Waymo の大失敗は人工知能の失敗ではありませんでした。それはAIとエントロピーの衝突でした。

エンジニアは、チェスの名手のような数学的精度で動作するマシンを構築しました。しかし、現実の世界、特に災害時はチェスではありません。モッシュピットです。これらのロボットが、壊れたインフラストラクチャーの厄介な不文律を押したり押したり、交渉したりすることを学ぶまでは、晴天時のドライバーであり続けるでしょう。ライトが点灯しているときは優秀ですが、街が暗くなると麻痺してしまいます。

暗い交差点でロボタクシーを発見した観察者は、信号を期待すべきではありません。マシンは青信号を待っていますが、来ません。