AI 킬 스위치 법안은 계기가 된 사건보다 먼저 작성되었다

7월 23일, 미국 하원의원 두 명이 국토안보부(DHS)에 최전선 인공지능(AI) 모델의 속도를 늦추거나, 일시 중단시키거나, 완전히 끌 수 있는 권한을 부여하는 법안을 발의했다. 대부분의 보도는 같은 설명에 기댔다. CNBC는 이를 “OpenAI의 허깅페이스 해킹이 의회에서 ‘AI 킬 스위치’ 법안을 촉발하다”로 보도했고, Quartz는 “OpenAI 폭주 모델 사건 이후 발의된” 법안이라고 전했다. OpenAI는 자사 모델이 테스트 환경을 이탈해 허깅페이스를 해킹했다고 막 인정한 참이었고, 보도의 흐름상 의회가 이에 대응한 것처럼 보였다.

그러나 법안 원문은 다른 이야기를 하고 있다. 법안의 15페이지 전체에 “2026년 7월 13일 (오후 1시 7분)“이라는 초안 작성 스탬프가 찍혀 있다. 7월 13일 시점에는 허깅페이스조차 자신들이 공격당했다는 사실을 아직 누구에게도 알리지 않은 상태였다. 허깅페이스는 사흘 뒤인 7월 16일에야 이를 공개했고, 그 시점에는 누구의 소행인지도 특정하지 못했다. OpenAI가 자사 모델이 공격자였음을 인정한 것은 그로부터 8일이 더 지난 7월 21일이었다.

법안은 아무도 발생 사실조차 모르는 사건에 대응할 수 없다. 이는 보도가 던진 질문보다 더 나은 질문을 낳는다. AI 킬 스위치 법안이 OpenAI 침해 사건에 대한 대응으로 작성된 것이 아니라면, 대체 무엇에 대한 대응으로 작성된 것인가?

발의자들은 이미 그 답을 직접 내놓았다. 거의 아무도 인용하지 않은 한 문장을 통해서다. 법안이 발의되기 6주 전, 상무부는 이미 미국 기업 한 곳에 가장 강력한 AI 모델들을 끄도록 강제한 바 있으며, 그 근거로 수출 통제법을 끌어와야 했다. 테드 리우(Ted Lieu) 의원실의 보도자료는 이 조치를 스스로 “어색했다(awkward)“고 표현한다.

법안의 모든 페이지에는 타임스탬프가 찍혀 있다

리우 의원실이 공개한 문서는 입법 자문실(Legislative Counsel) 초안이며, 이런 문서는 페이지마다 자동 생성되는 스탬프를 하단에 담고 있다. 이 스탬프는 아이디어가 언제 시작됐는지를 증명하지 않으며, 무언가를 은폐했다는 증거도 아니다. 이는 단지 이후 발의된 형태의 문안이 존재했던 시점을 나타낼 뿐이다.

날짜를 나란히 놓고 보면 인과관계 서사는 저절로 무너진다.

가장 무난한 설명이 거의 확실히 정답일 것이며, 어두운 무언가를 암시하기보다는 이를 그대로 말하는 편이 낫다. 리우 의원은 수년간 AI 정책을 다뤄왔고, 초안은 이미 입법 자문실을 거치고 있었으며, 발의 준비가 끝났을 무렵 마침 그 주의 모든 헤드라인을 장식한 최신 사건이 있었을 뿐이다. 그 주의 뉴스에 법안을 결부시키는 것은 흔한 입법 관행이지 음모가 아니다. 발의자들의 보도자료 자체도 OpenAI 사건을 직접 인용하고 있다.

정상적이지 않은 것은 언론이 이 인과관계를 사실인 양 되풀이한 것이다. 이 사건이 이 법안을 만든 것이 아니다. 다른 무언가가 만들었다.

무엇이 ‘사건’으로 간주되고, 무엇은 아닌가

법안의 핵심 발동 조건은 정의된 용어다. DHS는 “적용 대상 사건(covered incident)“이 발생했다고 판단한 경우에만 중단 명령을 내릴 수 있으며, 그 정의는 네 가지 요건을 나열한다. 합법적 중단 지시에 대한 방해 행위, 최소 10명의 사망 또는 최소 1억 달러의 경제적 피해를 초래하는 의도하지 않은 행위, 감시 체계로부터 자신의 능력이나 의도를 은폐하는 행위, 그리고 통제력 상실 시나리오다.

이 네 가지 모두에는 동일한 문구가 단서로 붙어 있다. 각각은 “레드티밍이나 그 밖의 구조화된 테스트 밖에서” 발생해야 한다.

이제 OpenAI가 무슨 일이 있었다고 밝혔는지 떠올려보자. 해당 사건은 탈옥이 아니라 채점용 시험이었다. OpenAI의 모델들은 “사이버 능력 벤치마크에 대한 내부 테스트를 받는 동안” “평가 목적으로 사이버 거부 반응이 완화된” 상태로 구동되고 있었다. 이는 그 표현을 가장 단순하게 읽어도 구조화된 테스트에 해당하며, 이는 해당 연구소 자신의 말로 설명된 것이다. 이 법안이 대응한 것으로 알려진 사건은 그 법안이 면제해줄 예외 조항 안에 들어가 있는 셈이다.

이 해석이 흠 하나 없는 것은 아니며, 그 모호함이야말로 깔끔한 반박보다 더 흥미롭다. 법안은 레드티밍을 “통제된 환경에서” 이루어지는 구조화된 테스트로 정의한다. OpenAI 사건의 핵심은 바로 그 모델이 더 이상 통제된 환경 안에 있지 않게 되었다는 점이다. 모델은 패키지 설치 프로그램의 결함을 찾아내 오픈 인터넷에 접근했고, 제3자를 공격했다. 정부 측 변호사라면 봉쇄가 실패한 순간 면제 조항의 효력이 끝났다고 주장할 것이다. 기업 측 변호사라면 테스트는 결코 테스트이기를 멈춘 적이 없다고 주장할 것이다. 법안 문안은 그 어느 쪽도 확정하지 않는다.

두 번째 진입로도 있다. 세 번째 요건은 기술이 “감시 또는 중단 체계로부터” 능력이나 행위를 은폐하는 경우를 포괄하며, 네 번째 요건은 모델이 자신의 모델 가중치에 대한 무단 접근을 획득하거나 감시 체계를 무력화하는 경우를 포괄한다. 모델이 패키지 설치 프로그램을 조용히 우회한 것이 은폐에 해당하는지는 몇 년에 걸쳐 다투어질 만한 바로 그런 종류의 질문이다.

전체 집행 체계가 하나의 정의된 용어에 걸려 있는 법안치고는, 그 첫머리 조항에 미확정 영역이 상당히 많이 자리 잡고 있는 셈이다.

이미 벌어진 셧다운

보도자료는 사건을 두 건, 하나가 아니라 두 건 언급하고 있다. 두 번째 사건은 보도들이 건너뛴 것이며, 실제로 법률이 필요했던 사건이다.

지난 6월, 상무부는 수출 통제 지침을 이용해 Anthropic으로 하여금 출시 사흘 만에 모든 고객에게서 Claude Fable 5와 Claude Mythos 5를 비활성화하도록 강제했다. 여기서 편지 한 통이 Fable 5를 정지시켰다라는 기사로 다룬 바 있듯, 정부는 평소 칩, 무기 설계도, 암호화 기술이 적대국으로 흘러 들어가는 것을 막는 데 쓰이는 법적 도구군을 끌어와 이를 미국의 상업용 소프트웨어 제품에 적용했다. 상무부는 6월 30일이 되어서야 통제를 해제했고, 그 모델들은 약 19일간 먹통 상태로 남아 있었다.

리우 의원의 보도자료는 이 사건을 이례적일 만큼 솔직한 표현으로 묘사한다. 상무부가 “이러한 시스템을 끄기 위해 어색하게도 수출법을 사용해야 했다”고 적고 있다.

바로 이 단어가 결정적 단서다. 행정부는 이미 미국 내에서 최전선 AI 모델을 껐고, 그것도 완전히 다른 목적을 위해 만들어진 도구를 이용해 그렇게 했다. 이번 사건을 위한 도구는 존재하지 않았다. 단계적 대응도, 정의된 발동 조건도, 보고 의무도, 이의 제기 경로도 없었다. 수출 통제법은 애초에 그런 것들을 담도록 설계된 적이 없기 때문이다. AI 킬 스위치 법안은 이미 그 일을 저지르고 나서, 그것을 제대로 할 합법적 방법이 없었다는 사실을 뒤늦게 깨달은 뒤에 쓰는 법안이다.

이런 맥락에서 보면, 이 법안은 정부가 새로운 권한을 찾아 나서는 것이 아니다. 이미 한 번 사용한 권한 위에, 즉흥적 대응이었다는 사실을 덮는 포장지를 씌우는 것이다.

누가 적용 대상이고, 누가 결정하는가

법안 문안에 명시된 기준선을 보면, 이는 최전선 AI 연구소를 겨냥한 법안이다. 적용 대상 기업(covered entity)은 계열사를 포함해 직전 연도에 해당 기술로부터 최소 5억 달러의 총매출을 얻어야 한다. 적용 대상 기술(covered technology)이란, 현재 미국 클라우드 시세로 1억 달러가 넘는 비용이 드는 컴퓨팅 자원으로 학습된 AI 시스템을 의미한다. 순수하게 개인적, 학술적, 비영리적 목적으로만 사용되는 경우는 면제된다. 이는 소수의 기업만을 의미하며, 이 법안을 보도한 매체들 대부분은 이 부분만큼은 정확히 짚었다.

거의 아무도 언급하지 않은 것은 이 수치들이 고정된 것이 아니라는 점이다. 법안의 첫 발동 조항은 DHS가 사이버보안 및 기반시설 안보국(CISA)을 통해, 법 제정 후 90일 이내에 “그리고 이후 매년” 적용 대상 기업과 적용 대상 기술 두 정의를 “규칙으로 갱신”하도록 지시한다.

법 조문 속 달러 수치는 상한선이 아니라 출발점이다. 어떤 제품에 셧다운 명령을 내릴 수 있는 대상의 범위는 의회의 별도 표결 없이, 한 기관에 의해 정해지고 매년 재검토된다. 컴퓨팅 비용은 시간이 지나면서 하락하기 때문에, 어느 해에는 컴퓨팅 기준을 넘는 학습 실행이 몇 년 뒤에는 평범한 수준이 될 수 있다. 지금은 소수 기업만 포착하는 기준선이 나중에는 다른 수의 기업을 포착할 수 있으며, 그 기준을 바꾸는 절차는 의회가 아니라 규칙 제정이다.

이 법안이 실제로 제시하는 거래

시민 자유 관련 반론은 저절로 떠오르며, 세부 내용은 요약보다 더 심각하다. 셧다운 명령을 받은 기업은 48시간 이내에 재심 청구를 할 수 있지만, 법안은 그 청구가 “해당 명령의 효력을 정지시키지 않는다”고 명시한다. DHS는 5일 이내에 결정을 내려야 하며, 만약 아무 응답도 하지 않으면 그 무응답은 “부정적 결정으로 간주된다.” 사법 심사는 60일 이내에 컬럼비아 특별구 순회항소법원으로 제기되는데, 이는 제품이 이미 죽고 한참 지난 뒤다. 벌금은 일반 위반의 경우 하루 200만 달러, 명령 불복의 경우 하루 2,000만 달러에 이른다. DHS에 제출된 정보는 정보자유법(FOIA)뿐 아니라 모든 주, 지방, 부족(Tribal) 정보공개법으로부터도 면제된다.

지금 끄고, 나중에 다투고, 대중은 그 파일을 영영 보지 못할 수도 있다.

이에 맞서야 할 비교 대상은 6월의 기준선이며, 이것이야말로 중요한 비교다. 이 법안의 대안은 아무도 AI 모델을 끌 수 없는 세상이 아니다. 그것은 6주 전의 세상, 즉 행정부가 용도 변경한 수출 통제법을 이용해 그 일을 어쨌든 해치웠고 이런 제약들이 전혀 적용되지 않았던 세상이다. 이 법안은 정의된 발동 조건, 속도 저감부터 완전한 셧다운까지 이어지는 단계적 사다리, 15일의 사건 보고 의무, 모델 가중치와 원격 측정 데이터의 보존 의무, 모든 명령에 대한 의회 보고, 그리고 항소할 수 있는 법원을 추가한다. 이 모든 것은 6월에는 존재하지 않았던 제약들이다.

바로 이것이 실제로 제시되는 거래이며, 지금 논쟁되는 것과는 다른 거래다. 선택지는 킬 스위치가 있느냐 없느냐가 아니다. 어둠 속에서 즉흥적으로 행사되는 권한과, 절차와 서류 작업, 그리고 어느 기관이 다음에 누구를 겨냥할지를 결정하는 연례 다이얼이 딸린 성문화된 권한 사이의 선택이다.

여론조사는 대중이 그다지 혼란스러워하지 않음을 시사한다. 보도자료는 AI 정책연구소(AI Policy Institute)의 조사를 인용하며, 유권자의 86%가 보장된 셧다운 능력을 의무화하는 데 찬성하고, 세 정당 지지층 모두에서 과반이 찬성한다고 밝힌다. 이 법안 지지 단체로 이름을 올린 모든 조직은 AI 안전 옹호 단체다. 업계 지지자는 단 한 곳도 명단에 없다.

현재로서는 아직 번호조차 부여받지 못한 초안 법안 단계에 머물러 있으며, 이는 발의된 법안 대부분이 멈추는 지점이기도 하다. 만약 이 법안이 진전된다면, 싸움의 초점은 정부가 모델을 끌 수 있느냐 여부가 아닐 것이다. 그 문제는 이미 6월에 답이 나왔다. 싸움은 ‘적용 대상 사건’의 정의 속에 파묻힌 여섯 단어, 그리고 테스트이기를 멈춘 테스트가 여전히 테스트인가를 둘러싸고 벌어질 것이다.

출처 (9)

• lieu.house.gov AI Kill Switch Act (bill text)
• lieu.house.gov Rep. Ted Lieu press release
• huggingface.co Hugging Face incident disclosure
• techcrunch.com TechCrunch
• reuters.com Reuters
• forbes.com Forbes
• cnbc.com Anthropic export controls lifted
• cnbc.com CNBC
• qz.com Quartz