Fable 5의 수명은 단 3일: 오후 5시 21분 서한 한 장이 멈춰 세웠다

핵심 요약

• 워싱턴이 공개된 AI 모델을 회수했다: 2026년 6월 12일, 미국 정부는 수출 통제 지침을 내려 Anthropic이 출시 사흘 만에 Claude Fable 5와 Claude Mythos 5를 모든 고객에게서 비활성화하도록 강제했다.
• 발동 사유를 둘러싸고 다툼이 있다: Anthropic은 정부가 내세운 증거가 “좁고 보편적이지 않은” 탈옥 사례 하나에 불과하다고 말한다. 모델에게 코드베이스를 읽고 버그를 고치도록 요청하는 수준이며, 다른 공개 모델들도 이미 갖춘 능력이라는 것이다.
• 시점이 가혹하다: 지침이 내려오기 이틀 전, Anthropic은 정부가 위험한 AI 배포를 차단할 법적 권한을 가져야 한다고 주장하는 정책 프레임워크를 발표했다. 정부는 Anthropic이 요청한 권한을 얻었지만, Anthropic이 함께 요청한 적법 절차는 빠져 있었다.
• 진짜 쟁점은 구조다: Fable 5와 Mythos 5는 안전 장치라는 래퍼 하나로 구분될 뿐, 같은 기반 모델이다. Fable에 대한 신빙성 있는 탈옥 주장은, Anthropic이 세계 최강의 사이버 보안 모델이라고 부르는 것에 누구나 접근할 수 있다는 주장과 같다.

오후 5시 21분에 도착한 서한

6월 12일 미국 동부 시간(ET) 오후 5시 21분, Anthropic에 서한 한 통이 도착했다. 그날 저녁이 끝나기 전, Anthropic이 일반 공개한 모델 중 어떤 것도 능력 면에서 “능가하지 못한다”고 말하던 인공지능(AI) 모델은 사라졌다. 전 세계 모든 고객에게서 전원이 꺼진 것이다.

이 서한은 국가 안보 권한에 따라 미국 정부가 발동한 수출 통제 지침이었다. 지침은 “미국 내외를 불문하고, Anthropic 소속 외국인 직원을 포함한 모든 외국인”이 Claude Fable 5와 Claude Mythos 5에 접근하는 것을 전면 중단하라고 명령했다. 회사는 이 명령의 결과로 모든 고객을 대상으로 “Fable 5와 Mythos 5를 급히 비활성화”할 수밖에 없었다고 밝혔다. 이유는 어렵지 않게 짐작할 수 있다. 프롬프트 창에서 여권을 확인하는 공개 AI 서비스는 없기 때문이다. Anthropic의 다른 모든 모델은 계속 이용할 수 있다.

Fable 5는 6월 9일에 출시되었다. 사흘을 버텼다.

정부가 자국 내에서 앱을 금지하거나, 반도체 기업을 제재하거나, 반도체 수출을 제한한 적은 있다. 하지만 기업이 자사의 주력 모델을 전 세계에서 끄도록 만드는 명령, 그것도 Anthropic이 “수억 명”에게 배포되었다고 말하는 모델을 대상으로 한 명령은 국가 권력의 완전히 새로운 수단이다. 게다가 명령을 받은 기업은 지난 네 달 동안 트럼프 행정부와 공개적으로 충돌해 왔고, 지난 이틀 동안은 정부가 바로 이런 권한을 가져야 한다고 주장한 바로 그 회사다.

지침이 실제로 하는 일

먼저 메커니즘부터 보자. 헤드라인이 전하는 것보다 훨씬 낯설다. 이것은 법원 명령도, 소비자 보호법에 따른 리콜도 아니었다. Anthropic이 직접 제안한 차단 권한은 회사의 표현대로 “현행법이나 의회에 올라온 기존 법안이 정한 범위를 넘어서는” 것이었으며, 이는 사용할 수 있는 AI 전용 리콜 법률이 없었다는 뜻이다. 정부가 대신 꺼내 든 것은 수출 통제 지침이었다. 보통 반도체, 무기 설계, 암호화 기술이 외국의 적대 세력에게 넘어가는 것을 막는 데 쓰는 법적 수단의 계열이다.

적용 범위 설정 때문에 이 지침은 사실상 전면 중단이 된다. 미국 내부와 Anthropic 내부를 포함해 어디에 있든 모든 외국인의 접근을 막았기 때문에, 필터링을 통한 준수는 현실적으로 불가능해졌다. Anthropic은 서한이 “국가 안보상의 우려에 대한 구체적인 내용을 제공하지 않았다”고 말한다. 회사는 정부가 발견했다고 믿는 문제에 대해 “구두 증거”만 받았다고 밝혔다.

이는 이후의 논의에서 중요하다. 정식 규칙 제정은 조항 하나하나를 놓고 소송으로 다툴 수 있다. 하지만 아무것도 공개하지 않고 구두로 정당화한 지침은, 대상 기업이 온전히 볼 수도 없는 주장에 맞서 반박해야 하는 처지에 놓이게 한다. 이 싸움에서 반드시 Anthropic 편을 들 필요는 없지만, 이 절차가 투명성과는 정반대라는 점은 알아챌 수 있다.

지침을 정당화했다는 탈옥

Anthropic에 따르면, 정부는 Fable 5의 안전 시스템을 우회하는, 이른바 “탈옥(jailbreaking)” 방법을 알게 되었다고 믿고 있다. 탈옥이란 모델의 안전 장치가 거부해야 할 일을 하도록 만드는 프롬프트를 짜는 것을 뜻한다.

Anthropic이 그 기법을 설명하는 대목에서 이야기는 부조리한 쪽으로 기운다. 회사는 문제의 탈옥이 “본질적으로 모델에게 특정 코드베이스를 읽고 소프트웨어 결함을 고치도록 요청하는 것”이라고 말한다. 이는 특이한 공격이 아니다. 지구상의 모든 기업 보안팀이 매일 수행하는 일상적인 방어 보안 작업에 대한 설명이다. Anthropic은 지침의 근거가 되었다고 판단되는 시연과 보고서를 검토했으며, 그 기법이 “이미 알려진 사소한 취약점 몇 가지”를 찾아냈을 뿐이고 “OpenAI의 GPT-5.5를 포함한” 다른 공개 모델들도 우회 없이 같은 취약점을 찾을 수 있다고 밝혔다. 경쟁 모델을 겨냥한 비슷한 명령이 공개된 적은 없다.

똑같이 비중을 두어야 할 단서가 두 가지 있다. 첫째, 이는 전적으로 Anthropic의 설명이다. 지침도, 보고서도 공개되지 않았고, 정부는 Anthropic이 보지 못했거나 설명하지 않으려는 증거에 근거해 움직였을 수 있다. 둘째, 지침이 나오기 전에도 Fable 5에 대한 공개적인 탈옥 주장은 존재했다. 출시 며칠 뒤, 유명 AI 레드팀 연구자 Pliny the Liberator는 자신의 팀이 Fable 5의 안전 분류기를 우회했다고 공개적으로 밝혔고, 모델이 거부해야 할 콘텐츠, 이를테면 실제로 작동하는 소프트웨어 익스플로잇 코드를 생성하는 장면이라고 주장하는 스크린샷을 게시했다. TechTimes는 6월 12일 이 주장들을 보도하면서 정부 조치와의 연관성은 언급하지 않았고, 이를 지침과 연결하는 공개 증거도 없다.

Anthropic의 반론은 부인이 아니라 절차에 있다. 회사는 출시 전 몇 주 동안 미국 정부, 영국 AI 안보 연구소(UK AISI), 민간 제3자와 함께 Fable의 안전 장치를 “총 수천 시간” 동안 레드팀 테스트했으며 “지금까지 보편적인 탈옥을 찾아낸 테스터는 없었다”고 말한다. 또한 어떤 제공업체도 완벽한 탈옥 방어는 아마 불가능하다는 점을 인정하는데, 이것이 바로 안전 장치에 모니터링과, 공격을 탐지하고 연구하기 위한 30일 데이터 보관 요건을 함께 두는 이유다.

하나의 모델, 두 개의 이름

Fable 5에 대한 탈옥 주장이 왜 국가 안보 기구를 움직이는지 이해하려면 구조를 알아야 한다. Fable 5와 Mythos 5는 형제 모델이 아니다. 서로 다른 옷을 입은 같은 기반 모델이다.

Fable 5는 공개 버전이다. 사이버 보안, 생물학과 화학, 모델 증류와 관련된 요청을 감지해 그 응답을 한 단계 아래 모델인 Claude Opus 4.8에게 넘기고, 이때 사용자에게 이를 알리는 안전 분류기가 함께 제공된다. Anthropic은 이 안전 장치가 보수적으로 조정되어 평균적으로 “세션의 5% 미만”에서 작동한다고 말한다. 이 상한선으로 계산해 보면 규모가 실감 난다. 100만 세션당 최대 5만 건이 다른 모델로 넘어갈 수 있다. Anthropic은 출시 당시 이 트레이드오프를 밝혔고, 서비스 중단 성명에서도 안전 장치가 충분히 강력해서 “많은 사용자가 지나치게 광범위하다고 불평했다”는 점을 인정한다.

Mythos 5는 “일부 영역에서 안전 장치를 해제한” 같은 모델로, 미국 정부와 협력해 운영하는 접근 통제 프로그램인 Project Glasswing를 통해 소수의 사이버 방어 담당자와 인프라 제공업체에게만 공개된다. Anthropic은 이 모델을 “세계 모든 모델 중 가장 강력한 사이버 보안 역량”을 가진 모델이라고 부른다.

이 설계가 핵심이다. Fable과 Mythos의 차이는 역량이 아니라 분류기다. 따라서 누군가 Fable 5를 탈옥했다고 주장한다면, 실제로는 일반 대중이 Project Glasswing의 검증 없이 Mythos 수준의 공격적 사이버 역량에 접근할 수 있다고 주장하는 셈이다. 그것이 사실이라면 2단계 안전 구조 전체가 무너진다. Anthropic의 방어 논리는 공개된 탈옥 사례들이 “전혀 문제 없는 응답이거나, Mythos만의 추가 이점을 제공하지 않는 사소한 발견”이라는 것이다. 하지만 정부는 그 설명에 안심하지 않은 듯하다.

Anthropic은 이틀 전에 바로 이 권한을 요청했다

정책 수업에서 가르칠 만한 대목이 여기에 있다. 지침이 도착하기 이틀 전인 6월 10일, Anthropic은 미국 정부가 최첨단 AI에 대해 새로운 법적 권한을 가져야 한다고 주장하는 정책 프레임워크를 발표했다. 제안은 분명하다. 모델이 치명적인 위험을 초래할 때 “정부는 그 배포를 차단하거나 저지할 법적 권한을 가져야 하며”, 전 세계 연간 매출에 연동한 민사 제재가 이를 뒷받침한다는 것이다. 이 프레임워크는 10²⁵ 부동소수점 연산(FLOPs, 학습에 사용된 수학적 연산 단계의 총 횟수) 이상으로 학습된 모델이면서, AI 관련 매출이 5억 달러를 넘거나 AI 연구개발에 10억 달러 넘게 지출하는 기업이 만든 모델에 적용된다. 이 기준선은 Fable 5가 속하는 바로 그 부류의 모델을 포착하도록 설정되어 있다.

같은 글은 그 실패 양상에 대해서도 경고했다. Anthropic은 정책 입안자들이 “지나치게 광범위하거나 강압적인 규제 권한 역시 피해야 한다”고 쓰면서, 차단 권한의 오남용을 막기 위한 구체적인 안전장치를 제안했다.

이틀 뒤, 정부는 Anthropic의 배포를 차단했다. 회사가 제안한 법정 절차, 즉 독립적인 평가자, 공개된 테스트, 절차적 보호 장치를 거치지 않고, 구두로 전달된 증거를 근거로 한 수출 통제 서한을 통해서였다. Anthropic의 성명은 불편한 기색이 역력한 채로 이 사이를 헤쳐 나간다. 회사는 정부가 안전하지 않은 배포를 “투명하고, 공정하며, 명확하고, 기술적 사실에 근거한 법정 절차의 일환으로” 차단할 수 있어야 한다는 입장을 재확인한 뒤 결정타를 날린다. “이번 조치는 이러한 원칙을 따르지 않았다.”

이것이 무엇이 아닌지도 정확히 짚어 두자. 이 지침이 Anthropic의 글에 대한 대응이었다는 공개 증거는 없으며, 이를 고의적인 보복으로 읽으려면 현재로서는 누구도 뒷받침할 수 없는 가정이 필요하다. 평범한 설명은 이미 이 회사와 전쟁 중인 정부가 완전히 새로운 최첨단 모델에 대한 탈옥 보고서를 받고 서랍 속에서 가장 뭉툭한 도구를 꺼내 들었다는 것이다. 그래도 확인된 날짜만으로도 이 병치는 성립한다. Anthropic은 수요일에 적법 절차를 갖춘 비상 정지 스위치를 요청했다. 금요일에는 정부가 이미 그런 스위치를 갖고 있었고, 적법 절차는 선택 사항이었다는 사실을 알게 되었다.

네 달간의 공개적인 전쟁

이 모든 일이 진공 상태에서 벌어진 것은 아니다. 이번 지침은 이 사이트가 2월부터 추적해 온 갈등의 최신 국면이다. 당시 Anthropic은 Claude를 미국인 대량 감시나 자율 무기 유도에 사용하는 것을 거부했고, 국방부는 정부 전체에 대한 사용 금지와 함께 Anthropic을 국가 안보에 대한 공급망 위험 기업으로 지정하며 대응했다.

이 싸움의 실제 기록은 공개되어 있다. 3월 초 Nextgov는 트럼프 대통령이 각 기관에 Anthropic 제품 사용 중단을 요구한 이후 연방 기관들이 Anthropic 계약을 정리하기 시작했다고 보도했다. 재무부는 Anthropic 기술 사용을 중단하겠다고 확인했고, 국무부와 보건복지부(HHS)는 자사 업무 흐름에서 이 회사의 도구를 단계적으로 제거하기 시작했다. 이후 법원이 개입했다. 2026년 3월 26일, 캘리포니아 북부 연방지방법원은 대통령 지침의 정부 이행을 중지시키는 예비 금지명령을 내렸고, 4월 3일까지 연방조달청(GSA)은 “Anthropic 기술을 2026년 2월 27일 이전에 유효했던 상태로 복원한다”고 발표했다.

다시 말해 Anthropic은 계약 분쟁에서 법원의 판단을 앞세우며 이기고 있었다. 수출 통제 지침은 금지명령이 다루지 않는 두 번째 전선을 연다. 정부의 Claude 구매가 아니라 Anthropic의 상업용 주력 제품 자체를 겨냥한 것이다. 이것이 우연인지 전략인지는 행정부가 답하지 않은 바로 그 질문이며, 행정부는 아무것도 공개하지 않았다.

데이터

확인된 타임라인은 잔혹한 한 주로 압축된다.

지금 멈춰 선 서비스의 경제적 규모도 그에 못지않게 구체적이다. Fable 5와 Mythos 5의 가격은 입력 토큰 100만 개당 $10, 출력 토큰 100만 개당 $50이었으며, Anthropic은 이것이 초대 전용 전작인 Claude Mythos Preview 가격의 “절반도 되지 않는다”고 말한다. 이 한 문장으로 지난주 이전에 최첨단 사이버 역량의 가격이 얼마였는지 하한을 가늠할 수 있다.

$$P_{\text{MythosPreview}} > 2 \times P_{\text{Fable5}} \;\Rightarrow\; P_{\text{MythosPreview}} > 20 \text{ (input)} \;/\; 100 \text{ (output)}$$

단위는 100만 토큰당 달러다. 이번 출시로 세계 최강의 사이버 보안 모델 가격은 절반 넘게 내려갔고, 래퍼를 씌운 형태로나마 Claude 계정이 있는 누구에게나 열렸다. 사흘 뒤, 그 래퍼 자체가 국가 안보 문제가 되었다.

다음에 무엇이 무너지나

이제 이야기의 핵심은 선례이며, 그 여파는 모든 방향으로 미친다.

최첨단 연구소들에게는 배포 계산법이 방금 바뀌었다. Anthropic 자신의 경고가 가장 날카로운 표현이다. “좁은 범위의 잠재적 탈옥”이 회수 사유가 된다면, 그 기준은 “모든 최첨단 모델 제공업체의 모든 신규 모델 배포를 사실상 중단시킬 것”이라는 것이다. 샌프란시스코의 모든 연구소 법무팀은 오늘 밤 그 서한을 읽고, 자기네에게도 날아올 오후 5시 21분의 서한에 대비한 비상 계획을 짜기 시작했다.

기업 고객에게 교훈은 더 씁쓸하다. Fable 5에 운영 워크로드를 옮긴 기업들은 벤더의 가동 시간에는 아무 잘못이 없는데도 벤더가 권장한 모델을 하룻밤 사이에 잃었다. 기업용 AI 계약에 모델 중단 조항이 들어가고, 멀티 모델 아키텍처가 늘어나며, 며칠이 아니라 수년간 시장에서 검증된 모델에 은근한 프리미엄이 붙을 것으로 예상된다. Anthropic은 이 상황을 “오해”로 보고 있으며 접근 권한을 복구하기 위해 노력하고 있고, 성명 발표 후 24시간 이내에 더 자세한 기술 내용을 제공하겠다고 약속했다. 그때까지 Anthropic의 다른 모든 모델은 계속 이용할 수 있다.

정책 논쟁에서는 이 아이러니가 하나의 논거로 굳어질 것이다. Anthropic을 포함해 법에 근거한 AI 감독을 지지하는 쪽은 이제 자신들이 제안한 안전장치 없이 차단 권한이 어떤 모습인지 보여 주는 살아 있는 사례를 갖게 되었다. 공개된 증거도, 독립적인 평가도, 명확한 이의 제기 경로도 없다. 정부의 어떤 역할에도 반대하는 쪽은 같은 사건을 그 권한을 전혀 신뢰할 수 없다는 증거로 삼을 것이다. 양쪽 모두 같은 사흘을 근거로 논쟁한다.

결론

브랜드 이름을 걷어내면 이번 한 주는 이렇다. 한 기업이 최첨단 AI 모델을 출시했고, 정부에게 투명한 법적 절차를 통해 자사 같은 모델을 규제해 달라고 요청했으며, 그러고 나서 불투명한 절차로 서비스가 중단되었다. 근거는 소수의 사람들 외에는 아무도 본 적 없는 증거였고, 문제 삼은 능력은 경쟁 모델들이 이미 제공하고 있다고 회사가 말하는 것이었다.

정부가 대중이 모르는 무언가를 알고 있을 수도 있다. 그것은 충분히 가능하며, 기밀 증거 시나리오는 이 지침을 옹호하는 가장 강력한 논거다. 그러나 공개되지 않은 증거를 구두로 전달하고, 그 배후에 법정 체계도 없이 상업 기술을 회수하는 국가 권력은 안전 체제가 아니다. 그것은 재량이다. 그리고 행정부가 네 달 동안 공개적으로 처벌해 온 기업을 상대로 행사된 재량은, 증거가 테이블 위에 올라오기 전까지는 조금의 선의도 받을 자격이 없다. 벗어나는 길은 이 이야기의 거의 모든 당사자가 이미 원한다고 말하는 바로 그 길이다. 비상 정지 스위치를 법에 명시하고, 증거를 공개하고 독립적인 검토를 거치게 하라. 그래야 다음번 오후 5시 21분의 서한은 근거를 제시해야 한다.

출처 (9)

• anthropic.com Anthropic Statement on Fable 5 and Mythos 5 Suspension
• anthropic.com Claude Fable 5 and Claude Mythos 5 Launch Announcement
• anthropic.com Policy on the AI Exponential
• techcrunch.com Fable 5 Is a Version of Mythos the Public Can Access
• cnbc.com Anthropic Disables Access to Fable 5 and Mythos 5
• thenextweb.com Anthropic Wants Governments to Block Dangerous AI
• techtimes.com Claude Fable 5 Hit by Jailbreak Claims After Launch
• nextgov.com Agencies Begin to Shed Anthropic Contracts
• gsa.gov GSA Statement on Anthropic Preliminary Injunction