リンクをコピーしました!

Fable 5の寿命はわずか3日:午後5時21分の1通の手紙が停止させた

米政府は輸出規制指令を発動し、公開からわずか3日後の6月12日にAnthropicへFable 5とMythos 5の停止を強制した。Anthropicによると、脱獄とみなされた行為はモデルにソフトウェアのバグ修正を依頼したことだったという。奇しくもその2日前、Anthropicはまさにこのような政府権限の行使を公に求めたばかりだった。

🌐
機械翻訳

この記事は英語の原文から自動翻訳されています。 英語の原文を読む

暗いスーツを着た手が大きな赤い産業用ブレーカーを引き下げ、ガラス越しに見える広大なデータセンターが列ごとに消灯していく様子。政府命令によるAIモデルの強制停止を象徴している。

重要ポイント

  • ワシントンが公開中のAIモデルを回収: 2026年6月12日、米国政府は輸出管理指令を出し、Anthropicに対して、発売からわずか3日後のClaude Fable 5とClaude Mythos 5をすべての顧客向けに停止させました。
  • きっかけをめぐっては見解が割れている: Anthropicによれば、政府が示した証拠は「限定的で、汎用性のない」ジェイルブレイク1件だけです。その内容は、モデルにコードベースを読ませてバグを修正させるというもので、他の公開モデルにもすでにある能力だと同社は説明しています。
  • タイミングは最悪だった: 指令の2日前、Anthropicは、危険なAIの展開を阻止する法的権限を政府が持つべきだとする政策フレームワークを公表していました。求めた権限は手に入りましたが、あわせて求めていた適正手続きは付いてきませんでした。
  • 本当の争点は設計にある: Fable 5とMythos 5は、安全性のラッパー(保護層)で区別されているだけの同一の基盤モデルです。Fableに対するジェイルブレイクの主張が信用できるなら、Anthropicが「世界最強のサイバーセキュリティモデル」と呼ぶものに誰でも到達できるという主張になります。

午後5時21分に届いた書簡

6月12日の米国東部時間(ET)午後5時21分、Anthropicに1通の書簡が届きました。 その日の夜が終わるころには、Anthropicが「これまで一般提供したどのモデルをも上回る」と語る能力を持つ人工知能(AI)モデルは姿を消し、世界中のすべての顧客に対して停止されていました。

書簡は、国家安全保障上の権限に基づいて米国政府が出した輸出管理指令でした。そこでは、「米国内外を問わず、Anthropicの外国人従業員を含む、あらゆる外国人」によるClaude Fable 5とClaude Mythos 5へのすべてのアクセスを停止するよう命じていました。 同社によると、この命令の実質的な効果として、すべての顧客に対して「Fable 5とMythos 5を急きょ無効化」せざるを得なくなりました。 理由は容易に想像できます。プロンプト入力欄でパスポートを確認する公開AIサービスは存在しないからです。Anthropicのほかのモデルへのアクセスは、引き続き利用できます。

Fable 5は6月9日に発売されました。 3日しかもちませんでした。

各国政府は、自国内でのアプリの禁止、半導体メーカーへの制裁、半導体輸出の制限を行ってきました。しかし、企業に自社の主力製品を世界規模で停止させる命令は、しかもAnthropicが「数億人」に展開していたと述べる製品に対するものは、国家権力の真に新しい手段です。 しかも、その命令を受けた企業は、この4か月間トランプ政権と公然と対立し、この2日間は、政府がまさにこの種の権限を持つべきだと主張していた、同じ会社です。

指令が実際に行うこと

まず仕組みから見てみましょう。見出しが伝えるよりも奇妙です。これは裁判所の命令でも、消費者保護法に基づく回収でもありません。Anthropic自身が提案しているブロック権限は、同社の言葉を借りれば「現行法や議会の既存の提案に存在するものを超える」ものであり、つまりAI専用の回収法は使える状態になかったということです。 政府が代わりに持ち出したのは輸出管理指令です。これは通常、チップや兵器の設計図、暗号技術が外国の敵対勢力に渡るのを防ぐために使われる法的手段の系統に属します。

スコープの設定が、この指令を事実上の全面停止にしています。米国内やAnthropic社内を含め、世界中のあらゆる外国人のアクセスを禁じたことで、フィルタリングによる法令順守は現実的に不可能になりました。Anthropicによると、書簡には「国家安全保障上の懸念に関する具体的な詳細は示されていなかった」とのことです。 同社は、政府が見つけたと考えている問題について受け取ったのは「口頭での証拠」だけだと述べています。

これはその後の展開を考えるうえで重要です。正式な規則制定であれば、一項目ずつ法廷で争えます。ところが、何も公表されないまま口頭で正当化された指令では、対象となった側は、全容を見ることのできない主張に対して反論しなければなりません。この争いでAnthropicの側に立つ必要はありませんが、この手続きが透明性とは正反対だということには気づくはずです。

指令を正当化したとされるジェイルブレイク

Anthropicによると、政府はFable 5の安全システムを回避する、いわゆる「ジェイルブレイク」の手法を把握したと考えています。 ジェイルブレイクとは、モデルの安全機能が拒否するはずの行為を実行させるようにプロンプトを工夫することです。

Anthropicによる手法の説明を聞くと、話は不条理な方向に傾きます。同社は、主張されているジェイルブレイクは「本質的に、特定のコードベースを読み、ソフトウェアの欠陥を修正するようモデルに求めること」にすぎないと述べています。 これは特殊な攻撃ではありません。地球上のあらゆる企業のセキュリティチームが日々行っている、日常的な防御的セキュリティ業務そのものです。Anthropicは、指令の根拠になっていると考えられるデモンストレーションと報告書を確認したところ、その手法で見つかったのは「既知の軽微な脆弱性が少数」であり、「OpenAIのGPT-5.5を含む」他の公開モデルも、回避策なしで見つけられるものだったと述べています。 ライバルのモデルに対する同等の命令は、公表されていません。

同じ重みで、2つの留保があります。第一に、これはすべてAnthropicによる説明です。指令は公開されておらず、報告書も公開されていません。政府は、Anthropicが見ていない、あるいは説明しようとしない証拠に基づいて動いている可能性があります。第二に、指令の前からFable 5に対する公開のジェイルブレイクの主張は存在していました。発売から数日後、著名なAIレッドチーマーのPliny the Liberatorが、自身のチームがFable 5の安全分類器を回避したと公表しました。モデルが拒否すべき内容、たとえば動作するソフトウェアのエクスプロイトコードを出力しているとするスクリーンショットも投稿しています。 TechTimesは6月12日にこの主張を報じましたが、政府の措置との関連には触れておらず、これらを指令と結びつける公開証拠もありません。

Anthropicの反論は、否定ではなく手続きに関するものです。同社によると、発売前の数週間、米国政府、英国のAIセキュリティ研究所(UK AISI)、民間の第三者とともにFableの安全機能を「合計数千時間」にわたってレッドチーミングし、「これまでに汎用ジェイルブレイクを見つけたテスターはいない」とのことです。 同社はまた、どのプロバイダーにとっても完璧なジェイルブレイク耐性はおそらく存在しないと認めており、だからこそ安全機能に加えて、攻撃を検出・研究するための監視と30日間のデータ保持要件を組み合わせているのです。

1つのモデル、2つの名前

Fable 5に対するジェイルブレイクの主張がなぜ国家安全保障の仕組みを動かすのかを理解するには、設計を知る必要があります。Fable 5とMythos 5は兄弟ではありません。異なる服を着た、同じ基盤モデルです。

Fable 5は一般向けのバージョンです。サイバーセキュリティ、生物学・化学、モデル蒸留に関するリクエストを検出する安全分類器を備えており、該当する応答はひとつ下位のモデルであるClaude Opus 4.8に引き継がれ、その際はユーザーに通知されます。 Anthropicは、これらの安全機能は保守的に調整されており、平均で「セッションの5%未満」で作動すると述べています。 この上限で計算すると規模がよくわかります。100万セッションあたり、最大5万件がリルートの対象になりうるのです。Anthropicは発売時にこのトレードオフを指摘しており、今回の停止に関する声明でも、安全機能が十分に強力であるため「多くのユーザーが範囲が広すぎると不満を訴えている」ことを認めています。

Mythos 5は、同じモデルの「一部の領域で安全機能を解除した」ものであり、米国政府と協力して運営される限定アクセスのプログラム、Project Glasswingを通じて、ごく少数のサイバー防御担当者やインフラ事業者にのみ提供されています。 Anthropicはこれを「世界のどのモデルよりも強力なサイバーセキュリティ能力」を持つモデルと呼んでいます。

この設計がすべてです。FableとMythosの差は能力ではなく、分類器です。したがって、誰かがFable 5をジェイルブレイクしたと主張するとき、実際に主張しているのは、一般の人がProject Glasswingの審査を経ずにMythos級の攻撃的サイバー能力に到達できるということです。それが事実なら、2層構造の安全設計全体が崩れます。Anthropicの防御は、公表されているジェイルブレイクは「完全に無害な応答か、Mythosに固有の優位性をもたらさない軽微な発見のいずれか」だというものです。 ところが、政府は納得しなかったようです。

Anthropicは2日前にこの権限を求めていた

ここが政策の授業で取り上げられそうな部分です。指令が届く2日前の6月10日、Anthropicは、米国政府がフロンティアAIに対して新たな法的権限を持つべきだとする政策フレームワークを公表しました。 提案は明快です。モデルが壊滅的なリスクをもたらす場合、「政府はその展開を阻止または抑止する法的権限を持つべき」であり、世界の年間売上高に連動する民事罰で裏づけるというものです。 このフレームワークは、10²⁵回を超える浮動小数点演算(FLOPs、学習に使われた数学的ステップの総数)で学習され、AI関連の売上が5億ドルを超える、またはAIの研究開発に10億ドルを超えて支出する企業が構築したモデルに適用されるとされていました。 これらの基準は、まさにFable 5が属するクラスのモデルを捉えるように設定されています。

同じ論考は、失敗のパターンにも警告を発していました。Anthropicは、政策立案者は「過度に広範で強権的な規制権限も避けなければならない」と書き、ブロック権限の濫用を防ぐための具体的な安全策を提案していました。

その2日後、政府はAnthropicの展開を阻止しました。同社が提案した、独立した評価者、公開されたテスト、手続き上の保護を伴う法定のプロセスではなく、口頭で伝えられた証拠に基づく輸出管理の書簡によってです。Anthropicの声明は、この状況を目に見える居心地の悪さの中でうまく言い表しています。同社は、政府は安全でない展開を「透明で、公正で、明確で、技術的事実に基づいた法定のプロセスの一環として」阻止できるべきだとあらためて述べたうえで、痛烈な一言を放ちます。「今回の措置は、これらの原則に沿っていない」。

これが何ではないのかは正確にしておきましょう。指令がAnthropicの論考への反応だったという公開証拠はなく、意図的な懲罰として読むには、現時点では誰にも裏づけられない仮定が必要になります。味気ない説明としては、すでにこの企業と対立していた政府が、まったく新しいフロンティアモデルに関するジェイルブレイクの報告を受け、引き出しの中で最も鈍い道具に手を伸ばした、ということになるでしょう。それでも、この並びは確認済みの日付だけで成り立っています。Anthropicは水曜日に、適正手続きを伴うキルスイッチを求めました。金曜日に、政府がすでにそれを持っていて、しかも適正手続きは任意だったことを知ったのです。

4か月に及ぶ公然の対立

こうした出来事は、真空の中で起きたわけではありません。この指令は、当サイトが2月から追ってきた対立の最新局面です。2月、同社はClaudeを米国民の大規模監視や自律型兵器の誘導に使うことを拒否し、国防総省はこれに対してAnthropicを国家安全保障上のサプライチェーンリスクに指定し、あわせて政府全体での使用禁止を打ち出しました。

この争いの実際の経緯は公開されています。3月初旬、Nextgovは、各省庁がAnthropicの契約を手放し始めたと報じました。トランプ大統領が各省庁にAnthropic製品の運用停止を呼びかけたことを受けたもので、財務省は同社の技術の使用を停止すると確認し、国務省と保健福祉省(HHS)も同社のツールを業務フローから段階的に外す方向に動いていました。 その後、裁判所が介入しました。2026年3月26日、米国カリフォルニア北部地区連邦地方裁判所は、大統領の指示に対する政府の実施を停止する仮差止命令を出し、4月3日には米国一般調達局(GSA)が「Anthropicの技術を2026年2月27日以前の状態に戻す」と発表しました。

つまり、Anthropicは契約をめぐる争いで法廷において勝っていたのです。輸出管理指令は、この仮差止命令が及ばない第二の戦線を開きました。政府によるClaudeの調達ではなく、Anthropicの商用の主力製品そのものを狙っています。それが偶然なのか戦略なのかは、まさに政権がまだ答えていない問いであり、政権は何も公表していません。

データ

確認済みのタイムラインは、過酷な1週間に凝縮されます。

日付(2026年)出来事
6月9日Fable 5とMythos 5が発売。AnthropicはFableの能力が一般提供してきたどのモデルをも上回ると述べる
6月10日Anthropicが、危険なAI展開を阻止する政府権限を求めるフレームワークを公表
6月12日(日中)TechTimesが、レッドチーマーPliny the Liberatorによる公開のジェイルブレイクの主張を報道
6月12日 午後5時21分(ET)輸出管理指令が到着。Anthropicは両モデルを無効化

停止したものの経済的な意味も同じくらい具体的です。Fable 5とMythos 5の価格は、入力100万トークンあたり$10、出力100万トークンあたり$50でした。Anthropicはこれを、招待制の前身モデルである「Claude Mythos Previewの半額未満」と説明しています。 この一文から、先週までフロンティア級のサイバー能力にいくらかかっていたのか、その下限を割り出せます。

PMythosPreview>2×PFable5  ⇒  PMythosPreview>20 (input)  /  100 (output)P_{\text{MythosPreview}} > 2 \times P_{\text{Fable5}} \;\Rightarrow\; P_{\text{MythosPreview}} > 20 \text{ (input)} \;/\; 100 \text{ (output)}

単位は100万トークンあたりのドルです。この発売により、世界最強のサイバーセキュリティモデルの価格は半分以上引き下げられ、ラッパーに包まれた形で、Claudeアカウントを持つ誰にでも開放されました。3日後、そのラッパー自体が国家安全保障上の問題になったのです。

次に何が壊れるのか

いまや焦点は前例そのものであり、それはあらゆる方向に作用します。

フロンティアラボにとっては、展開の計算が変わりました。Anthropic自身の警告が最も鋭い表現です。「限定的で潜在的なジェイルブレイク」が回収の理由になるなら、その基準は「すべてのフロンティアモデルプロバイダーによる新モデルの展開をほぼ停止させる」ことになります。 サンフランシスコのあらゆるラボの法務担当は今夜この書簡を読み、自社にも午後5時21分の書簡が届く場合に備えた緊急時対応計画の策定に取りかかったはずです。

企業にとっての教訓は、もっと苦いものです。本番ワークロードをFable 5に移行した企業は、ベンダーの稼働率に落ち度がないにもかかわらず、ベンダーが推奨していたモデルを一夜にして失いました。今後は、企業向けAI契約にモデル停止条項が盛り込まれ、マルチモデル構成が増え、数日ではなく数年にわたって市場で生き残ってきたモデルに静かなプレミアムがつくでしょう。Anthropicは、この状況を「誤解」として扱い、アクセス回復に向けて取り組んでおり、声明から24時間以内に技術的な詳細を追加で公表すると約束しています。 それまでは、ほかのAnthropicモデルはすべて引き続き利用できます。

政策をめぐる論争においては、この皮肉が議論として固まっていくでしょう。Anthropicを含む法定のAI監督の支持者は、自らが提案した安全策がないままブロック権限が行使されるとどうなるかを、いま目の当たりにしています。公開された証拠もなく、独立した評価もなく、不服申し立ての明確な道筋もありません。政府の関与そのものに反対する人々は、同じ出来事を、この権限はまったく信頼できないことの証拠として使うでしょう。双方とも、同じ3日間から議論を組み立てています。

まとめ

ブランド名を取り払うと、この1週間はこう見えます。ある企業がフロンティアAIモデルを世に出し、自社のようなモデルを透明な法的プロセスで規制するよう政府に求めたところ、不透明なプロセスで停止させられた。小さな輪の外の誰も見たことのない証拠に基づき、競合モデルがすでに提供していると同社が述べる能力を理由に。

政府は、国民が知らない何かを知っているのかもしれません。それは十分にありえることで、機密証拠というシナリオは指令を擁護する最も強い論拠です。しかし、口頭で伝えられた未公開の証拠に基づき、法的枠組みの裏づけもなく商用技術を回収する国家権力は、安全体制ではありません。それは裁量です。そして、政権が4か月にわたり公然と罰してきた企業に対して行使される裁量は、証拠が公の場に出るまでは、疑わしきは罰せずの恩恵を一切受けるべきではありません。この話に登場するほぼ全員がすでに望んでいると主張する道筋が、出口です。キルスイッチを法に定め、証拠の公表と独立した審査を伴わせること。そうすれば、次の午後5時21分の書簡は、その根拠を示さなければならなくなります。

ライブ:いま1位のAIモデルは? LMArenaのブラインド対戦ランキング、各モデルの100万トークンあたり料金、今月の新モデル。毎日更新。 ランキングを見る →

出典 (9)

Advertisement
Advertisement
Advertisement

Coloring books · All ages

Calm books for noisy days

Bold, easy line art starring Pip the Capybara — cozy pages for stressed grown-ups, adventure pages and mazes for kids.

See the books Free printable pages →

Scan with your phone camera

🦋 Bluesky での議論

Bluesky で議論する

投稿を検索中...