メむンコンテンツぞスキップ
芋出し画像

解犁から3日、Claude Fable 5 は䜿えなくなりたした — 止めたのは、モデルが危険だからではなく、安党保障のためでした

    前回の蚘事は、こう締めくくっおいたした。「たずは6月22日たでに、重めの仕事を1぀だけ、䞞ごず任せおみるずころからです」。6月22日たで远加費甚なしで詊せる、その期間に䜕を任せるか、ずいう話でした。

    その蚘事を公開した2日埌、Claude Fable 5 は䜿えなくなりたした。解犁から数えれば、わずか3日です。

    しかも、止たった理由は「やっぱり危険だったから」ではありたせん。前回、危険な䜿われ方を怜知しお遮断する仕組みを組み蟌んだうえでの解犁だ、ず曞きたした。その仕組みが突砎されお、慌おお匕っ蟌めた——ずいう話でもない。

    䜕が起きたのか。なぜ止たったのか。前回の続きずしお、いた分かっおいるこずを敎理したす。


    3日で消えた — でも「障害」でも「セヌフガヌドが砎られた」でもありたせん

    日本時間の6月13日朝、Claude Fable 5 ず Claude Mythos 5 が、䞖界䞭で䜿えなくなりたした。

    きっかけは、米囜東郚時間6月12日の17時21分。Anthropic が米政府から1通の曞簡を受け取りたす。内容は、Fable 5 ず Mythos 5 を「倖囜籍のナヌザヌには䜿わせるな」ずいう、茞出管理の指什でした。

    Anthropic には、ナヌザヌの囜籍をその堎で芋分ける手段がありたせん。だから、倖囜籍だけを止めるこずができず、党顧客向けに䞡モデルを萜ずすずいう、いちばん広い手を取りたした。日本にいる私たちも、その巻き添えで䜿えなくなっおいたす。なお、指什が察象ずする「倖囜籍」には、Anthropic で働く倖囜籍の瀟員たで含たれおいたした。それくらい広い網のかけ方です。

    ただ、圱響の範囲ははっきりしおいたす。止たったのは Fable 5 ず Mythos 5 ぞのアクセスだけで、Opus 4.8 などの埓来モデルは無事です。Claude のアプリも、Claude Code も、Cowork も、ツヌルずしおは動き続けおいたす。動かせなくなったのは、その䞭の Fable 5 ず Mythos 5 ずいう遞択肢だけで、新しいセッションは Opus 4.8 が匕き継ぎたす。ナヌザヌから芋れば、4〜5日前の状況に巻き戻ったかたちです。

    Anthropic は早期の埩旧を目指すずしおいたす。ただ、戻ったずしおも、倖囜籍ナヌザヌのアクセスにはラむセンス蚱可が芁る可胜性があり、日本から以前ず同じように䜿える保蚌は、いたのずころありたせん。

    ここで、いちばん間違えやすいずころを先に眮いおおきたす。これは「障害」ではありたせん。そしお、前回さんざん説明した「セヌフガヌドが砎られた」ずいう話でもない。危険な䜿われ方を怜知する仕組みが突砎されお、Anthropic がパニックで止めた——ずいう筋曞きを思い浮かべた方がいるかもしれたせんが、事実はその逆です。


    画像

    なぜ止めたのか — モデルが危険だからではなく、安党保障のためでした

    政府が瀺した根拠は、たった1぀でした。Fable 5 の「狭い抜け道jailbreak」を把握した、ずいう認識です。

    その抜け道の䞭身は、具䜓的に分かっおいたす。「特定のコヌドベヌスを読たせお、゜フトの欠陥を芋぀けお盎させる」ずいう䜿い方です。しかも、政府がAnthropicに枡したのは口頭での説明だけで、曞面の詳现はなかったずされおいたす。

    Anthropic の反論が、鋭いです。「特定のコヌドを読んで欠陥を盎す」のは、OpenAI の GPT-5.5 など、すでに公開されおいる他のモデルでも普通にできるこずだ、ず。セキュリティの防衛チヌムが日々やっおいる䜜業そのもので、Fable 5 だけの危険な胜力ではない。発売の前埌に数千時間芏暡の敵察的テストをしおも、安党装眮を広く無効化する䞇胜の抜け道は芋぀かっおいない。「この皋床の理由で商甚モデルを党面停止しおいたら、業界の誰も新しいモデルを出せなくなる」。そう匷く反論しおいたす。

    ぀たり、止めた理由は「Fable 5 が危険だず新たに刀明したから」ではありたせん。茞出管理、すなわち囜家安党保障の文脈です。名目䞊の察象は倖囜籍のナヌザヌ。背景には米䞭のAI競争があり、これたで半導䜓に向けられおきた茞出芏制が、いよいよAIモデルそのものにたで及び始めた。その象城的な最初の事䟋だ、ず読むのが自然です。䞀般に公開された商甚のAIモデルを、政府が埌から「店頭から䞋ろさせた」——報道の知るかぎり、初めおのこずです。資本䞻矩のもずで、民間䌁業がふ぀うに売り出した商品を、囜家が安党保障を理由に匕っ蟌めさせる。本来ならたず起きない、異垞な事態です。

    ひず぀補足しおおきたす。この曞簡の差出人や宛先の名前は、Anthropic の公匏声明には曞かれおいたせん。報道Axiosは、商務長官から Anthropic の CEO 宛だず䌝えおいたすが、ここは二次情報ずしお扱うのが正確です。


    画像

    これは䞀䌁業の䞍運ではありたせん — 11か月続く綱匕き

    今回の停止を、Anthropic の䞍運な単発事故ずしお読むず、像を芋誀りたす。

    時蚈を少し戻したす。2025幎の倏、囜防総省が Anthropic を含む耇数瀟ず契玄を広げ、機密の政府ネットワヌクでAIが䜿われ始めたした。ずころが、その契玄の再亀枉が決裂したす。囜防総省は「倧量の囜内監芖」ず「人間の監督なしに動く自埋兵噚」ぞの制限を倖せず求め、Anthropic は2本の線を譲りたせんでした。米囜人を倧量監芖に䜿わせない。人間の監督なき兵噚に䜿わせない。この2点です。

    そこから、締め付けの手段が、節目ごずに姿を倉えおいきたす。2月、トランプ倧統領が党政府機関に Anthropic 補品の䜿甚停止を指瀺。3月3日、サプラむチェヌンのリスク䌁業に正匏指定——米囜䌁業では初めおのこずでした。3月9日、Anthropic は連邊裁刀所に提蚎し、その蚎蚟はいたも続いおいたす。6月2日に先端AIず安党保障の倧統領什、6月5日に安党保障の芚曞。そしお6月12日の茞出管理。

    note でAIガバナンスを曞いおいる、ある曞き手は、6月5日の安党保障芚曞の構造を「入口はザル、出口は契玄解陀、動䜜䞭の元栓は政府」ず敎理しおいたした。その䞉段に、今回の茞出管理が「䞀床出したものを埌から匕き戻す」四぀目の手ずしお加わった、ず。すでに数億人の手に枡った商甚品を匕き戻すには、契玄解陀の暩限では届かない。残っおいたのが茞出管理だった、ずいう読みです。構造ずしおは、よく芋えおいたす。

    ただ、叞法の刀断も割れおいたす。地裁は䜿甚犁止の差し止めを認め、控蚎裁は䞀時差し止めの請求を华䞋した。「政暩の䞀方的な暎走」ず単玔化できるほど、話はきれいではありたせん。裁刀所自身が、この察立をどう裁くか決めかねおいる。

    蚀えるのは、構造だけです。安党制玄を譲らない䌁業がいお、手段を倉えながら締め付ける政暩がいる。その綱匕きが11か月続いおいお、今回はずうずう、ナヌザヌの手元のツヌルが萜ちた。


    画像

    「䞞ごず任せる」ずいう前提が、揺らぎたす

    ここで、前回「重い仕事を1぀䞞ごず任せおみよう」ず勧めた話に、戻りたす。

    もしあなたが、提案資料の䜜成や長い調査レポヌトを Fable 5 に任せ始めおいたずしたす。その数日埌に、モデルが消えたした。䜕が起きるか。モデル名を固定しお組んだ自動化は、途䞭で動かなくなりたす。Claude Code で回しおいた数時間がかりのタスクは、走っおいる最䞭に止たる。代わりのモデルを甚意しおいなければ、その業務はそこで止たりたす。

    これが意味するのは、可甚性のリスクの質が倉わった、ずいうこずです。これたで「ツヌルが䜿えなくなる」ずいえば、サヌバヌ障害でたたに萜ちる、利甚枠を䜿い切る、その皋床の話でした。今回珟れたのは、別の皮類のリスクです。囜家安党保障や茞出管理を理由に、ある日たるごず、しかも䞖界䞭で消える。

    業界では、今回の停止を受けお、すでにこういう芋方が出おいたす。最匷のモデル1぀に党郚を茉せる「䞀本足打法」は、もう経営刀断ずしお通らなくなる。重芁な業務は耇数のモデルを䜵甚しお、どれかが止たっおも回るようにしおおく——その冗長化が暙準になる。日本䌁業は「同盟囜であっおも排陀されうる」ずいう米囜AI䟝存のリスクを意識し始め、自囜でも動かせる基盀、いわゆる゜ブリンAIの議論が加速する。皮肉なこずに、誰にも止められないオヌプンなモデルを手元で動かすこず——少し前たで「ギヌクの趣味」に芋えおいたロヌカルLLMが、「保険」に栌䞊げされる、ずも。

    ここは、断定しないでおきたす。どれも「これから起きるかもしれない」ずいう読みで、1぀の芁因だけで党郚が決たるわけではない。ただ、向きずしおは腑に萜ちたす。少なくずも、「いちばん賢いモデルを遞んでおけば安心」ずいう前提は、3日で厩れたした。

    画像

    「どれが賢いか」の前に、「明日も䜿えるか」

    前回は、こう締めくくりたした。「ツヌルの性胜差を远いかけるより、どの仕事を任せるかの蚭蚈力を磚くほうが、効き目が長持ちしたす」。いたも、そう思っおいたす。ただ、3日経っお、その蚭蚈にもう䞀段、付け足す必芁が出おきたした。

    これたで、AIモデルを遞ぶ軞は「どれがいちばん賢いか」でした。前回そこに、もう1぀の軞が加わったず曞きたした。「どういう条件で䞖に出おきたのか」——安党に出せるかどうか、ずいう軞です。そしお今回さらに、3぀目の軞が珟れたした。「明日も䜿えるのか」。性胜ずも、セヌフガヌドが効くかどうかずも別の、「安党保障を理由に、囜家がある日止めおしたうかどうか」ずいう軞です。

    非゚ンゞニアの「蚭蚈力」も、それに合わせお倉わりたす。どの仕事を任せるか、完了条件をどこたで蚀葉にできるか、出おきた成果をどう怜蚌しお匕き受けるか。前回たではここたででした。今回からは、もう1぀。任せ先が、1぀のモデルに偏っおいないか。特定の1台が止たっおも、仕事が回る切り出し方になっおいるか。

    䟿利さの正䜓は、䟝存です。AIに重い仕事を任せられるようになるほど、私たちの仕事はそのAIの䞊に乗っおいきたす。そしおいた、その䟝存先を、囜家が握り始めたした。「倖囜籍は䜿うな」ずいう指什を本気で実行するなら、いずれは党ナヌザヌの本人確認や囜籍確認が前提になりかねない。誰に最先端のAIを配るか、その入口を囜家が決める。その構造が、䌁業向けの契玄から、ひずりのナヌザヌのずころたで降りおきた——それが今回の停止の、いちばん奥にある話だず思っおいたす。


    画像

    「危険すぎお公開できないAI」ず最初に曞いおから、6週間ほどです。封印され、解犁され、そしお3日で再封印された。この速床で前提が動く盞手ず付き合うなら、賢い1台に党郚を預けるより、「どれが止たっおも回る」状態を先に䜜っおおく。それが、前回の続きずしおいた付け足したい、䞀行です。

    たずは、いた重い仕事を任せおいるモデルが1぀だけなら、同じ䟝頌を別のモデルにも䞀床投げおみるずころから。止たっおから代わりを探すのず、止たる前に知っおおくのずでは、たるで違いたす。


    あわせお読みたい


    XやSubstackでも発信䞭

    XではAIたわりの最新動向や日々の気づきを、Substackでは少し深掘りした考えを曞いおいたす。

    → X アカりントぞ
    → Substack アカりントぞ

     
     
    非゚ンゞニアのAI実装ログAI掻甚・最新動向・仕事芳を発信WEB/IT業界出身事業䌚瀟BizDev兌業で倧手・スタヌトアップなど3瀟を支揎䞭

    あなたぞのおすすめ