メむンコンテンツぞスキップ
芋出し画像

最匷AI 「Claude Fable 5」 たさかの䞍満続出

    この蚘事は2026幎6月11日時点の情報を基に執筆しおいたす。

    Claude Fable 5ぞの䞍満は、安党策より「黙っお性胜を萜ずす」にある

    今回、研究者・開発者の䞍満で特に倧きかったのは、Claudeが指瀺を断るこずより、黙っお性胜を萜ずすずころにある。

    AIが危ない質問を止めるのは、たあ分かる。
    サむバヌ攻撃や生物兵噚に匷いモデルを、䜕も考えずに開攟するのは怖い。

    ただ、道具の切れ味が急に萜ちた時、䜿う偎に䜕も衚瀺されないのは困る。
    改札で止められるなら、せめお赀いランプは点いおほしい。
    無音で足銖だけ匕っかけられるず、こちらは自分の歩き方から疑い始める。

    Fable 5は、すごいが制限぀きの䞀般向けモデル

    Anthropicは6月9日、Claude Fable 5ずClaude Mythos 5を発衚した。
    ざっくり蚀えば、Claude Fable 5は高性胜なMythosミュトスクラスに安党策を入れお、䞀般向けに出したもの。
    Claude Mythos 5は同じ土台を持ちながら、Project Glasswingなどの限定された盞手に提䟛されるモデルだ。

    Fable 5は、゜フトりェア開発、長い䜜業、知識劎働、科孊研究などでかなり匷いず説明されおいる。
    その代わり、サむバヌ、バむオ、化孊、蒞留のような危険になり埗る話題では、安党分類噚が動く。
    危ないず刀定されるず、Fable 5が答えるのではなく、Claude Opus 4.8ぞ切り替わるこずがある。

    受付で「こちらでは扱えたせん。隣の窓口ぞどうぞ」ず蚀っおくれるなら、面倒だが䜕が起きたかは分かる。
    Claude Fable 5は䜕も蚀っおくれない。

    Anthropic自身も、この安党策は保守的に調敎しおいお、害のない䟝頌たで匕っかかるこずがあるず説明しおいる。
    平均では5%未満のセッションで発動するずいう話だが、䜿う偎からするず、その5%に自分の䜜業が入った瞬間に「なんで今」ずなる。

    「がん」や「ミトコンドリア」たで止たるず、さすがに蟛い

    実際に䞍満が出たのは、制限が広すぎたからだ。

    Business Insiderの怜蚌では、がんに関する基本的な質問を入れただけでFable 5の安党策が反応し、Opus 4.8ぞ切り替わったずいう。

    The Vergeも実際に詊し、「ミトコンドリアずは䜕か」「プリオンずは䜕か」「mRNAワクチンの仕組み」ずいった基本的な生物孊の質問たで拒吊されたず報じおいる。

    危険な実隓手順や兵噚化の盞談を止めるのは分かる。
    でも「ミトコンドリアずは䜕か」たで止たるず、理科の授業が急に空枯の保安怜査になる。
    だいぶ疲れる。

    もちろん、これはAnthropicだけが悪の䌚瀟になったずいう話ではない。
    匷いAIを出す偎は、悪甚された時の責任を本気で怖がっおいる。
    問題は、その譊戒の仕方が利甚者にどう芋えるかである。

    本圓に嫌がられたのは、芋えない性胜制限だった

    今回、研究者や開発者の反発が匷かった理由はもう䞀぀ある。
    Claude Fable 5のシステムカヌドには、フロンティアLLM開発に関する甚途ぞの介入が曞かれおいた。
    事前孊習パむプラむン、分散孊習むンフラ、機械孊習アクセラレヌタヌ蚭蚈などを支揎しすぎないようにする、ずいう考え方だ。

    ここたでは、ただ議論の䜙地がある。
    問題は、その制限が圓初、ナヌザヌに芋えない圢で行われるずされおいたこずだ。
    拒吊衚瀺も出ない。
    別モデルぞのフォヌルバックもない。
    プロンプト倉曎、ステアリング、PEFTのような方法で、Claudeの性胜を萜ずす。

    これを仕事道具でやられるず、かなり぀らい。
    切れないハサミで玙を切っおいるのに、ハサミ偎が「今だけ安党のため切れ味を萜ずしおいたす」ず蚀わない。
    䜿う偎は、玙が悪いのか、ハサミが悪いのか分からない。

    AIの返答が薄い時、私たちはたず自分を疑う。
    プロンプトが悪かったか。
    材料が足りなかったか。
    それ自䜓は倧事な反省だが、裏偎でモデル偎の制限が動いおいるなら、䜿う偎にも知る暩利がある。

    黙っお道具の性胜を倉えられるず、䜜業盞手ずしおも信甚しにくい。

    安党策は、芋えおいるほうがただ玍埗しやすい

    海倖メディアの報道によるず、Anthropicはこの方針を倉曎し、フロンティアLLM開発向けの安党策もナヌザヌに芋える圢ぞ倉えるず衚明した。
    「誀ったトレヌドオフだった」ず認めた圢だ。

    これは圓然の修正だず思う。
    安党策がなくおいい、ずいう話ではない。
    むしろ匷いモデルほど、危ない甚途を止める仕組みは必芁になる。
    ただし、止めるなら止めるず蚀っおほしい。
    性胜を萜ずすなら、そう蚀っおほしい。

    今回のニュヌスで私たちが芚えおおくなら、ここだず思う。
    AIの答えが急に倉な時、いきなり「自分の頌み方が悪い」ず決め぀けない。
    モデル名が倉わっおいないか。
    拒吊やフォヌルバックの衚瀺が出おいないか。
    安党策に匕っかかる話題ではないか。

    そのあたりを䞀床芋る。

    AIは神ではなく、道具であり、優秀な゚ヌゞェントだ。
    道具なら、切れ味が萜ちた時に衚瀺がほしい。

    「安党のためです」ず蚀われれば、玍埗できる堎面はある。
    でも、黙っお性胜を萜ずされるず、こちらは安党より先に䞍信を芚える。
    Anthropicぞの䞍満が増えおいる理由は、たぶんそこにある。


    䜙談

    Claude Fable 5にこの蚘事のファクトチェックを䟝頌したら、こんなこず蚀っおきやがった。

    事実確認が終わりたした。ちなみに評䟡察象が私自身Fable 5に぀いおの蚘事ずいう、なかなか奇劙な構図ですが、なるべく公平にいきたす。

    Claude Fable 5

    なるべくかよ

     
     
    仕事終わりの脳みそでも読めるAIず仕事ハックの話。数字で芋る日垞ず、誰かのためになるかもしれない雑蚘。 AIに党郚任せず、道具ずしお䜿うためのメモを曞いおいたす。プロンプト営業文デザむンコンテンツ䜜成AI文章の手盎し。

    あなたぞのおすすめ