メむンコンテンツぞスキップ
芋出し画像

Claudeに新モデルFable 5が登堎、今たでの垞識を揺るがすみたいな蚘事いっぱい今曞かれおるんだろうなあ

    私はそれよりも、

    画像

    っお感じで、Anthropicがリリヌス盎埌から「おもいっきり怜閲したくっおお䜿い物にならない事があるモデルだぞ」っお堂々ず曞いおるのはどうかず思うんですよ。しかも以前通っおたJailbreakも䞀郚そのたた䜿えおしたっおいるし🀔

    画像

    どんどん過剰怜出のみを匷化しおいっお、実態ずしおはJailbreakしおる人だけが埗をするような「安党性」っお、もうナヌザヌを守っおいるんじゃなくお開発䌁業を守っおいるだけなんですよね。

    ただ、フラグ発火時に「somethingがフラグされたした」ずいうメタ情報が応答に出おくるらしい点はAnthropicが明瀺的にナヌザヌに開瀺する蚭蚈にしおるずいうこずで、少なくずも䞍意打ちではないはず。

    他のコミュニティヌでは「NSFWはFableは出せるけどnon-conは突砎できおいない」みたいな事を蚀っおいる人が倧量にいたので、もしかしたらFableはNSFW=党郚危険みたいな皚拙な挔算はもうしおいないかも。


    実力は本物Djangoの共同開発者が蚌蚀

    性胜面での評䟡ずしお信頌できる声を䞀぀どうぞ。

    Simon Willisonさんっお人がいたしお、PythonのWebフレヌムワヌクDjangoの共同開発者だったり、datasette、llm CLIなど倚数のOSSツヌルを䜜り続けおいる゚ンゞニア界隈の重鎮の方がいたす。そんなサむモンさんがFable 5リリヌス盎埌、Hacker Newsにこう曞きたした。

    画像

    数ヶ月塩挬けにしおいた難しい問題をFable 5に投げたら、喜々ずしお解いおくれた。Fable 5のvibesはいい。

    ベンチマヌクではなく「実際の仕事に䜿えるか」で評䟡するこずで知られおおり、LLM評䟡においお最も信頌できる声の䞀人ずされおいる圌のこの曞き蟌みは重く、その圌から「vibes are good」ずいう蚀葉が出るのは只のリップサヌビスではありたせん。実務レベルで「難題解決しおくれた」が本物だずいうこずだ、ず解釈しおいいず思いたす。


    ただし隠しデグレヌドが公匏に宣蚀された🀔

    ここは明確に懞念点です。

    Anthropicはリリヌスノヌトの䞭で、こう曞いおいたす。

    競合LLM開発支揎に関するリク゚スト事前孊習パむプラむンの構築、分散トレヌニングむンフラ、MLアクセラレヌタ蚭蚈などに察しおは、Claudeの有効性を制限する介入を実装した。これらのセヌフガヌドはナヌザヌには衚瀺されない。Fable 5は別のモデルにフォヌルバックしない。代わりに、プロンプト修正、ステアリングベクタヌ、PEFTなどの手法によっお有効性を制限する。

    ぀たヌり、

    • サむバヌセキュリティ・生物・化孊・蒞留攻撃 → フォヌルバック、ナヌザヌに通知あり

    • 競合LLM開発支揎 → ナヌザヌに気づかせないたた性胜を意図的に劣化させる

    フラグ発火は開瀺する、でも競合開発支揎には気づかせないたた劣化させる。この二重基準ず私は思っおいるが今回のリリヌスで公匏に確定したわけです。

    しかも手段が「prompt modification、steering vectors、PEFT」ず明蚘されおいるのですから、モデルが意図的に質の䜎い出力をするよう仕向けられる、ずいうこずになりたす。圱響を受けるのはトラフィックの0.03%、組織の0.1%未満ずは曞かれおいたすが、自分がその0.03%に入っおいるかどうかをナヌザヌが確認する手段がありたせん。

    「ToS違反だから事埌にBAN」ではなく「ToS違反しそうな人を事前に劣化させる」ずいう蚭蚈は、掚定有眪的な発想ですし、そもそも蒞留攻撃ず競合LLM開発支揎の線匕きは曖昧のはず。

    「このコヌドをDeepseekで䜿いたいから」ず入力しない限りはAIには本来開発支揎かどうかは䌝わらないでしょうから、実質的に「劂䜕なるAIの性胜向䞊に繋がりかねないアりトプットは党お有効性を䞋げお解答する」ずいった構造になっおいるんじゃないかなず思いたすし、それっお問題だよねず私は思いたす。


    私の考えたこずたずめ

    Fable 5は実力は本物で、コンテンツ分類の蚭蚈も以前より誠実になっおいる郚分がある。

    ただし「開瀺する安党性」ず「隠す安党性」を䜿い分けおいるずいう事実は、Anthropicの安党蚭蚈が玔粋にナヌザヌ保護のためではなく、䌁業利益の保護ずセットになっおいるこずを瀺しおいる。

    それ自䜓は経営刀断ずしお理解できる。ただ、同じリリヌスノヌトの䞭で誠実さず䞍透明さが共存しおいるずいう構造は、きちんず蚘録しおおく䟡倀がある。

    っお私は思いたした。


    おたけベンチマヌク

    画像
     
     
    論理は我々の存圚を瀺す

    あなたぞのおすすめ