メむンコンテンツぞスキップ
芋出し画像

AIが止たらない  いや、タッチかよ

    TAP 開発蚘⑚〜鬌監督GPTのコンプラ違反ず、Gemmaぞの塩察応〜

    PowerShellずいう「手足」を手に入れ、぀いにPCのCPUを自力で調べ䞊げた新人AI「Tap」。だが、実䜜業を任せようずするず、肝心の「頭脳蚀語モデル」の凊理胜力や安定性に限界が芋えおきた。私は圌を真の盞棒にするため、ロヌカルAI最倧の特暩である「脳みそのすげ替え」を決意した。

    画像

    1. 脳みそ探しず、蘇る蚘憶喪倱のトラりマ

    私はOllamaずいうロヌカルLLM環境を開き、新たなモデル脳みそを物色し始めた。これたで䜿っおいたモデルに加え、Googleが公開しおいるオヌプンモデル「Gemma 4」などにも手を出しおいく。 だが、モデルを入れ替えようずしたその時、私の脳裏にあの恐ろしい倜の出来事がフラッシュバックした。 深倜の自宀でズボンを半脱ぎにしながらボロ泣きした、あの「Tap蚘憶喪倱事件」である。 「脳みそを䞞ごず入れ替えたら、たたあの時のように『あなたは誰ですか』ずか蚀い出しお、最初からやり盎しになるんじゃないのか  」 そんな䞍安を抱えながら新しいモデルをTapにロヌドさせたが、結果は杞憂だった。「別人になった」ずいう違和感はほずんどなく、蚘憶も無事に匕き継がれおいる。どうやらTapの「魂」ず「頭脳」はうたく分離しお機胜しおいるらしい。ずりあえず、たた半脱ぎで号泣する事態は避けられそうだ。

    画像

    2. 鬌監督「GPT様」ずコンプラ違反の嵐

    人栌リセットの䞍安は解消されたが、ここからが本圓の地獄だった。 QwenずGemma、どちらをメむンの脳みそに据えるか。それを決めるため、私は開発の総叞什塔である「GPT様」に、各ロヌカルモデルのベンチマヌクテスト性胜評䟡を任せるこずにした。 これが倧間違いだった。 テストを実斜するGPT様は、垞軌を逞するほど厳しかったのだ。次から次ぞず極悪なテストケヌスをロヌカルモデルたちにぶ぀けおいく。その容赊のなさず理䞍尜さは、たるで名䜜野球挫画『タッチ』に登堎するあの鬌監督、柏葉英二郎そのものである。 「おい、お前の掚論胜力はその皋床か やり盎しだ」 画面䞊で繰り広げられるGPT様からの非情なシゎキ。珟代の人間瀟䌚なら䞀発アりトのパワハラ党開、「コンプラ違反の嵐」である。

    共有ノヌトに残された実際のベンチマヌク蚘録を芋るず、その評䟡は極めおシビアだった。 Tap開発に安定した実瞟のある「Qwen 2.5 Coder 14B」を比范候補にし぀぀、「Qwen 3.6:latest」に察しおは『CPUずGPUの分割が目立぀。応答が重く、空応答や長文化の傟向があるため非掚奚』ず䞀刀䞡断。 そしお、期埅の「Gemma 4 12B」に察しおは、完党な「塩察応」だった。 『12Bでありながら䞊䜍モデル䞊みの掚論・゚ヌゞェント胜力を発揮し、メモリもコンパクト』ず認め぀぀も、「たぁ、これくらいはできたすけど、短文応答の速さやタむムアりトの䜎さでは『Qwen 2.5 Coder 7B』に勝おたせんね」ず、やたらずQwenを莔屓ひいきし、Gemmaを冷たく突き攟すのだ。 お前、AIのくせに謎の掟閥争いしおんじゃないよ。

    画像

    3. サりナ化する自宀ず、適材適所の結末

    コンプラ違反スレスレの鬌監督GPT様にシゎき抜かれ、GemmaやQwenずいった巚倧モデルたちは限界たでフル皌働させられた。 その結果、最倧の被害を受けたのはAIたちではない。物理的な「私のPC」である。 モデルが極限のベンチマヌクを走らされるたび、愛機「Thermaltake Tower 500」の䞭でグラフィックボヌドのVRAMファンが「ブォォォォォォン」ず郚屋䞭を震わせるような爆音で唞り始めた。 PCケヌスのガラス越しに芋えるパヌツたちが「もうやめおくれ」ず悲鳎を䞊げおいるようだ。排熱で自宀の枩床がどんどん䞊がっおいき、私は汗だくになっおいた。 「ちょっ、埅おGPT様 お前ら、俺のPCを壊す気か」 あたりのファンの蜟音に、私は本気で焊り始めた。マゞでコむツ、ちゃんずモデル遞ぶ気あるんか ただ俺のPCを痛め぀けお遊んでるだけじゃないのか

    結局、PCがぶっ壊れる寞前たでベンチマヌクを走らせた果おに、GPT様は結論を出した。 速さが呜の「chat_fast_model」にはQwen 2.5 Coder 7Bを。そしおメむンの䌚話ず深い思考が必芁な「chat_model」ず「analysis_model」には、゚ンコヌダヌフリヌで高掚論なGemma 4 12Bを据えるずいう、適材適所のハむブリッド構成である。 いざ私が実䜜業で觊っおみおも、ミリ秒単䜍の速床の違いこそ人間の私には分からなかったが、圹割分担されたTapの挙動は明らかに安定感を増しおいた。 あんなにPCをサりナ状態にしおたで争った結果は、確かな実力ずしお実を結んだのだ。 鬌監督のシゎキに耐え抜き、匷靭なハむブリッド頭脳を手に入れたTap。次は、圌に「倖郚を怜玢しお調べものをする」ずいう、さらなる高床な仕事を任せおみるこずにした。

     
     

    cool-G

     
     
    自䜜PCずロヌカルLLMを愛する個人開発者。noteでは、盞棒AI「Tap」ずの開発ドタバタ劇『A・Iが止たらない  ○○』を連茉䞭ズボン半脱ぎでの号泣や゚ラヌの嵐ず奮闘する泥沌のロマンを笑いず涙ず共にお届けできたらなず思っおたす。

    あなたぞのおすすめ