
「一番賢い AI を使えばいい」は本当なのか? 2.6B の小さな LLM を Hermes Agent で試してみた
こんにちは、源 勝(みなもと まさる)です。
最近、Claude Code も Hermes Agent も ChatGPT Work(旧:Codex App) も、あまり触っていないなぁ。
エージェンティックって、AI エージェントが自分でいろいろ働きかけてくれるので、とても便利そうに見えます。
でも僕の場合、エージェントと戯れているだけで、なんとなく満足してしまう。
そして、肝心の成果物があまりできていない。
そんな負のループに陥りがちです。
自分のゴールが曖昧だからだということは分かっているんですけどね。
そんな状況だった僕ですが、昨日、ゆいまるさんの記事を見て、「久しぶりにちょっと触ってみようかな」と思いました。
そこで紹介されていたのが、LiquidAI/LFM2.5-2.6B-GGUF というモデル。
僕も以前から、このシリーズはちょっと気になっていました。
今回は、この小さなモデルをきっかけに、少し考えたことを書いてみようと思います。
一番賢い AI を使えばいい?
Claude、Gemini、OpenAI。
いわゆるフロンティアモデルの知能を使えば、かなり高性能なものを作れる。
これは僕も分かっています。
と言いながら、最近あまり使っていないので、「分かっている風」なのかもしれません。
僕は ローカルLLM から AI を触り始めて、今のところサブスク課金もしていません。
数か月ほど ローカルLLM を触ってきて、いろいろ試しているうちに、なんとなく感じるようになったことがあります。
それは、
実際に AI を製品やプロダクトとして使いこなしている人たちは、必ずしもフロンティアモデルばかりを使っているわけではないのでは?
ということです。
NexTech Week 2026 で見た小さなAI
以前、NexTech Week 2026 という AI の展示会に行きました。
そのとき、株式会社アラヤさんのブースで、エッジデバイスを使ったリアルタイム画像認識のデモを見ました。
確か、軽量なモデルを使っているという話だったと思います。
そのとき、「なるほどなぁ」と感心したんです。
AI を実際の製品に組み込もうとすると、「とにかく一番賢い LLM を使えばいい」という話ではない。
限られた計算資源の中で、小さなモデルで何ができるのか?を試行錯誤する必要がある。
そんな世界もあるんだなと感じました。
以前、そのときの展示会についても note を書いています。
252MB の文字起こしモデル
最近、とあるメーカーのワイヤレスイヤホンを使う機会がありました。
そのイヤホンは専用アプリと連携して、文字起こしができます。
実際に文字起こしを試すために、モデルをダウンロードしました。
そのサイズを見て驚きました。
わずか252MB。
AI に聞いてみると、「 Whisper Small あたりを量子化したモデルではないか」という話でした。
もちろん、実際に何のモデルなのかは僕には分かりません。
でも、252MB 程度のモデルでも、実際の製品として文字起こしができる。
試してみると完璧ではないものの、それなりの精度で文字起こししてくれました。
これも面白いなと思いました。
身の回りにも小さな AI がいるのかもしれない
ほかにも、防犯カメラやホームカメラなど、「これってローカルで何かしら AI が動いているんじゃないかな?」と思う製品を見かけることがあります。
もちろん、すべてを ローカルLLM と決めつけることはできません。
クラウドと連携している製品もあるでしょう。
でも、数万円程度で購入できる製品が、何年も使われるたびに巨大なクラウド API へ処理を投げ続ける。
そう考えると、すべてをクラウドで処理しているとは限らないんじゃないかと思うわけです。
プランのアップグレードによって クラウドLLM と連携する製品もあるでしょうし、製品によって事情は違うと思います。
それでも、小さな AI を製品の中に組み込むという方向は、これからも増えていくんじゃないかなと思っています。
そして LiquidAI
今回、久しぶりに触ってみようと思った LFM2.5 も、こうした話と少しつながっているように感じました。
LiquidAI は、ロボティクスなどの分野にも取り組んでいるようです。
最近は「フィジカル AI 」という言葉もよく聞くようになりました。
AI がパソコンの中だけではなく、ロボットやデバイスなど、現実世界で動くものに入っていく。
そう考えると、何十億、何百億パラメータという巨大なモデルだけではなく、小さくて速くて、省リソースで動くモデルにも大きな役割があるんじゃないかなと思います。
小さなモデルを制する人は AI を制する?
ここまで色々書いてきましたが、僕が言いたかったのは、「小さなモデルを制する人は、AIを制する」と言っても過言ではないのではないか、ということです。
こんな偉そうなことを言っていますが、僕自身はまだ全然できていません😂
完全に概念として、「そういう世界もあるんじゃないかな?」と思っているだけです。
でも、会社の経営やスポーツなどにも似たところがあるんじゃないでしょうか。
すべてに最高の能力を投入すればいいわけではない。
必要なところに、必要な能力を配置する。
つまり、LLM も適材適所。
そんなことなのかなと思っています。
久しぶりに LFM2.5-2.6B を動かしてみた
ということで、実際に試してみます。
今回は LFM2.5-2.6B-GGUF の 8bit 量子化モデルを使いました。
久しぶりに Hermes Agent で動かしてみます。

やってみたのは、
テキストファイルを書き出す
ファイルの内容を変更する
ファイルを移動する
テキストファイルを簡単な HTML に変換する
といった作業。
いわゆる、Mac の Finder でやるような作業です。
すると、これが思っていたより普通に動きました。
ファイルの書き出し。
ファイルの変更。
ファイルの移動。


こういった作業は高速に、そつなくこなしてくれます。
さらに、「このテキストファイルを簡単な HTML に変換して」といった指示も問題なく処理してくれました。
もちろん、LFM2.5-2.6B はコーディングに特化したモデルではないと思うので、HTML 生成について過度な期待はできません。
それでも、こういうエージェンティックな操作って、もっと大きなモデルじゃないと無理なんじゃないか?と思っていた僕にとっては、ちょっとした発見でした。

「仕事によっては」小さなモデルでもいい
今回の実験で感じたのは、AI エージェントだからといって、必ず巨大なモデルが必要なわけではないということでした。
もちろん、
複雑なコードを書く。
難しい問題を考える。
大量の情報を整理する。
高度な判断をする。
こういった仕事なら、もっと賢いモデルが必要になるでしょう。
でも、
「このファイルを移動して」
「この文章をファイルに保存して」
「この文章を簡単な HTML にして」
というような仕事なら、2.6B 程度の小さなモデルでも十分こなせる場合がある。
これは実際に動かしてみて、ちょっと実感できました。
Mac mini M1 8GB でも動いた
今回は Mac mini M4 32GB をメインに試しました。
その後、Mac mini M1 8GB で 4bit 量子化の LFM2.5-2.6B も試してみました。
結果、M1 8GB も高速に動作していました。
ただ、そのときは Chrome のタブなどを大量に開いた状態だったので、起動直後は Mac 自体が少しもっさりしていました。
それでも、モデルが起動してからの思考や回答は高速。
8GB の Mac でも、こういう小さなモデルなら十分試せる。
これも面白いところです。
小さな AI が仕事を分担する未来
ローカルLLM って、難しいところもあります。
大きなモデルを動かそうとすると、それなりのメモリも必要です。
速度もクラウドのフロンティアモデルには及びません。
だから、「ローカルなんて使わずにクラウドを使えばいいじゃん」という意見も分かります。
実際、僕もフロンティアモデルの性能が凄いことは否定していません。
むしろ、実用だけを考えたらクラウドのほうが便利な場面は多いと思っています。
ただ、僕はちょっと違う未来も想像しています。
皆が一斉にクラウドの巨大モデルへリクエストを送り、サーバーが「あっち🔥あち🔥」になる世界ではなく、ローカルで動く小さなモデルがそれぞれ細かい仕事を分担する。
文章を整理するモデル。
画像を見るモデル。
ファイルを操作するモデル。
ブラウザを操作するモデル。
そして、難しい判断が必要になったときだけ、もっと賢いローカルモデルやクラウドモデルにお願いする。
そんな世界です。
これは僕の願望なのかもしれない
もちろん、これが本当にそうなるのかは僕には分かりません。
僕自身、AI のことをまだまだ勉強している途中です。
今回の話も、「小さなモデルを使えばすべて解決!」という話ではありません。
むしろ、適材適所でモデルを使い分けることができるんじゃないか?という、今の僕の仮説です。
でも、ローカルLLM を触り始めてから、こういうことを考えるようになりました。
一番賢い AI を一つ使えばいい。
それも正解。
でも、小さな AI をいくつも組み合わせて、それぞれに得意な仕事をさせる。
こちらも、これから面白くなるんじゃないかな。
そんな気がしています。
僕はまだ、「小さなモデルを制する」どころか、小さなモデルで何ができるのかを試している段階です。
でも、こういう未来を妄想しながら AI を触っているのは、結構楽しいんですよね。
しばらく触っていなかった Hermes Agent も、また少し遊んでみようかな。
今後はちゃんと「成果物」を作るところまでやらないと😅