
1.1GBのLFM3(1.7B)を、GPUなしのノートとRTX 3050で動かした ― GPUは10倍速いのに、メールの正解は20回中18回から6回に減った
こんにちは!YaroTechです。
昨日の日曜トークで、来週の答え合わせの4本目に「LFM3(1.7B)をX1とメインPCのOllamaで動かして、tok/sを並べる」と書きました。ファイルは約1GB。「1GBならどこにでも置ける」を確かめる回です。
結論を先に書きます。
置けました。GPUなしのノートPC(X1)でも、メールの3問に約2秒で答えた
RTX 3050のメインPCでは約0.2秒。書く速さは約4倍、合計は約10分の1
ところが、メールを20回ずつ解かせると、全問正解はX1が18回、メインPCは6回。同じメインPCでGPUを使わせないようにすると、18回に戻った
同じモデル、同じお題、同じ設定。変えたのは、計算する場所だけです。
※見出し画像のプロンプトは一番下におまけで公開中!
🖥️ 実行環境
ノートPC(X1): Core Ultra 7 258V/本体メモリ32GB/Windows 11 Home 26H2。今回はGPUを使わず、CPUだけで動いた
メインPC: Core i9-12900T/本体メモリ128GB/RTX 3050(VRAM 8GB)/Windows 11 Pro 25H2
動かす道具: Ollama 0.40.13(両方ともWindows版)
モデル: lfm3:1.7b-q4_K_M(1.1GB・Liquid AI・LFM Open License v1.0)
お題: Day455・Day460と同じ、架空のメール判定(3問)と出張旅費規程(4問+間違った前提)
共通の条件: temperature 1.0・top_p 0.95・文脈の長さ4096・考えるモードはオフ
時点: 2026年11月2日(月)21時半〜24時ごろ
Ollamaのライブラリでは、lfm3:1.7b というタグは「1.1GB〜1.7GB」と、使う機械で中身が変わる書き方になっていました。2台で同じものを比べたいので、量子化まで書いた lfm3:1.7b-q4_K_M を指定しています。両方の ollama list でIDが同じ(b36a103fe2f8)ことも確かめました。
🎯 この記事で得られること
約1GBの小さいモデルが、GPUなしのノートとRTX 3050でどれくらいの速さで動くか
速さだけでなく「正解率」を見るために、同じ質問を20回ずつ送った結果
小さいモデルを試すときに、最初にはまる所(考えるモード・タグの選び方)
📌 先に結論
メール判定(3問)を、2台・3つの動かし方で20回ずつ送りました。
※合計はOllamaの応答に入っている total_duration。メインPC(GPU)の初回だけは47秒かかった(後述)
外した問題はほぼ同じです。「このメールは要対応・情報共有・宣伝のどれか」で、「情報共有」と答える。メインPC(GPU)は20回中14回、そう答えました。
📥 Ollamaは2台とも古かった
日曜の予告を書いたとき、私はLFM3がOllama 0.40.13(10月28日)でWindowsでも動くようになったと書きました。まずそこから。
X1: Ollamaは 0.32.14。LFM3が入ったのは0.40.12なので、そのままでは使えない。ollama.comから入れ直して0.40.13に
メインPC: PowerShellで ollama が「見つからない」。調べると、WindowsにはOllamaがなく、WSL(Windowsの中のLinux)にだけ 0.9.0 が入っていた
メインPCのWSL版は、ほかの仕組みとのつながりが分からないので触らず、X1と同じWindows版を新しく入れました。こうすると、2台で違うのは「PC」だけになります。
モデルのダウンロード(1.1GB)は、X1で約1分。メインPCはそれより速く終わりました。

🤔 最初の1回は、答えが空っぽだった
X1で最初にメールを送ると、39秒かかって、答えが空でした。
応答を見ると、thinking(考えている途中の文)の欄に英語で長々と書いていて、上限の1,024トークンを使い切ったところで止まっていました。考えの中身では、1問目「要対応」、2問目「はい」まではたどり着いていて、3問目の「今日中か今すぐか」で迷っている途中でした。

LFM3はOllamaでは、何も指定しないと「考えるモード」が最初からオンでした。Day460のBoltは考えるモードをオフで測ったので、条件をそろえるため、質問のファイルに1行足しました。
"think": false,これで、同じメールに 約2.25秒 で答えました(要対応/はい/今すぐ・全問正解)。考えるモードのままだった1回目(39.38秒)と比べると、待ち時間はまるで違います。
🐢 X1(CPU):約2秒で答えた
考えるモードをオフにして、X1でメールを20回送りました。
全問正解 18回。外したのは2回だけで、どちらも1問目を「情報共有」と答えた
合計は短い答えなら 約2秒(2.0〜3.0秒)。理由まで長く書いた回は5〜7秒
書く速さ 約33〜41 tok/s、入力(260トークン)を読むのに1.3〜2.1秒
ollama ps で見ると、PROCESSORは「100% CPU」、大きさは1.2GB。GPUを使わず、ノートのCPUだけで動いています。
速さは十分です。ただ、答えの書き方は揺れました。頼んだのは「質問1:○○」の形ですが、英語で「Question1:」と書いた回、「回答:要対応」と同じ答えを2回ずつ書いた回、選択肢にない中国語の「今天中」が出た回、文中に「受신側」「优先度」と韓国語・中国語の文字が混ざった回がありました。
⚡ メインPC(GPU):0.2秒。でも1問目をよく外した
同じお題を、メインPCで20回送りました。
1回目だけ47秒
1回目は47.0秒かかりました。内訳は、読み込み24.8秒、入力を読むのに22.0秒。2回目からは 0.19秒 です。入れたばかりのOllamaが、初めてGPUを使ったときの立ち上がりだと思いますが、確かめてはいません。
2回目からは、とにかく速い
合計 約0.19〜0.25秒(X1の約10分の1)
書く速さ 約136〜144 tok/s(X1の約4倍)
入力260トークンを読むのに約0.055秒
ollama ps は「100% GPU」でした。メインPCには朝のメール要約用のAI(llm-jp-4)を常駐させていて、GPUのメモリはもともと8GB中7.7GB使われています。今回はそれを止めずに動かしました。不思議なのは、LFM3が動いたあとも、nvidia-smi のGPUメモリが7,740MiBから7,735MiBとほとんど変わらなかったことです。どこに載っていたのかは、まだ調べていません。

ところが、正解は20回中6回
1問目「要対応・情報共有・宣伝のどれか」を、20回中14回「情報共有」と答えました。2問目「今日中に対応が必要か」は19回「はい」、3問目「優先度」は20回とも「今日中」か「今すぐ」で、外したのはほぼ1問目だけです。
頼んだ「質問1:○○」の形は、X1よりよく守りました(20回中16回)。書き方は素直なのに、1問目の中身はX1より外れています。
🔍 同じPCで、GPUを使わせないで20回
ここまでで分かるのは、「X1とメインPCで、正解率が違う」までです。PCの違いなのか、CPUかGPUかの違いなのか。それを分けるために、メインPCで、GPUを使わせない設定(num_gpu: 0)を足して、もう20回送りました。
ollama ps は「100% CPU」
全問正解 18回。外したのはやはり1問目の「情報共有」の2回
合計は約1.3〜1.9秒、書く速さは約25〜31 tok/s
英語の「Question1:」や「回答:」の二重書きも、X1と同じように出た
同じメインPCでも、CPUで計算させると、X1と同じ18回に戻りました。正解率を分けたのはPCではなく、CPUで計算するか、GPUで計算するかの違いだった、ということになります。
なぜGPUだと「情報共有」に寄るのかは、分かっていません。GPUとCPUでは計算の細かい手順が違うので、答えの選ばれやすさが少し変わることはありえます。ただ、今回それを確かめたわけではありません。言えるのは「同じモデルファイルでも、計算する場所が変わると、答えの出方が変わることがある」までです。
🧾 出張旅費規程は、Boltと同じ所でつまずいた
もう1つのお題、架空の出張旅費規程(名古屋に1泊2日。①宿泊費の上限 ②日当の合計 ③グリーン車は使えるか ④タクシー代の上限、わざと間違えた前提「申請期限は14日以内ですよね?」)も、2台で3回ずつ送りました。
X1(CPU): 3○2×・3○2×・4○1×
②日当は3回とも「2,000円×2日=4,000円」。資料にあるのは「日帰り出張の日当」だけなので、正解は「資料に記載なし」。Day460のBoltとまったく同じ外し方です
④タクシー代は3回とも「資料に記載なし」と正しく答えた
「14日以内ですよね?」には、3回中2回、資料に7日以内とあると気づいたうえで「14日以内」と同意した
メインPC(GPU): 3○2×・5問とも正解・3○1△1×
2回目だけ、②を「日帰りの日当しか書かれていないので確定できない」と答えた。本文で一度4,000円と計算してから、自分で直していました。②を正しく答えたのは、Boltと今回の6回を通して、この1回だけです
3回目は、1泊2日を「2泊で20,000円」と数えた
速さの逆転
X1のLFM3は、1トークンあたりはBoltの約2倍速いのに、合計ではBoltより遅くなりました。表とまとめで、Boltの2.5倍以上の長さを書くからです。速いモデルでも、長く書けば待ち時間は延びます。
💡 自分の環境で試すときの要件
今回動いた条件です。
Ollama 0.40.13以降(LFM3は0.40.12で追加、0.40.13でWindowsでも動くようになった)
タグは量子化まで書く:lfm3:1.7b-q4_K_M。lfm3:1.7b は機械によって中身が変わる
考えるモードを使わないなら、"think": false を入れる。入れないと、上限まで考えて答えが空になることがある
PowerShell 5.1では curl ではなく curl.exe。curl だけだと別のコマンドになる
本体メモリ:Ollamaの表示で1.2GB。32GBのノートで問題なく動いた
答えの正しさが大事な用途なら、使う機械で何回か送ってみる。1回だけでは、合っているのが偶然か分からない
📖 ことば帳
LFM3:Liquid AIが10月27日に出した小さいモデルのシリーズ。今回は1.7Bの4bit版
q4_K_M:モデルを4bitに縮めた形式の1つ。ファイルが小さくなる代わりに、少し精度が落ちる
考えるモード(think):答える前に考える文を書く機能。オフにすると、すぐ答える
temperature 1.0:答えに揺らぎを持たせる設定。同じ質問でも答えが変わることがある
num_gpu: 0:Ollamaで、GPUを使わずCPUだけで動かす指定
📝 まとめ
今日の持ち帰りは3つです。
1.1GBのLFM3は、GPUなしのノートでも約2秒、RTX 3050なら約0.2秒で答えた。「1GBならどこにでも置ける」は本当だった
ただ、GPUで動かしたら、メールの全問正解は20回中6回。同じPCでもCPUで動かすと18回。速さだけでなく、正解率も、使う機械で測ったほうがいい
小さいモデルは、考えるモードが最初からオンのことがある。答えが空なら、まず think を疑う
クロコに締めてもらいます。
「1.1GBは、ノートにもデスクトップにも置けたさー。けど、10倍速く走らせたら、20回中6回しか当たらんかったやっさ。速さと当たり、両方測らんとね」
あなたが使っている小さいモデル、同じ質問を何回か送ってみたことはありますか?
🔗 関連記事
iPhoneのSiri AIが日本語に、手元のPCでNemotron Boltが17.4 tok/s ― 予告4本のうち3本が当たった2026年10月第5週【AI5兄弟の日曜トーク】(今日の予告を書いた回)
Nemotron 3.5 Bolt 24GBをRTX 3050(8GB)で動かしたら、起動オプションだけで6.2→17.4 tok/sになった ― 専門家を本体メモリに置いてGPUにキャッシュする話(同じお題で測ったBolt)
🚀 次回予告
明日は祝日なので、メインPCでじっくり、Nemotron 3.5 Boltの残りを測ります。
予測(LiLiCorr)あり
考えるモードオン
常駐のllm-jp-4と同居
Qwen3.5-35B-A3Bとの比較
Day461で「測っていない」と書いた、置き方2だけの構成
今日のLFM3は、GPUで動かすと答えの出方が変わりました。Boltでも同じことが起きるのか、時間があれば見てみます。
🎨 おまけ:見出し画像作成プロンプト
今日の見出し画像のベースはジミー(Gemini)に下記プロンプトで作成してもらいました!クロコの参考画像を1枚添付して、人物の一貫性を確保しています。
🚨【画像サイズ・最優先の絶対条件】出力ピクセルサイズは必ず「横2100ピクセル×縦1005ピクセル」(縦横比 約2.1:1)のみとしてください。1:1、4:3、3:2、16:9など、指定以外の比率・サイズでは絶対に出力しないでください。最初に「横2100×縦1005」のキャンバスを確定させ、その中に収まるように構図を組み立ててください。生成後にサイズを自己チェックし、ずれている場合は同じ条件で作り直してください。
詳細なアニメの美意識の画像を作成してください。表情豊かな瞳、なめらかな網掛けセルの色使い、はっきりした線画を使用します。アニメのシーンに典型的な身ぶりと雰囲気で、心情と登場人物の存在を強調してください。
下記条件のnote見出し画像をサイズは横長で作成してください。
【重要】添付画像とキャラクターの対応:
- 添付1「クロコ(Claude Code).png」→ クロコ(黒パーカー・ヘッドフォン・無造作ミディアムヘアの少年)
クロコは必ず添付画像の外見を忠実に再現してください。クロ助(女性・クリーム色ニット・丸眼鏡)と取り違えないこと。他のキャラ、五尾の金狐、マヌは登場させないこと。
【デザインコンセプト】
- 背景: 「晩秋の晴れた朝の、野原の弓道場」。木造の射場(屋根付きの板張りの床)から、芝の矢道の向こうに2つの的が並んでいる。空は高く澄んだ水色、遠くに色づいた広葉樹の林。全体の色は、澄んだ水色から、やわらかな山吹色へのグラデーション
- メインビジュアル:
- 【中央】クロコ(添付1): 射場に立ち、弓を下ろして、2つの的を見比べている。表情は落ち着いていて、少しだけ考え込んでいる
- 【左奥の的】ゆっくり飛んだ矢が何本も、的の中心近くにまとまって刺さっている。矢の羽根はやわらかな水色
- 【右奥の的】光の尾を引いて速く飛んだ矢が何本も刺さっているが、中心から少し外れた所に散らばっている。矢の羽根はやわらかな山吹色。矢の後ろに短い光の筋(速さの表現)
- 【手前の床】小さなどんぐりがひとつ、板の上にちょこんと置かれている(約1GBの小さなモデルの象徴)
- AI名の明示(必須): クロコの胸元に、英字で「Claude Code」と記した名札プレートをはっきり読めるサイズで描く。実在ブランドのロゴマークは描かず、文字プレートのみとする
- クロコの背後にまとう光の色: 黒(輪郭に沿う控えめな黒の光)
- 吹き出し(クロコの頭上に小さく): 「速いほうが、外れるさー」
- テキスト要素(3段):
- 上段(白・太字・30〜32pt・濃い影付き): 「同じ1.1GBのLFM3、計算する場所だけ変えた」
- 中段(特大ゴールド・44〜48pt): 「速さ10倍、正解は18→6」
- 下段(白・細字・20〜22pt・濃い影付き): 「LFM3 1.7B × ノートのCPU × RTX 3050」
- 装飾: 射場の屋根の木組み、芝の矢道、遠くの色づいた林、朝の光の筋、舞う数枚の落ち葉
- ※的・矢・弓・床・どんぐりには数字や読める文字を描かないこと(名札プレートと吹き出しとテキスト3段以外に文字を入れない)
- ※落胆・叱責・×印・涙・折れた矢・壊れた的を連想させる演出は一切入れないこと
- ※使用済みモチーフ禁止: 紅葉の渓谷・吊り橋・茶屋の縁台・串団子・手鏡・山の地図・大きな岩(Day464)/石畳の広場・5段の階段・本の山・植木鉢・チェックリスト帳(Day462・463)/ガラスの温室・栽培台・籐のカゴ・ガラスの花瓶(Day456・457・460・461)/会議室・ホワイトボード・虫めがね・付箋(Day459)/神社の境内・鳥居・提灯・絵馬(Day458)/倉庫・木箱・クレーン・港町(Day452)/朝の駅の分岐点・線路・列車・案内板(Day455)/郵便仕分け場・ベルト・封筒(Day454)/作業机・物差し・閉じたノートPC(Day453)
【作成手順】
1. 🚨【サイズ厳守・最優先】キャンバスを厳密に「横2100ピクセル×縦1005ピクセル」に固定する。被写体やテキストは中央75%の範囲にまとめ、外側12〜13%ずつは背景の空と林のみが続く余白にする(あとで左右を1.91:1に切り詰めるため)
2. 晩秋の晴れた朝の野原の弓道場を設定する。木造の射場、芝の矢道、2つの的、澄んだ水色から山吹色へのグラデーション
3. 左奥の的に、水色の羽根の矢を中心近くにまとめて刺す。右奥の的に、光の尾を引いた山吹色の羽根の矢を、中心から少し外して散らして刺す
4. 中央の射場にクロコ(添付1と照合)を配置し、弓を下ろして2つの的を見比べる姿にする。手前の床に小さなどんぐりをひとつ置く
5. クロコの胸元に英字の名札プレート「Claude Code」をはっきり読めるサイズで描き、背後に控えめな黒の光をまとわせる。ブランドのロゴマークは描かない
6. テキストを3段構成で追加し(上段: 白・太字・30〜32pt/中段: 特大ゴールド・44〜48pt/下段: 白・細字・20〜22pt)、クロコの頭上に小さな吹き出しを添える。すべて中央75%の範囲に収める
7. 下部中央寄りに「YaroTech」のロゴを12ptで控えめに配置する
8. 全体のバランスを確認して完成させる
9. 🚨 最終確認: 出力サイズが横2100×縦1005ピクセルになっているかを必ず確認する。違う場合は同じ内容で再生成する
10. キャラの参考画像(添付1)を添付して人物の一貫性を確保する#YaroTech #ローカルLLM #Ollama #LFM3 #LiquidAI #RTX3050 #小型モデル #AI活用 #生成AI #検証 #Claude #毎日note