🤖

ついにローカルLLMで安心して仕事が出来る!― Qwen3.5-27B 採用レポート (2026/02/27)

に公開

TL;DR

・RTX 3090(VRAM 24GB)+5bit量子化で Qwen3.5-27B (Reasoning) を実用速度でローカル動作させた話。
・Artificial Analysis の Intelligence Index 上では、
Qwen3.5-27B (42) > o3-pro (41) > Qwen3.5-35B-A3B (37) という並びになっている。
・実際のコーディング体験でも、長めのタスクのやり切り/コードの一貫性/プロンプト耐性の3点で 27B が 35B-A3B を上回ると感じたため、「常用エンジン」は 27B を採用。
・TypeScript + Canvas で Pong / Breakout / Tetris の3本をワンショット生成し、最小限の修正で普通に遊べるレベルまで到達。

まとめると、「ローカルで回る 27B が、中堅フロンティア帯の土俵に乗ってきた」 という世代交代感があり、今後しばらくの基準点になりそう。

0. 前置き

VRAM24GB、私の場合だとRTX3090 1枚で動く「30BクラスのローカルLLM」は、
これまでずっと"GPT-4"クラスという言われ方をしていましたが、
いざ触ると「ちょっと微妙な感じ」という立ち位置でした。

ところが 先日リリースしたQwen3.5 ファミリーについては1世代先の感覚があり、
積極利用できる環境であれば積極的に利用した方がいい次元にまで到達したと考えています。

この記事は、
・Qwen3.5-27B はどういう存在なのか
・なぜ自分は 35B ではなく 27B を“常用エンジン”として採用したのか
・これは単なる LLM オタク視点ではなく、“世代交代”の話としてどう位置づけられるのか

を、ローカルLLM 初心者でも読めるレベルで整理してみようと考えています。

後半では、実際に Qwen3.5-27B に TypeScript+Canvas の
ゲームをワンショットで 3 本書かせた実験も紹介します。

1. 前回のおさらい:まずは 35B を全力で回してみた

Qwen3.5のミドルモデルリリース当日に先に別記事で、Qwen3.5-35B-A3B を RTX 3090 上で動かした話を書きました。

https://zenn.dev/rna4219/articles/5593afb569089a
・24GB VRAM に 5bit 量子化モデルを載せて、フル GPU オフロード
・驚き屋がやりがちな ローカルでミニゲーム生成

実際、Qwen3.5-35B-A3B を初めて動かしたときのインパクトはかなり大きく、
メインで使用していたローカルLLMのモデルに採用したのですが、
その段階では、まだパラメータ感から見るとMoEモデルとはいえ35Bの方がパフォーマンスが出るでしょという感覚でしか見ていませんでした。

2. 「LLM の世代が変わる」ってどういうことか

今回のQwen3.5ファミリーについてはそもそも
「新しいモデルが出て、ベンチマークの数字が少し良くなりました」
というレベルではありません。

ここでいったん、「世代が変わる」というのをどう扱うか、言葉を揃えておきます。

2-1. パラメータが増えた ≠ 世代が変わった

LLM の世界でよくある誤解は、

パラメータ数が増えた = そのまま性能アップ
というやつです。スケーリング則に素直に従うなら現行でもそういう法則は続いています。

ですが、実際には以下の要因でスコアは大きく変化します。
・アーキテクチャ(中身の構造)
・学習データの質と配合
・学習レシピ(スケーリング則、RL、ポストトレーニング)
・量子化の実装の仕方

2-2. 世代が変わると何が起きるか

自分の中で「世代が変わった」と見なす条件は、ざっくりこんな感じです:

・同じサイズで、できることがはっきり増える
例:30Bクラスなのに、旧 70B / 120B でしか届かなかった領域まで来る
・小さいモデルが、ひとつ前の“大きいモデル”を追い越す
例:27B が、前世代の 120B MoE を普通に超えてくる
・ベンチマークだけでなく、日常の使い心地が変わる
→設計〜実装〜修正まで「1本のストーリー」になっていて、途中で破綻しにくい
・プロンプトが多少雑でも「意図を汲んで補完」してくれる場面が増える
・一度に扱える文脈(コンテキスト)が伸びても、振る舞いが崩れにくい

スマホに例えるなら、
アーキテクチャやプロセスルールが変わって、
ベンチがゴリッと上がり、リッチなゲームが長時間遊べるイメージです。

今回の Qwen3.5ファミリー は、まさにこの「世代が 1 つ移動した側」に入っていると感じています。

3. Qwen3.5-27B は何者か? ― ざっくり立ち位置

今回の主人公である Qwen3.5-27B のポジションを、最初にざっくり押さえておきます。

3-1. サイズだけ見ると「中堅ローカルモデル」

スペックだけ並べると、Qwen3.5-27B はこんなモデルです:
・パラメータ数:約 27B(270億)
・アーキテクチャ:Transformer + 線形Attention系ブロックのハイブリッド
・コンテキスト長:約26万トークン(262k)トークン級(実運用でもかなり長文まで踏ん張る)

ローカル実行:
・RTX 3090 24GB + 5bit 量子化で実用的に動く

スマホのようなエッジデバイス向けのSLMは一旦隣に置いておき、パラメータだけ見ると、
・7B / 8B:軽量モデル
・13B / 14B:中堅
・27B / 30B:ローカルでギリ本気を出せる上限 ※RTX 5090 であれば40B付近まで快適のはず
・70B 以上:基本はデータセンター向け、あるいは128GB/256GBの高速で動くメモリが搭載されたハイエンドの構成のハードウェア向け。

ぐらいの感覚なので、**サイズ的には「ローカルの中堅〜やや大型」**くらいの位置づけです。

3-2. ところがベンチマーク上では「フロンティア中堅帯」に刺さっている

問題はここからで、実際のベンチマーク(複数の難しいテストをまとめた総合スコア)を眺めると、
・Qwen3.5-27B は、過去でおなじみの
GPT-4o / Claude 3 系 をまとめて上回り
OpenAI の推論特化モデル o3 よりも一段上のスコア帯にいて
「GPT-5 mini」 や 「DeepSeek V3.2」 と同じくらいの「フロンティア中堅ゾーン」に入っている

という評価になっています。

数値の細かい話やグラフは後半でまとめて出しますが、
ここで伝えたいのは、「ローカルで回せる 27B クラスが、
もはや“従来フロンティア(GPT-4 世代+ o3)”を越え始めている。」

3-3. なぜ 35B ではなく 27B を採用したのか(この記事の芯)

この状況で「常用エンジンとしては 35B ではなく 27B を採用する」とした理由は、
ベンチマーク上も、27B の方が 35B-A3B より一段強いという点にあります。
特にコード生成・推論・エージェント系の指標で差がついており、触った感じでも
確かに35B-A3Bのが早く、コーディングの精度を求めないのであればこちらの方が優位でしょうし、
上手くハマる場面であれば 35B-A3B の方がバランス感としても採用されやすいと思います。

しかし、実際に使ったときのコーディングに対して“質”が明らかに違い、
長めのタスクを最後までやり切る安定感や
プロンプトが多少雑でも、意図を汲んでくれる許容範囲の広さがかなり感じました。

この記事の残りの部分では、下記を順番に見ていきます。
・35B vs 27B を、「スコア」と「質」の両面から比較する
・o3 を含む従来フロンティアと、どのあたりで線が引けるのかを整理する
・最後に、27B だけで TypeScript のゲームを 3 本ワンショット生成した事例

4. 35B vs 27B:数値で見る違い(+o3 比較)

まずは、よく引用される Artificial Analysis Intelligence Index で比較してみます。
これは、難しめの読解・推論・コード・エージェント系タスクをまとめて評価した「総合スコア」です。

執筆時点のスコアはこんな感じになっています:
・Qwen3.5-27B (Reasoning) …… 42
・Qwen3.5-35B-A3B (Reasoning) …… 37
・ChatGPT o3-pro …… 41

重要なのは、数字の並び方で、Artificial Analysis の Intelligence Index 上では、
Qwen3.5-27B > o3-pro > Qwen3.5-35B-A3B
になっている、という点です。

35B-A3B は 27B よりパラメータが多いものの、
総合スコアでは 27B の方が一段上 にいます。

OpenAI が2025年6月11日 当時「最強の推論モデル」として出した o3-pro と比べても、
27B の方が 1 ポイント高い スコアになっています。
当時o3を触ったことのある身としてはあれより賢いモデルが1年経たずしてローカルLLMで動くというのはかなり衝撃的なニュースです。

もちろん、ChatGPT 版の o3 はブラウザやコード実行などツールとの連携が前提なので、
「どちらが便利か」という問いに対して単純に 27B が勝ち、とは言いません。

ただし、「モデル単体の“地頭”だけを見るなら、27B は o3 世代と殴り合えるどころか、
スコア上はわずかに上を取っている」

というのは、ベンチマーク上で確認できる事実です。
ベンチマーク上では良いスコアを取れるが実際はイマイチなんていうモデルもちょくちょくあるので、
参考程度に見るというのが日常的に触れている身としての感想ではあります。

5. 35B vs 27B:実際に使ったときの“質”の違い

ここからは、自分がローカルで両方を触ったときの体感を、
できるだけ主観と客観を分けながら書いてみます。

5-1. コードの一貫性

27B を使っていて強く感じるのは「ストーリーの一貫性」です。
今回…というより前回と比較をしたかったので、ハードに合わせながら条件を揃えるやり方にしました。
(どちらも 5bit 量子化+RTX3090 で、Thinking なし・TypeScript 1ファイル指定という条件に寄せています。)
若干 35B の方が不利なゲームになってしまっているので、参考程度にしてください。

内容としては「TypeScript の 1ファイル」ゲームを書かせるというものですが、
与えた指示に従い、最後まで大きな不具合が無く、実装が可能か。という内容にしており、
予め渡しておくシステムプロンプトは何も入力せずパラメータ設定を推奨にした状態で実行しています。

35B-A3B での挙動は、
情報量は多いし、スピードも速いが、長めのコードになると途中で方針が変わっているような差分や
ビビっているのかループ生成を繰り返し、上限に届く。不具合が多すぎて起動しない。
といった「惜しい」挙動が増えやすい印象がありました。

5-2. プロンプト耐性(雑に投げてもどうにかしてくれるか)

実務でずっと真面目なプロンプトを書き続けるのは、ハッキリ言って現実的ではありません。
27B は、多少条件が抜けていても、
「この用途なら多分こうだろう」という形でいい感じに補完してくれる場面が多いコードですが、
35B は、条件が揃っているときのパフォーマンスは高いものの、
前提がブレると落ち込みが大きい ケースが目立ちました

ここまでをまとめると、実務目線ではこう言えます:
ベンチマーク上は 27B > 35B だけど、
「コードの一貫性」「長めのタスク」「プロンプトの許容範囲」みたいな “質” のところでも 27B が上回っていた

6. なぜ 27B がこんなに強いのか(初心者向けざっくり版)

細かい数式を抜きにして、「なんで 27B がここまで伸びたのか」をざっくり推測・整理しておきます。

6-1. アーキテクチャの当たりを引いている

Qwen3.5-27B は、中身がざっくりいうと
「軽い処理」と「重い処理」をいい感じに混ぜたハイブリッド構造になっています。

・テキスト全体をザッと眺める部分は 軽い計算(線形 Attention 系)
・細かい依存関係や難しいところを読む部分は 重い計算(普通の Attention)

そのおかげで、
「全部重い計算」ほど GPU に負担をかけず / 「全部軽い計算」ほど情報を落とさず
長文を読ませつつ、推論タスクの精度も維持できる、というバランスの良さが出ています。

6-2. 学習データとレシピがフロンティア寄り

Qwen3 系の技術レポートを読むと、
学習データの量と質、レシピの組み方もかなり攻めていることが分かります。

ざっくりいうと:
・何十兆トークン規模の大規模コーパス
・数学・コード・長文読解・マルチモーダル(画像付き)を意識したデータ配合
・不要なデータを LLM 自身で評価してふるいにかける前処理
・スケーリング則を使った、サイズごとの学習スケジュール最適化

「アーキが良かったところに加えて、フロンティアモデル級の丁寧な学習レシピを載せた」
と表現すると、一番しっくり来るかもしれません。

6-3. RL(ご褒美学習)でエージェント寄りの力を伸ばしている

Qwen 系は、QwQ 系などで**推論強化型の RL(Reinforcement Learning)**をすでに回しており、
3.5 系ではこれをさらに拡張しているとされています。

その結果、
・「ツールをどう使い分けるか」
・「一度考えてから答える」
・「手順を分解して順番に処理する」
といった “エージェント寄りの振る舞い” の質が上がっているようです。

7. フロンティア全体の中で見ると、どのあたりのポジションか

数値と体感を合わせて、Qwen3.5-27B の立ち位置をざっくり描くと、こんな感じになります:

従来フロンティア帯
GPT-4o / Claude 3 Opus / Sonnet 3 / Gemini 1.5 Pro
→ いまの指標だと、27B に明確に抜かれている側

推論特化の中堅フロンティア
・ChatGPT o3-pro(Intelligence 41)
・Claude Sonnet 4.x 系
・GPT-5 系の中位モデル群
→ 27B はこのゾーンのど真ん中(42)

最上位フロンティア
・GPT-5 high
・Claude 4 Opus 相当
→ さすがに、ここはまだ届いていない。

雑にまとめると:
「ローカルで回せる 27B が、“中堅フロンティア帯” にそのまま入り込んできた
(旧 GPT-4 世代は、もはやひとつ下の世代になりつつある)」

8. 実験コーナー:ワンショットでゲームを 3 本書かせてみた

ここまでベンチマークや理屈の話をしてきましたが、
実際に動くコードの例もあった方がイメージしやすいと思うので、簡単な実験をしました。

8-1. 条件

モデル:Qwen3.5-27B UD 5bit(GGUF)
実行:llama.cpp + RTX 3090 24GB(ほぼフル GPU オフロード)/コンテキスト 8000 / Thinking無し

推論設定(例):
"""Powershell
-m "C:\models\Qwen3.5-27B-UD-Q5_K_XL.gguf" --ctx-size 8000
--n-gpu-layers 99 --temp 0.7
--top-p 0.8 --top-k 20
--min-p 0.0 `
--chat-template-kwargs '{"enable_thinking": false}'
"""

8-2. タスク:TypeScript + Canvas で 3 本のゲーム

それぞれ、TypeScript 1ファイル+HTML5 Canvas という条件でプロンプトを投げました。
詳細はGitHub上で記載をしていますが、
「TypeScript で、HTML5 Canvas を使った ***を作成してください」から一発で出しやすい内容にしています。

最終的なデモは、GitHub Pages 上にまとめています:

Qwen3.5-27B one-shot games
https://rna4219.github.io/qwen3.5-27b-5bit-UD-one-shot-games/

トップページから、Pong / Breakout / Tetris それぞれのページに飛べます。
なお、私の環境では35B-A3BではPongのみの生成となってしまったので精度については27Bのが高いという判断をしています。
実際繰り返したり、プロンプトに工夫を入れれば35B-A3Bでもちゃんと生成できるかもしれません。

この実験で確認できたのは、ざっくりいうと:
・1回のプロンプトで、ミニゲームが 3 本書ける
・修正はTSからJSに変えるレベルで足りていて、致命的な不具合は無かった。
という点です。

9. ローカルで試してみたい人向け:超ざっくりガイド

「自分でもローカルで触ってみたい」という人向けに、
最低限の道筋だけ書いておきます。

9-1. 必要なスペックの目安

27B クラスを快適に動かす前提で書きますが、
実際には VRAM が足りなくても CPU 推論で「動かすだけ」なら可能です。
・GPU:VRAM 24GB 前後(RTX 3090 / 4090 など)
・メモリ:32GB 以上推奨(できれば 64GB)
・ストレージ:モデル本体だけで数十 GB 使うので、空き 100GB は欲しい

また、スマートフォンでもある程度の処理性能とメモリがあればLLMを動かすことは可能ですがニッチなので割愛します。

9-2. ツール選び

実行する際にツールを選定しますが、基本的に初心者であればLM Studioが扱いやすくお勧めです。
・llama.cpp (CUI)
→CUI ベースで自由度が高い
→今回のような no-thinking 設定もしやすい

・LM Studio / Ollama (GUI)
→GUI で手軽に試したい人向け
→モデルのダウンロード〜起動までをある程度まとめてやってくれる

10. まとめ:常用エンジンとして「採用は 27B」

最後に、この記事全体のポイントをまとめます。

・Qwen3.5-27B は、ローカルで動かせる 27B クラスにもかかわらず、
ベンチマーク上は旧 GPT-4 世代や ChatGPT o3 を含む“従来フロンティア”を上回る位置にいる。
・35B-A3B と比べても、総合スコアだけでなく、実際のコーディング体験(コードの一貫性・長いタスクのやり切り・プロンプト耐性)で 27B の方が上 と感じた。
・TypeScript+Canvas のゲームを 3 本ワンショットで実装させる実験でも、手直しは最小限で「普通に遊べるもの」が出てきた。
・アーキテクチャ(ハイブリッド構造)と、フロンティア級の学習レシピ(大規模データ+丁寧な前処理+RL)が組み合わさった結果、「ローカル中堅サイズなのにフロンティア中堅帯」のモデルが生まれている。

そのうえで、自分の結論としてはシンプルで、
ローカル常用エンジンとしては、35B ではなく Qwen3.5-27B を採用した。

このクラスのモデルが「自宅の GPU で普通に回る」ようになった時点で、
「クラウドじゃないとできないこと」の中身も、数年スパンでまた書き換わるはずです。
特にエージェントコーディングについてAPI費ではなく、電気代のみで生成できるという点になるので、
それに伴うツールが誕生すると思います。
今までと変わらず情報キャッチアップしたいですね。

その境目にいる 1 モデルとして、
Qwen3.5-27B をひとつの「基準点」として置いておく価値は、かなり高いと感じています。
今回ばかりはクラウド上のフロンティアモデルを常用している人でも触ってほしいです!

追記:ざっくりコスト感

ここまで性能の話だけしてきましたが、ローカル 27B を常用する以上、「電気代 vs API」のコストもざっくりだけ触れておきます。

  • RTX 3090 で Qwen3.5-27B (5bit) を回したときの 電気代ベースのトークン単価は、感覚的には
    GPT-5 mini / 4.x mini クラスの API と同じくらいか、やや安い程度です。
  • 4o-mini や Gemini Flash-Lite みたいな“激安ミニモデル” とだけ比べると、
    「電気代を含めても API 側の方が安い」ケースも普通にありえます。

ローカルを選ぶ理由は、純粋な単価というよりも、

  • トークン消費をほぼ気にせず試行回数を繰り返しても制限がかからない
  • モデルの挙動がサービス会社の調整によって変化しない
  • 手元のコードやログを外に出さずに生成が可能

といった「ローカルならではの優位性」がある状態でなければ、
採用するというのはハードウェアを揃える部分も含めるとやはり高コストな選択になります。

参考・出典URL

Qwen3.5 本体・技術レポート関連


Qwen3.5-27B / 35B モデル情報


ベンチマーク・比較系


解説・コミュニティ系


o3 / フロンティアモデル周り

Discussion