メインコンテンツへスキップ
見出し画像

日本語で使えるローカルLLMおすすめ2026。VRAM別の現実解

    日本語のローカルLLMは、モデル名から選ぶと迷子になります。先に「どのVRAMで動かすか」を決め、そのクラスの日本語向け最有力を選ぶ。この順番なら迷いません。VRAM別の現実解を、公開ベンチと諸元に基づいて整理します。

    選び方の原則: サイズクラスを先に決める

    日本語モデル選びは、次の順番が迷いません。

    1. 手元のVRAM(GPUメモリ)を確認する(『必要VRAM早見表』)

    2. そのVRAMで動くサイズクラスを決める

    3. そのクラスの中で、日本語向けの最有力を選ぶ

    モデル名から入ると「話題のあれ」に引っ張られて、載らない・遅いモデルを選びがちです。器(VRAM)を先に決めるのが鉄則です。

    なお「日本語性能」は一枚岩ではありません。読解・生成の自然さ・敬語やビジネス文・知識量で得意不得意が分かれます。自分の用途で効く軸を意識します。

    VRAM別クラスと日本語の現実解

    クラスごとの第一候補と対抗を整理します。ライセンスはモデルで異なるので、商用可否は必ず確認してください(『オープンLLMライセンス早見表』)。


    画像
    表1: VRAM / クラス / 第一候補 / 対抗・補足


    各クラスの選び方

    〜4B(8GB): 軽量タスク割り切り

    このクラスは、分類・タグ付け・短い下書きに割り切ります。日本語の細かな自然さや敬語は上位クラスに譲りますが、大量処理やエッジには十分です(『軽量モデル1〜4Bの使いどころ』)。第一候補はQwen3-4B(Apache 2.0)。

    7〜9B(8〜12GB): 個人利用の定番

    日常使いの主力クラスです。汎用ならQwen3-8B、日本語をより効かせたいならQwen3 Swallow系(海外強力モデルに日本語追加学習、Apache 2.0)が候補になります。完全オープン重視ならLLM-jpの小型版も(『Swallow・LLM-jp・calm3の選び方』)。

    16GB: MoEという裏技も

    14B級に加えて、gpt-oss-20BがMXFP4量子化で約16GBに収まります。MoEなので活性パラメータが少なく、20B級の知能を軽快に動かせます(『MoEとアクティブパラメータ入門』)。日本語強化版のGPT-OSS Swallowもこの選択肢に入ります(『gpt-oss×Swallow』)。

    24GB: 実務ライン

    ビジネス文書で実用になるクラスです。汎用はQwen3-32B。日本語の推論を重視するならELYZA-Thinking-1.0-Qwen-32B(Qwen2.5ベース、日本語追加学習、Apache 2.0)(『ELYZAは今どうなっているか』)。22Bのcalm3や、Qwen3 Swallow 32Bも候補です。tool callingを要するエージェント用途にも耐えるのがこのクラスです。

    48GB〜/大型MoE: 品質最優先

    複数GPUや大容量統合メモリ機で、最高品質を狙うクラス。gpt-oss-120B、その日本語強化版GPT-OSS Swallow 120B、Qwen3-235B-A22Bなど。MoEなら大容量統合メモリ機でも動きます(『gpt-oss 20B/120B解説』)。

    ベンチマークと自社検証

    モデルの日本語性能は、第三者ベンチで一次比較できます。

    • Nejumi Leaderboard 4で、同じサイズ帯のモデルを比較する

    • 総合順位でなく、自分の用途に対応するカテゴリ(生成・推論・コーディング等)を見る

    ただし、ベンチ上位が自社業務で最良とは限りません。本記事の推奨は公開ベンチとモデル諸元に基づく現実解であり、最終判断は自社データでの検証で行うのが確実です。同じ日本語タスク(ビジネスメール下書き・議事録要約・帳票の読み取りなど)を候補モデルに投げ比べ、出力の質を自分の目で確かめてください。

    用途別の補足

    • コーディング: 汎用モデルより特化モデルが効く(『コーディング特化モデル比較』)

    • 長文要約・RAG: コンテキスト長と、長文での実効精度に注意する

    • 創作・検閲なし系: 本記事のスコープ外(注意点は別記事で扱う)

    まず1つ選ぶなら

    迷ったら、手元のVRAMに合わせてQwen系を起点にするのが無難です。

    • 8〜12GB → Qwen3-8B(日本語強化ならQwen3 Swallow)

    • 16GB → gpt-oss-20B または Qwen3-14B

    • 24GB → Qwen3-32B または ELYZA-Thinking-1.0-Qwen-32B

    ここから自社データで検証し、業務に合うものへ絞り込みます。

    まとめ

    • 日本語モデルはVRAM→サイズクラス→そのクラスの日本語最有力、の順で選ぶと迷わない

    • 8GBは割り切り(Qwen3-4B)、8〜12GBの定番はQwen3-8B/Swallow、16GBはgpt-oss-20BやMoEも

    • 24GBの実務ラインはQwen3-32B・ELYZA-Thinking・calm3。48GB〜はgpt-oss-120B等の大型

    • 推奨は公開ベンチ+諸元ベース。最終判断は同じ日本語タスクを投げ比べる自社検証で

    主な参考資料: Nejumi Leaderboard 4、Swallow LLM公式、Qwen3公式ブログ、『必要VRAM早見表』

    TodoONadaでは、業務データでのモデル選定ミニ検証からローカルLLM導入まで支援しています。お問い合わせはこちら。

     
     
    Claude/Cursor/Codexを使ってシステム開発xマーケx営業を並列開発する経営者。 元日本オラクルでシステムの受託会社であるTodoONadaをやっています。 http://defform.comも自社サとして運営中。

    あなたへのおすすめ