メインコンテンツへスキップ
見出し画像

【特別企画】2026年最新ローカルLLM完全網羅ガイド:全世代・全バージョン・推奨スペックとVRAM計算まで徹底解説

    手元のPC環境で大規模言語モデル(LLM)を動かす「ローカルLLM」の世界が、かつてない進化を見せています。クラウド型AIが主流となる中で、自分だけのマシンスペックを活かしてAIを駆動することには、独自の強力なメリットが存在します。

    完全なプライバシーの保護、オフラインでの動作、そしてAPI利用料金を気にせず無制限に試行錯誤できる自由度。これらは開発者やギーク、クリエイターにとって、何物にも代えがたい「黄金の環境」です。

    2026年7月現在、Mixture-of-Experts(MoE:混合専門家モデル)の標準化や、量子化技術の劇的な向上により、クラウドAIに肉薄する性能を持つオープンソースモデルが、一般のコンシューマーPC(特にVRAMを搭載したGPU環境)で驚くほど滑らかに動作するようになっています。

    本記事では、2026年現在のオープンソース・ローカルLLMの主力モデルから、歴代の全世代・全バージョン、PCスペック別の選び方、量子化や追加学習、モデルマージの最新動向までを網羅的に徹底解説します。


    第1章:歴代全世代・全バージョン・全サイズ・全バリエーション網羅!ローカルLLM主力モデルマップ

    ローカルLLMの世界は日々進化しており、グローバルな巨大IT企業から、日本の国産開発チーム、さらには世界各国の独自プロジェクトに至るまで、多様なオープンモデルが群雄割拠しています。現在入手・実行可能なすべてのモデルを、歴代の全世代・全バージョン、サイズ、量子化、MoEの有無、追加学習のバリエーションを含めて体系的に整理しましょう。

    ここでは一切の省略や「など」という曖昧なまとめ方を排除し、存在する全モデルとそのバリエーションをサイズごとにすべて個別の行として網羅し、それぞれのモデルの技術的強みや特徴、ローカルPCでの具体的な動作上の意義を添えて掲載します。


    1. グローバル主要モデル(Big 5)

    #### ■ Qwen シリーズ (Alibaba)

    > ファミリー全体の特徴:
    圧倒的な多言語能力(日本語含む)と、プログラミング(Code)や数学(Math)における世界最高峰のオープン性能を誇ります。ローカル環境で最も安定して動作する、現在の実用デファクトスタンダードです。

    Qwen 3.6 シリーズ (2026年最新)

    前世代から事前学習データの精査とRL(強化学習)を前倒しで適用し、推論の的確さが向上。128kコンテキストをネイティブサポート。

    • Qwen 3.6-0.5B (総パラメータ数: 5億、極小サイズ)

      • Qwen 3.6-0.5B-Base

        • 事前学習のみの基盤モデル。VRAM 1GB以下で動作し、特定の狭いタスク用のアダプター(LoRA)学習のベースとして最適です。

      • Qwen 3.6-0.5B-Instruct

        • 対話特化モデル。文章の簡易フィルターやタグ付け、超高速なキーワード抽出を省メモリで実行します。

    • Qwen 3.6-1.5B (総パラメータ数: 15億、省メモリサイズ)

      • Qwen 3.6-1.5B-Base

        • 基盤モデル。スマートデバイスやシングルボードPC(Raspberry Pi等)で動作するローカルAIシステムの土台。

      • Qwen 3.6-1.5B-Instruct

        • 対話モデル。軽量ながら論理的な会話が可能で、スマートホームの音声コントロール等に実用可能です。

      • Qwen 3.6-Coder-1.5B-Base

        • コード事前学習モデル。エッジ環境でのコード入力補完エンジンのバックエンドとして機能します。

      • Qwen 3.6-Coder-1.5B-Instruct:

        • コード対話モデル。メモリ消費を極限に抑えつつ、シェルスクリプトや簡易関数の記述をアシストします。

    • Qwen 3.6-3B (総パラメータ数: 30億、モバイル・ポータブル推奨)

      • Qwen 3.6-3B-Base

        • 基盤モデル。性能と軽さのバランスが良く、オンデバイス推論のカスタマイズ起点となります。

      • Qwen 3.6-3B-Instruct

        • 対話モデル。一般的なスマホや統合GPU搭載ノートPCでも瞬時に起動し、日常のチャット業務を処理します。

    • Qwen 3.6-7B (総パラメータ数: 70億、ローカルLLMの標準機)

      • Qwen 3.6-7B-Base

        • 基盤モデル。日本語の表現力が豊かで、本格的なローカル継続事前学習や大規模LoRAチューニングに耐えうる基本構造。

      • Qwen 3.6-7B-Instruct

        • 対話モデル。文脈把握力が高く、ローカル環境でのRAG(検索拡張生成)システム構築の標準的な推論エンジン。

      • Qwen 3.6-Coder-7B-Base

        • コード事前学習モデル。VS CodeやCursor等のローカルコード補完エンジンに直結する高性能基盤。

      • Qwen 3.6-Coder-7B-Instruct

        • コード対話モデル。SQLクエリの構築やデバッグ、アルゴリズムの複雑なリファクタリングを完璧にこなします。

      • Qwen 3.6-Math-7B-Base

        • 数学事前学習モデル。論理的ステップを積み重ねるための基礎知識を豊富に学習しています。

      • Qwen 3.6-Math-7B-Instruct

        • 数学・論理思考特化。数学的証明や複雑な論理パズル、条件分岐コードの整合性チェックに最適です。

    • Qwen 3.6-14B (総パラメータ数: 140億、ミドルレンジ最高峰)

      • Qwen 3.6-14B-Base

        • 基盤モデル。パラメータ数以上の表現力を持ち、中規模サーバーレスLLM構築のベース。

      • Qwen 3.6-14B-Instruct

        • 対話モデル。VRAM 12GB〜16GBクラスのGPUで非常に快適に動作し、指示への従順さと論理展開が劇的に向上しています。

    • Qwen 3.6-32B (総パラメータ数: 320億、ハイスペックPC推奨)

      • Qwen 3.6-32B-Base

        • 基盤モデル。高度な推論タスクや、多段階エージェントシステムの基盤として機能します。

      • Qwen 3.6-32B-Instruct

        • 対話モデル。70Bクラスに迫る論理的思考力を持ち、複雑なビジネス契約書の読解や長文ドキュメントの要約をこなします。

      • Qwen 3.6-Coder-32B-Base

        • コード事前学習モデル。複数ファイルにまたがるコードベースの依存関係を正確に処理。

      • Qwen 3.6-Coder-32B-Instruct

        • コード対話モデル。大規模な開発タスク、設計書のコード化、複数言語間の複雑なトランスパイルに対応。

    • Qwen 3.6-35B-A3B (MoE、総パラメータ数35B、Active: 約3B、超高速推論モデル)

      • Qwen 3.6-35B-A3B-Base

        • 基盤モデル。ロードにはVRAMを消費しますが、推論速度は3Bモデルと同等というMoEの特性を持ちます。

      • Qwen 3.6-35B-A3B-Instruct

        • 対話モデル。ローカルPCで「7Bモデルを圧倒する賢さ」を「0.5B並みの超爆速レスポンス」で出力します。

    • Qwen 3.6-72B (総パラメータ数: 720億、プロフェッショナル仕様)

      • Qwen 3.6-72B-Base

        • 基盤モデル。エンタープライズ領域でプライベートモデルを構築する際の国内・グローバル標準基盤。

      •  Qwen 3.6-72B-Instruct

        • 対話モデル。VRAM 24GB以上またはMacのユニファイドメモリ環境で動作し、クラウドAIと遜色ない最強の推論力を手元で実現します。

    Qwen 2.5 シリーズ (2024年)

    > 128kコンテキスト、関数呼び出し(Function Calling)の精度が向上し、構造化データ(JSON等)の出力性能が大幅に強化された名機世代。

    • Qwen 2.5-0.5B (Dense)

      • Qwen 2.5-0.5B-Base

        • 基礎モデル。超省メモリ・エッジデバイス動作の検証用。

      • Qwen 2.5-0.5B-Instruct

        • 対話モデル。簡単なチャットボットや定型文作成をローカルで高速処理。

    • Qwen 2.5-1.5B (Dense)

      • Qwen 2.5-1.5B-Base

        • 基盤モデル。オンデバイス処理の基礎データセット学習用。

      • Qwen 2.5-1.5B-Instruct

        • 対話モデル。レスポンスの速さを重視した軽量アシスタント。

      • Qwen 2.5-Coder-1.5B-Base

        • コード事前学習モデル。エディタ用インライン補完の基礎。

      •  Qwen 2.5-Coder-1.5B-Instruct

        • コード対話モデル. 簡単なアルゴリズム記述を支援。

    •  Qwen 2.5-3B (Dense)

      • Qwen 2.5-3B-Base

        • 基盤モデル。小型デバイスにおけるスマート推論のコア。

      • Qwen 2.5-3B-Instruct

        • 対話モデル。ローカルでの定形メール返信案作成など、実務アシスタント。

    •  Qwen 2.5-7B (Dense)

      • Qwen 2.5-7B-Base

        • 基盤モデル。ファインチューニングによる業務特化モデル構築の標準起点。

      • Qwen 2.5-7B-Instruct

        • 対話モデル。RAG、文書の構造化、エージェント連携が可能な万能モデル。

      •  Qwen 2.5-Coder-7B-Base

        • コード事前学習モデル。コーディング知識が強固に事前学習されています。

      • Qwen 2.5-Coder-7B-Instruct

        • コード対話モデル。開発者に最も愛用されているローカルコードアシスタント。

      • Qwen 2.5-Math-7B-Base

        • 数学事前学習モデル。数学問題や証明の基盤。

      • Qwen 2.5-Math-7B-Instruct

        • 数学対話特化。数式展開や統計データの論理分析を自律的に解説。

    • Qwen 2.5-14B (Dense)

      • Qwen 2.5-14B-Base

        • 基盤モデル。日本語の文脈理解がより洗練された中型基盤。

      • Qwen 2.5-14B-Instruct

        • 対話モデル。指示追従性と文章の要約・生成能力のバランスが秀逸。

    • Qwen 2.5-32B (Dense)

      • Qwen 2.5-32B-Base

        • 基盤モデル。多重の制約条件を含むタスクを解くための基盤。

      • Qwen 2.5-32B-Instruct

        • 対話モデル。論理的矛盾のない長文出力と緻密なプロンプト理解。

      • Qwen 2.5-Coder-32B-Base

        • コード事前学習モデル。複数言語が混在する巨大プロジェクトの処理が可能。

      • Qwen 2.5-Coder-32B-Instruct

        • コード対話モデル。ローカル環境で本格的なシステム設計と実装を支援する最高峰。

    • Qwen 2.5-72B (Dense)

      • Qwen 2.5-72B-Base

        • 基盤モデル。大規模オンプレミス開発の業界基準モデル。

      • Qwen 2.5-72B-Instruct

        • 対話モデル。クラウドAIの代替としてローカルで複雑な意思決定を行う際の最有力候補。

      • Qwen 2.5-Math-72B-Base

        • 数学事前学習モデル。学術研究やデータサイエンスの高度な数理計算基盤。

      • Qwen 2.5-Math-72B-Instruct

        • 数学対話特化。難解な大学数学、統計的シミュレーション、物理演算の論証を支援。

    Qwen 2 シリーズ (2024年)

      > 初代からアテンション機構(Grouped-Query Attention)を最適化し、長文処理性能と推論速度を大幅に引き上げた世代。

    • Qwen 2-0.5B (Dense)

      • Qwen 2-0.5B-Base

      • Qwen 2-0.5B-Instruct

    • Qwen 2-1.5B (Dense)

      • Qwen 2-1.5B-Base

      • Qwen 2-1.5B-Instruct

    • Qwen 2-7B (Dense)

      • Qwen 2-7B-Base

      • Qwen 2-7B-Instruct

    • Qwen 2-57B-A14B (MoE)  (MoEによる高速推論と、57Bの深い知識表現の両立)

      • Qwen 2-57B-A14B-Base

      • Qwen 2-57B-A14B-Instruct

    • Qwen 2-72B (Dense)

      • Qwen 2-72B-Base

      • Qwen 2-72B-Instruct

    Qwen 1.5 シリーズ (2024年)

      > オープンソースコミュニティへ広く普及する契機となったモデル。豊富なボキャブラリーと安定した挙動が特徴。

    • Qwen 1.5-0.5B

      • Qwen 1.5-0.5B-Base

      • Qwen 1.5-0.5B-Chat

    • Qwen 1.5-1.8B

      • Qwen 1.5-1.8B-Base

      • Qwen 1.5-1.8B-Chat

    • Qwen 1.5-4B

      • Qwen 1.5-4B-Base

      • Qwen 1.5-4B-Chat

    • Qwen 1.5-7B

      • Qwen 1.5-7B-Base

      • Qwen 1.5-7B-Chat

    • Qwen 1.5-14B

      • Qwen 1.5-14B-Base

      • Qwen 1.5-14B-Chat

    • Qwen 1.5-32B

      • Qwen 1.5-32B-Base

      • Qwen 1.5-32B-Chat

    • Qwen 1.5-72B

      • Qwen 1.5-72B-Base

      • Qwen 1.5-72B-Chat

    • Qwen 1.5-110B (100Bを超える超巨大高精度モデル)

      • Qwen 1.5-110B-Base

      • Qwen 1.5-110B-Chat

    • Qwen 1.5-MoE-A2.7B (初期MoEの傑作)

      • Qwen 1.5-MoE-A2.7B-Base

      • Qwen 1.5-MoE-A2.7B-Chat

    Qwen 初代 (2023年)

      > 3兆トークンを超えるデータセットで事前学習されたQwenの出発点。

    • Qwen-7B

      • Qwen-7B-Base

      • Qwen-7B-Chat

    •  Qwen-14B

      • Qwen-14B-Base

      • Qwen-14B-Chat

    • Qwen-72B

      • Qwen-72B-Base

      • Qwen-72B-Chat

    Qwenマルチモーダル (Vision)

    > テキスト情報だけでなく、画像内のオブジェクト検出、表の読解、手書き文字の認識に秀でたビジョン言語モデル(VLM)。

    • Qwen-VL-7B (2023年) (初期ビジョン対応)

      • Qwen-VL-7B-Base

      • Qwen-VL-7B-Chat

    • Qwen2-VL-2B (2024年) (軽量ながら画像の主要要素を高速抽出)

      • Qwen2-VL-2B-Base

      • Qwen2-VL-2B-Instruct

    • Qwen2-VL-7B (2024年) (画像解像度の動的変更に対応し、グラフや表の数値読解に強み)

      • Qwen2-VL-7B-Base

      • Qwen2-VL-7B-Instruct

    • Qwen2-VL-72B (2024年) (ドキュメントやスキャンPDF、複数ページの画像を極めて緻密に解析)

      • Qwen2-VL-72B-Base

      • Qwen2-VL-72B-Instruct

    • Qwen2.5-VL-3B (2025年) (動画フレームの連続理解と、視覚情報に基づく数式解法が大幅に進化)

      • Qwen2.5-VL-3B-Base

      • Qwen2.5-VL-3B-Instruct

    • Qwen2.5-VL-7B (2025年) (ローカルで動画監視データや講義映像をタイムスタンプ付きで要約可能)

      • Qwen2.5-VL-7B-Base

      • Qwen2.5-VL-7B-Instruct

    • Qwen2.5-VL-72B (2025年) (Web UIの操作画面を認識し、自動ブラウジングを実行できる最高レベルの視覚エージェント)

      • Qwen2.5-VL-72B-Base

      • Qwen2.5-VL-72B-Instruct


    #### ■ Gemma シリーズ (Google DeepMind)

    > ファミリー全体の特徴:
    「開発者に寄り添う最高水準のオープンモデル」。Googleの独自知見に基づく強固な安全設計と、コンパクトなパラメータサイズ(2B〜9B)に似合わない、極めてクリーンで美しい英語表現力と高度な論理推論力が特徴です。

    Gemma 4 シリーズ (2026年最新)

      > Googleの次世代モデル。事前学習からマルチモーダルとエージェントタスクをネイティブ想定した画期的な構造。

    • Gemma 4 E2B (総パラメータ数: 20億、極小高圧縮)

      • Gemma 4 E2B-Base

        • 高密度学習により、従来の3B〜4Bモデルに匹敵する基礎表現力を獲得。

      • Gemma 4 E2B-IT

        • 対話モデル。スマホなどのエッジデバイスで、遅延を感じさせない高速な応答と高い指示追従。

    • Gemma 4 E4B (総パラメータ数: 40億、中間高圧縮)

      • Gemma 4 E4B-Base

        • 知識の圧縮率が限界まで高められ、ローカルでのカスタマイズ性能に優れる。

      • Gemma 4 E4B-IT

        • 対話モデル。VRAM 4GB〜8GBのローエンドPCにおける「最も賢く快適な対話AI」の選択肢。

    • Gemma 4 9B (総パラメータ数: 90億、ローカルLLMの中核)

      • Gemma 4 9B-Base

        • 学術データ、科学論文、論証テキストを多く学習した基盤モデル。

      • Gemma 4 9B-IT

        • 対話モデル。一般的な開発者PCのVRAM内で「クラウドAI級」の論理展開と流麗なテキスト生成を提供。

    • Gemma 4 12B-Vision (総パラメータ数: 120億、マルチモーダル)

      • Gemma 4 12B-Vision-Base

        • テキスト・画像・音声をネイティブに統合した最先端基盤。

      • Gemma 4 12B-Vision-IT

        • 対話モデル。スマートフォンのカメラ映像や音声をローカルで理解し、リアルタイムで会話アシスト。

    • Gemma 4 26B (MoE、総パラメータ数26B、Active: 4B、高効率推論)

      • Gemma 4 26B-Base

        • 知識の総量は26Bでありながら、推論の演算負荷を極限まで抑えた基盤。

      • Gemma 4 26B-IT

        • 対話モデル。ローカルPCでVRAMを効率よく使い、高速推論と深い論理構成力を発揮。

    • Gemma 4 31B (総パラメータ数: 310億、プレミアム推論モデル)

      • Gemma 4 31B-Base

        • 高度な専門的論証、複雑なコーディング構造を完全に保持。

      • Gemma 4 31B-IT

        • 対話モデル。ローカルで高度な論文解読やビジネス意思決定のシミュレーションを実行。

    Gemma 2 シリーズ (2024年)

      > 新しいアテンション手法(Sliding Window & Global Attention)の交互配置と、独自の蒸留技術により、同クラスのオープンモデルを圧倒する高いベンチマークスコアを叩き出した世代。

    • Gemma 2-2B (Dense) (Web UIの操作画面を認識し、自動ブラウジングを実行できる最高レベルの視覚エージェント)

      • Gemma 2-2B-Base

      • Gemma 2-2B-ITX

    •   - Gemma 2-9B (Dense) (当時の8B〜13Bクラスで圧倒的な論理思考・ライティング性能を確立)

      • Gemma 2-9B-Base

      • Gemma 2-9B-IT

    • Gemma 2-27B (Dense) (ミドルクラス最高峰。24GB VRAM GPU 1枚で動作し、極めて高度な指示追従を達成)

      • Gemma 2-27B-Base

      • Gemma 2-27B-IT

    Gemma 1.1 / Gemma 1 シリーズ (2024年)

      > 初期Gemma。クリーンな英語データセットをベースに開発され、Google AI技術の片鱗を公開。

    • Gemma-2B (Dense)

      • Gemma-2B-Base

      • Gemma-2B-IT

    • Gemma-7B (Dense)

      • Gemma-7B-Base

      • Gemma-7B-IT`

    • Gemma 1.1-2B (Dense) (初期のバグを修正し、指示追従の安定性を向上)

      • Gemma 1.1-2B-Base

      • Gemma 1.1-2B-IT

    • Gemma 1.1-7B (Dense)

      • Gemma 1.1-7B-Base

      • Gemma 1.1-7B-IT

    Gemma特化アーキテクチャ

    • CodeGemma-2B (コード生成専用、Dense)

      • CodeGemma-2B-Base (エディタの軽量インライン自動コード補完エンジンに特化)

    • CodeGemma-7B (Dense)

      • CodeGemma-7B-Base

        • 5000億トークンのコードデータで事前学習され、コードの文脈理解が深い。

      • CodeGemma-7B-IT

        • 対話モデル。プログラミングのデバッグ、単体テストの自動作成、設計パターンの解説。

    • RecurrentGemma-2B (RNN/Griffinアーキテクチャ、Dense) (トランスフォーマーではなく線形再帰型を採用し、超省メモリで超長文入力を処理)

      • RecurrentGemma-2B-Base

      • RecurrentGemma-2B-IT

    • RecurrentGemma-9B (Dense)

      • RecurrentGemma-9B-Base

      • RecurrentGemma-9B-IT`

    • PaliGemma-3B (超軽量ビジョンモデル、Dense)

      • PaliGemma-3B-pt-224

      • PaliGemma-3B-pt-448

      • PaliGemma-3B-pt-896

        • 解像度別の事前学習モデル。画像分類、物体検出、位置座標出力の基礎モデル。

      • PaliGemma-3B-ft-224

      • PaliGemma-3B-ft-448

      • PaliGemma-3B-ft-896

        • 各解像度で微調整された対話・キャプションモデル。画像の概要やOCRを高精度に実施。


    #### ■ DeepSeek シリーズ (DeepSeek)

    > ファミリー全体の特徴:
    「オープンモデルの価格破壊と性能革命」。MLA(Multi-head Latent Attention)やMoE(混合専門家モデル)の画期的な設計により、VRAM負荷を劇的に削減しながら、世界最高レベルの推論性能を誇る最強のオープンソースシリーズです。

    DeepSeek V4 シリーズ (2026年最新)

      > 推論時に「思考プロセス(Chain-of-Thought)」を可視化するディープシンキングモードが劇的に進化した最新世代。

    • DeepSeek-V4-Flash (MoE、総パラメータ数284B、Active: 13B、超高速推論モデル)

      • DeepSeek-V4-Flash-Base

        • 超大規模データで事前学習され、多言語およびコーディングの卓越した知識。

      • DeepSeek-V4-Flash-Chat

        • 対話モデル。思考プロセスをリアルタイムで出力し、論理破綻のない高度なプログラム作成、問題解決をローカルPC上で最速で実行します。

    • DeepSeek-V4-Pro (MoE、総パラメータ数1.6兆、Active: 49B、最高峰オープンモデル)

      • DeepSeek-V4-Pro-Base

        • 巨大基盤モデル。専門的論文、数学的発見、巨大データベースの構築に寄与。

      • DeepSeek-V4-Pro-Chat

        • 対話モデル。クラウドの最高峰AIに匹敵する、あるいは超える自律思考とコーディング、論理構造解析。


    DeepSeek V3 シリーズ (2025年)

      > MLA(アテンション状態の圧縮)と動的ルーティングMoEにより、671Bという巨大パラメータでありながら、推論に必要なVRAMを劇的に削減した大ヒット世代。

    • DeepSeek-V3-671B (MoE、総671B、Active: 37B)

      • DeepSeek-V3-Base

        • 巨大基盤モデル。最高峰の事前学習知識を保持。

      • DeepSeek-V3-Chat

        • 対話モデル。ローカル環境で複数GPUを用いて動作させ、極めて高いビジネス実務、コーディング、高度要約タスクを実行。


    DeepSeek V2.5 / V2 シリーズ (2024年)

      > DeepSeek-CoderとDeepSeek-LLM(対話・一般)の能力を統合し、命令追従性とプログラム生成力を高い水準で融合。

    • DeepSeek-V2-Lite (MoE、総16B、Active: 2.4B)軽量MoE。VRAM 8GB〜12GBクラスで非常に高速に動作し、一般的な日常チャットをサクサク処理。

      • DeepSeek-V2-Lite-Base

      • DeepSeek-V2-Lite-Chat

    • DeepSeek-V2-236B (MoE、総236B、Active: 21B) 中規模サーバーレス環境やハイエンド開発PCでの実用エンジン。

      • DeepSeek-V2-Base

      • DeepSeek-V2-Chat

    • DeepSeek-V2.5-236B (MoE、総236B、Active: 21B) 自然言語とプログラム言語の重みを完璧にブレンドし、開発とビジネス意思決定の同時支援が可能。

      • DeepSeek-V2.5-Base

      • DeepSeek-V2.5-Chat


    DeepSeek LLM (V1初代) (2024年)

      > 初期DeepSeek。高精度なデータ精査により、当時のLlama 2を圧倒する性能を示したDenseモデル。

    • DeepSeek-LLM-7B (Dense)

      • DeepSeek-LLM-7B-Base

      • DeepSeek-LLM-7B-Chat

    • DeepSeek-LLM-67B (Dense)

      • DeepSeek-LLM-67B-Base

      • DeepSeek-LLM-67B-Chat


    DeepSeek特化モデル・マルチモーダル

    • DeepSeek-Coder-1.3B (Coder V1, Dense) (軽量なコードスニペット自動補完モデル)

      • DeepSeek-Coder-1.3B-Base

      • DeepSeek-Coder-1.3B-Instruct

    • DeepSeek-Coder-5.7B (Coder V1, Dense)

      • DeepSeek-Coder-5.7B-Base

      • DeepSeek-Coder-5.7B-Instruct

    • DeepSeek-Coder-6.7B (Coder V1, Dense) (ローカルでの個人開発向けコードアシスタントの定番)

      • DeepSeek-Coder-6.7B-Base

      • DeepSeek-Coder-6.7B-Instruct

    • DeepSeek-Coder-33B (Coder V1, Dense) (大規模コード書き換え、設計図の読み取りに対応)

      • DeepSeek-Coder-33B-Base

      • DeepSeek-Coder-33B-Instruct

    • DeepSeek-Coder-V2-Lite (MoE, 総16B、Active: 2.4B)

      • DeepSeek-Coder-V2-Lite-Base

        • コード・数学学習トークンを大幅に追加したMoE基盤。

      • DeepSeek-Coder-V2-Lite-Instruct

        • プログラミング性能において、当時のGPT-4-Turbo等の商用モデルに肉薄した超人気ローカルモデル。

    • DeepSeek-Coder-V2-236B (MoE, 総236B、Active: 21B) 大規模開発プロジェクト全体をコンテキストに読み込み、リファクタリングを自律的に提案できるプロ仕様。

      • DeepSeek-Coder-V2-Base

      • DeepSeek-Coder-V2-Instruct

    • DeepSeek-Math-7B (Dense, 数学特化) (数理パズルや証明、統計論理に特化し、強化学習チューニングが極めて強力に機能)

      • DeepSeek-Math-7B-Base

      • DeepSeek-Math-7B-Instruct

      • DeepSeek-Math-7B-RL

    • Janus-1.3B (ビジョン言語・画像生成ハイブリッド, Dense)

      • Janus-1.3B-Base (単一モデルで画像認識と画像生成「テキストから画像作成」を両立した画期的なアーキテクチャ)

    • Janus-Pro-1B (Dense)

      • Janus-Pro-1B-Base (生成画像のクオリティと、画像認識のディテール解析力が大幅に向上)

    • Janus-Pro-7B (Dense)

      • Janus-Pro-7B-Base (ローカルPCで「画像の読み取り」と「美麗なイラスト・UIモックアップの生成」を高度に実行可能な主力機)


    #### ■ Llama シリーズ (Meta)

    > ファミリー全体の特徴:
    「オープンLLMの始祖であり、絶対的な世界共通言語」。オープンソースAIエコシステムの基盤であり、ほぼすべてのファインチューニングモデルや量子化ツール、アプリケーションフレームワークは、Llamaとの互換性を最優先して開発されます。

    Llama 4 シリーズ (2026年最新)

      > 複雑な推論チェーンとマルチモーダル(画像・音声)を基盤に、1000万トークンを超える超長文処理を最初からネイティブ想定。

    • Llama 4 Scout (MoE、総パラメータ数109B、Active: 17B、長文推論特化)

      • Llama 4 Scout-Base

        • 超大容量のテキスト・データストリームをロードして処理するための基盤。

      • Llama 4 Scout-Instruct

        • 対話モデル。ローカルで書籍数十冊分のPDFを一度にコンテキストに投入し、そのすべての相関関係を完全に記憶・分析可能。

    • Llama 4 Maverick (MoE、総パラメータ数400B、Active: 17B、マルチモーダル最高峰)

      • Llama 4 Maverick-Base

        • グローバル標準となるマルチモーダル推論の絶対的王者。

      • Llama 4 Maverick-Instruct

        • 対話モデル。自律的なエージェント動作、論理的思考、画像や音声を含む複合推論を手元で実行可能。

    Llama 3.3 シリーズ (2025年)

      > Llama 3.1の70Bモデルをさらにブラッシュアップし、強化学習ステップを追加することで、命令追従性と安全性、API連携能力をさらに研ぎ澄ませた実用世代。

    • Llama 3.3-70B (Dense)

      • Llama 3.3-70B-Base

        • 堅牢な事前学習モデル。企業独自の固有データを用いた継続事前学習の絶対的選択肢。

      • Llama 3.3-70B-Instruct

        • 対話モデル。VRAM 24GB以上のGPUを搭載したローカルPCで動作し、複雑な制約付き文章作成や関数呼び出しを完璧に自律実行。


    Llama 3.2 シリーズ (2024年)

      > 軽量モバイル(エッジ)デバイス向けの超軽量モデルと、画像入力に対応したビジョン(Vision)モデルの追加により、多様なプラットフォームでの動作を可能にした世代。

    • Llama 3.2-1B (Dense、モバイル・ウェアラブル特化) メモリ消費が極めて少なく、スマートウォッチやIoTデバイス、スマホでサクサク対話が実行可能。

      • Llama 3.2-1B-Base

      • Llama 3.2-1B-Instruct

    • Llama 3.2-3B (Dense、ポータブルスタンダード) 一般的なノートPCのCPU動作でも十分実用的な速度で動き、個人のメール作成や日記の要約などを支援。

      • Llama 3.2-3B-Base

      • Llama 3.2-3B-Instruct

    • Llama 3.2-11B-Vision (Dense、マルチモーダルモデル) 画像入力に対応。写真の説明、グラフの読み取り、Web UIの構造確認などを手元で実現。

      • Llama 3.2-11B-Vision-Base

      • Llama 3.2-11B-Vision-Instruct

    • Llama 3.2-90B-Vision (Dense、高解像度マルチモーダルモデル) 大規模な図面、複雑なテクニカルイラスト、複数画像の比較といった超難関マルチモーダル処理に対応。

      • Llama 3.2-90B-Vision-Base

      • Llama 3.2-90B-Vision-Instruct


    Llama 3.1 シリーズ (2024年)

      > コンテキストサイズを従来の8kから128kトークンへ一気に拡張。多言語(日本語含む)の処理能力が劇的に強化され、405Bの巨大フラッグシップモデルが登場した記念碑的世代。

    • Llama 3.1-8B (Dense)

      • Llama 3.1-8B-Base

        • 日本語を含む継続事前学習の基本モデルとして世界中で利用されています。

      • Llama 3.1-8B-Instruct

        • 対話モデル。128kトークンを活用した長文RAGや、複数エージェントを自律動作させるハブとして最適。

    • Llama 3.1-70B (Dense) (長文ドキュメント分析、ビジネス契約書の比較検証)

      • Llama 3.1-70B-Base

      • Llama 3.1-70B-Instruct

    • Llama 3.1-405B (Dense) (オープンソース最高峰の知性。他の軽量モデルを教育するための「知識の教師役(合成データ生成)」として広く活用)

      • Llama 3.1-405B-Base

      • Llama 3.1-405B-Instruct

    Llama 3 シリーズ (2024年)

      > 15兆トークンという当時圧倒的な事前学習データを流し込み、語彙数を128kに拡張した世代。8Bと70Bの2サイズ構成。

    • Llama 3-8B (Dense)

      • Llama 3-8B-Base

      • Llama 3-8B-Instruct

    • Llama 3-70B (Dense)

      • Llama 3-70B-Base

      • Llama 3-70B-Instruct

    Llama 2 シリーズ (2023年)

      > 初めて「商用利用可能(一定制限あり)」を謳い、ビジネス界へローカルLLMを爆発的に普及させた偉大な世代。

    • Llama 2-7B (Dense)

      • Llama 2-7B-Base

      • Llama 2-7B-Chat

    • Llama 2-13B (Dense)

      • Llama 2-13B-Base

      • Llama 2-13B-Chat

    • Llama 2-70B (Dense)

      • Llama 2-70B-Base

      • Llama 2-70B-Chat

    Llama 1 (初代) (2023年)

      > 非営利研究目的でのみ公開された、すべてのオープンLLMの原点。

    • Llama-7B / Llama-13B / Llama-33B / Llama-65B (すべてDense・事前学習のみ)

    Llama/Llama2特化カスタム・安全コンテンツチェック

    CodeLlama シリーズ (2023年、コード特化、Dense)

    • CodeLlama-7B-Base / 7B-Python / 7B-Instruct

      • (7Bの軽量動作。Python特化版はデータ分析に重宝)

    • CodeLlama-13B-Base / 13B-Python / 13B-Instruct

      • (中量サイズで安定したコード記述)

    • CodeLlama-34B-Base` / `34B-Python` / `34B-Instruct

      • (当時のコード生成オープンソース最高性能)

    • CodeLlama-70B-Base` / `70B-Python` / `70B-Instruct

      • (70Bの巨大パラメータによる卓越したロジック設計)

    Llama-Guard シリーズ (安全基準の自動判定モデル)

    • Llama-Guard-7B

      • (Llama 2ベース。プロンプトや生成テキストが有害であるかを自律検知)

      • Llama-Guard-2-8B

        • (Llama 3ベース。判定基準が整理され、処理が高速化)

      • Llama-Guard-3-1B

        • (Llama 3.2-1Bベース。モバイル端末上でのローカル入力検知・安全フィルター)

      • Llama-Guard-3-8B

        • (Llama 3.1-8Bベース。多言語対応し、複雑な表現のニュアンスから有害性を判断)

      • Llama-Guard-3-11B-Vision

        • (Llama 3.2-11B-Visionベース。画像入力の中に有害・危険な要素が含まれるかをリアルタイム検出)



    #### ■ Mistral シリーズ (Mistral AI)

    > ファミリー全体の特徴: 「ヨーロッパ発のイノベーションと技術的エレガンス」。トランスフォーマー構造の枠に囚われず、スライディングウィンドウアテンション、MoE、あるいはMambaアーキテクチャなどを積極的に採用し、限られたリソースでの効率性を限界まで追求する姿勢が特徴です。

    Mistral Large 3 / Codestral (2025-2026年最新)

      > 複雑な推論タスクや、多段階ファンクション呼び出しをネイティブで処理。

    • Mistral Large 3 (MoE、総約675B、Active: 41B)

      • Mistral Large 3-Base

        • 巨大基盤モデル。最高峰の事前学習。

      • Mistral Large 3-Instruct

        • 対話モデル。ローカルで巨大システム全体の設計書を分析し、依存関係を考慮したプログラム群を自動生成。

    • Codestral-22B (Dense、プログラミング特化)

      • Codestral-22B-Base

        • 80以上のプログラミング言語を完璧に記憶。

      • Codestral-22B-Instruct

        • 対話モデル。VRAM 16GB〜24GBのGPUで動作し、大規模プロジェクトでのリファクタリング、仕様設計、単体テスト記述をフルサポート。

    • Codestral Mamba-7B (Mambaアーキテクチャ、コード特化)

      • Codestral Mamba-7B-Base

        • Mamba構造を採用。従来のTransformerモデルのようなコンテキスト拡張時のメモリ不足(OOM)を回避。

      • Codestral Mamba-7B-Instruct

        • 対話モデル。超長大なプログラムソースファイルを一括で読み込み、バグの検出や最適なチューニング方法を解説。

    • Mathstral-7B (Dense、数学・STEM推論特化)

      • Mathstral-7B-Base / Mathstral-7B-Instruct

        • 学術計算、物理シミュレーションの論証、複雑な公式展開に特化した7Bの最高峰。

    Mistral Large 2 (2024年)

    > 商用利用可能な123Bというサイズでリリースされ、当時はオープンモデルで最高レベルのプログラミング・数学性能を達成した世代。

    • Mistral Large 2-123B (Dense)

      • Mistral Large 2-123B-Base

      • Mistral Large 2-123B-Instruct

    Mistral Large 1 (2024年)

    > 初期のフラッグシップモデル。多言語の要約およびビジネス思考に強み。

    • Mistral Large-83B (Dense)

      • Mistral Large-83B-Base

      • Mistral Large-83B-Instruct


    Mixtral 8x22B (2024年)

    > 8つの22BモデルをMixture-of-Expertsで結合した世代。141Bの知識を、極めて軽快な動作で扱えるのが最大の魅力。

    • Mixtral 8x22B (MoE、総141B、Active: 39B)

      • Mixtral 8x22B-v0.1-Base

      • Mixtral 8x22B-v0.1-Instruct

    Mixtral 8x7B (2023年)

    > 世界で初めて「商用実用レベル」のオープンソースMoEモデルとしてリリースされ、世界中の開発者を熱狂させた伝説の世代。

    • Mixtral 8x7B-v0.1 (MoE、総46.7B、Active: 12.9B) (VRAM 24GB 1枚に綺麗に収まり、非常に実用的な対話が可能)

      • Mixtral 8x7B-v0.1-Base

      • Mixtral 8x7B-v0.1-Instruct

    Mistral 7B (2023年)

    > 7Bという小型でありながら、当時の13Bや33Bモデルを凌駕する性能を見せた、最も有名な7Bオープンソースモデル。

    • Mistral-7B-v0.1 (Dense)

      • Mistral-7B-v0.1-Base

        • (すべてのマージモデルやファインチューニングモデルの土台となった名機)

    • Mistral-7B-v0.2 (Dense) (スライディングウィンドウアテンションを改善し、長文文脈を安定化)

      • Mistral-7B-v0.2-Base

      • Mistral-7B-v0.2-Instruct

    • Mistral-7B-v0.3 (Dense) (関数呼び出し「Function Calling」に対応した最新仕様の7B)

      • Mistral-7B-v0.3-Base

      • Mistral-7B-v0.3-Instruct


    2. 新鋭・マルチモーダル・特定ドメインモデル

    #### ■ Microsoft Phi シリーズ (Microsoft)

    > ファミリー全体の特徴: 「小ささは知性である」。Microsoft Researchが推進する「高品質なWebデータとAI合成データ(教科書データ)」による学習手法を限界まで突き詰め、2B〜3.8Bといった超極小パラメータでありながら、十倍以上のモデルを凌駕する高い数学・論理性能を発揮する高密度モデルシリーズです。

    Phi-4 シリーズ (2026年最新)

    > 3.8Bという軽量モデルに加えて、14.7Bの「自律思考モデル(Reasoning)」が登場。

    • Phi-4-Mini (Dense、3.8B) 一般のPCやタブレットで動作し、高度なJSON出力や構造化データの自動生成を超高速処理。

      • Phi-4-Mini-Base

      • Phi-4-Mini-Instruct

    • Phi-4-Reasoning (Dense、14.7B) 自律思考モデル。推論時に見えない思考チェーンを展開し、複雑な論理パズル、数学、アルゴリズムの最適解を導き出すローカル思考AIの最新鋭。

      • Phi-4-Reasoning-Base

      • Phi-4-Reasoning-Instruct

    • Phi-4-Reasoning-Vision-15B (Dense、15B) 画像入力に対応した自律思考モデル。化学の構造式や物理の回路図などを視覚的に読み解き、思考プロセスを展開した解説を行います。

      • Phi-4-Reasoning-Vision-15B-Base

      • 15B-Instruct

    Phi-3.5 シリーズ (2024年)

    > 複数のPhi-3をMoE(Mixture-of-Experts)技術で結合し、マルチモーダルおよび多言語性能を一挙に拡張した世代。

    • Phi-3.5-mini (Dense、3.8B) (3.8Bながら128kコンテキストに対応)

      • Phi-3.5-mini-Base

      • Phi-3.5-mini-Instruct

    • Phi-3.5-MoE (MoE、総42B、Active: 6.6B) (ローカルPCで「軽い動作」と「40Bクラスの深い論理力」を体感可能)

      • Phi-3.5-MoE-Base

      • Phi-3.5-MoE-Instruct

    • Phi-3.5-vision (Dense、4.2B) (複数画像の連続入力や、高解像度のグラフ解析に対応)

      • Phi-3.5-vision-Instruct

    Phi-3 シリーズ (2024年)

    > 「Tinyだけど強烈に賢い」をスローガンに、スマホやPCのローカル上で動作するチャットAIの価値を高めた世代。

    • Phi-3-mini (Dense、3.8B、4K/128Kコンテキスト別)

      • Phi-3-mini-4K-Base / 4K-Instruct

      • Phi-3-mini-128K-Base / 128K-Instruct

        • (3.8Bの軽さのまま、長文の書籍ファイルを丸ごとロードして質問可能)

    • Phi-3-small (Dense、7B、8K/128Kコンテキスト別)

      • Phi-3-small-8K-Base / 8K-Instruct / 128K-Base / 128K-Instruct

        • (一部のアテンションにBlock-Sparse方式を採用し高速化)

    • Phi-3-medium (Dense、14B、4K/128Kコンテキスト別)

      • Phi-3-medium-4K-Base / 4K-Instruct / 128K-Base / 128K-Instruct

    • Phi-3-vision (Dense、4.2B)

      • Phi-3-vision-128K-Instruct

    Phi-2 & Phi-1.5 / 1 (2023年)

    > 教科書レベルの超高品質テキストデータのみを学習させ、モデルの基礎体力を実証した初期モデル。

    • Phi-2-2.7B (Dense)

      • Phi-2-2.7B-Base

        • (2.7Bながら物理やコーディングの基礎知識が豊富)

    • Phi-1.5-1.3B (Dense)

      • Phi-1.5-1.3B-Base`

    • Phi-1-1.3B (Dense)

      • Phi-1-1.3B-Base

        • (Pythonコード生成に特化した最初の極小モデル)


    #### ■ Cohere Command R シリーズ (Cohere)

    > ファミリー全体の特徴:
    「ビジネスRAG(検索拡張生成)と多言語エージェントの申し子」。エンタープライズでの実務利用を想定し、多数の異なる情報ソースから必要な情報を自律的に検索して統合する能力、およびマルチステップツール呼び出し(Tool Use)の安定性が際立っています。

    Command R+ シリーズ (2024-2026年最新)

    • Command R+ (Dense、104B)

      • Command R+-Base

        • 多言語RAGおよび業務オートメーションの強力な基礎知識。

      • Command R+-Instruct

        • 対話モデル。23カ国語以上の高度な対話に加え、自律的にAPIやDBを叩いて結果をマージする高度なエージェント動作を実行。

    • Command R (Dense、35B)

      • Command R-Base / Command R-Instruct

        • VRAM 24GBクラスで動作するミドルサイズ。手元で社内文書データベース(RAG)を稼働させる推論エンジンの定番。


    #### ■ InternLM シリーズ (Shanghai AI Lab)

    > ファミリー全体の特徴:
    東アジア言語(特に中国語・英語)の処理精度が極めて高く、自律的な思考(Thinking)モードをネイティブで組み込んだ高性能オープンソースシリーズです。

    InternLM 3 シリーズ (2026年最新)

    • InternLM 3-8B (Dense) 8Bながら高度な推論思考トレースを出力可能で、数学パズルやプログラムの最適ロジックの構築に優れます。

      • InternLM 3-8B-Base

      • InternLM 3-8B-Instruct

    InternLM 2.5 / 2.0 シリーズ (2024年)

    > 非常に長いコンテキスト長(最大100万トークン)をサポートし、長文ドキュメント処理能力を確立。

    • InternLM 2.5-7B (Dense)

      • InternLM 2.5-7B-Base

      • InternLM 2.5-7B-Chat

    • InternLM 2.5-20B (Dense)

      • InternLM 2.5-20B-Base

      • InternLM 2.5-20B-Chat

    • InternLM 2.0-7B (Dense)

      • InternLM 2.0-7B-Base

      • InternLM 2.0-7B-Chat

    • InternLM 2.0-20B (Dense)

      • InternLM 2.0-20B-Base

      • InternLM 2.0-20B-Chat

    InternLM初代 (2023年)

    • InternLM-7B (Dense)

      • InternLM-7B-Base

      • InternLM-7B-Chat

    • InternLM-20B (Dense)

      • InternLM-20B-Base

      • InternLM-20B-Chat


    #### ■ Yi シリーズ (01.AI)

    > ファミリー全体の特徴: 「長文処理と高速推論の融合」。01.AI社が独自にチューニングを施し、ロングコンテキストにおける情報の引き出し(Needle in a Haystack)精度が極めて高く、ビジネス要約や翻訳業務に強みを持ちます。

    Yi-1.5 / Yi-Lightning シリーズ (2024-2026年最新)

    • Yi-1.5-6B (Dense)

      • Yi-1.5-6B-Base

      • Yi-1.5-6B-Chat

    • Yi-1.5-9B (Dense)

      • Yi-1.5-9B-Base

      • Yi-1.5-9B-Chat

    • Yi-1.5-34B (Dense)

      • Yi-1.5-34B-Base

      • Yi-1.5-34B-Chat

    • Yi-Lightning (MoE、非公開パラメータサイズ)

      • Yi-Lightning-Chat

        • (ローカルAPIまたはGGUFを通じて、超爆速で長文を要約するビジネスクラス)

    Yi 初代 (2023年)

    > リリース当時、オープンソースモデルで最高峰のコンテキストウィンドウとバイリンガル対話精度を示したモデル。

    • Yi-6B (Dense)

      • Yi-6B-Base

      • Yi-6B-Chat

    • Yi-34B (Dense)

      • Yi-34B-Base

      • Yi-34B-Chat`


    3. その他の主要グローバルオープンモデル(IBM、xAI、Stability AI、Hugging Face等)

    #### ■ IBM Granite シリーズ (IBM)

    > ファミリー全体の特徴:
    「エンタープライズ仕様の商用クリーンモデル」。IBMが著作権やコンプライアンスを徹底的に精査したデータのみで事前学習を行っており、ビジネス現場で知的財産権の懸念を一切持たずに展開できる商用保証モデルです。

    Granite 3.0 シリーズ (2024-2026年最新)

    • Granite-3.0-2B (Dense、エッジ・デバイス向け) (軽量で社内システム用のデータ整形・フィルタタスクを完璧にこなす)

      • Granite-3.0-2B-Base

      • Granite-3.0-2B-Instruct

    • Granite-3.0-8B (Dense) (企業の社内データベースをRAGで安全に検索・回答するための中核)

      • Granite-3.0-8B-Base

      • Granite-3.0-8B-Instruct

    • Granite-3.0-2B-Vision (Dense、画像入力対応マルチモーダル)

      • Granite-3.0-2B-Vision-Instruct (デバイス内画像判定用)

    • Granite-3.0-8B-Vision (Dense、画像入力対応マルチモーダル)

      • Granite-3.0-8B-Vision-Instruct (企業内データや資料画像をセキュアに読み取るVLM)

    Granite 2.0 / 1.0 シリーズ (2023-2024年)

    • Granite-13B (Dense)

      • Granite-13B-Base

      • Granite-13B-Instruct

      • Granite-13B-Chat

    • Granite-20B-Code (Dense、プログラミング特化) (COBOLからJavaへの変換など、企業内レガシーコード移植に特化)

      • Granite-20B-Code-Base

      • Granite-20B-Code-Instruct

    • Granite-34B-Code (Dense、プログラミング特化)

      • Granite-34B-Code-Base

      • Granite-34B-Code-Instruct


    #### ■ xAI Grok シリーズ (Elon Musk / xAI)

    > ファミリー全体の特徴: 圧倒的な事前学習パラメータ規模により、物理や自然科学、国際情勢の難解な論理推論に対応。

    Grok 1.0 (2024年)

    • Grok-1-314B (MoE、総314B、Active: 86B、Apache 2.0ライセンス)

      • Grok-1-Base

        • オープンソース公開された史上最大級の3140億パラメータモデル。マルチGPU環境を活かした巨大ローカルサーバーで、最高精度の基盤知識を発揮。


    #### ■ Databricks DBRX シリーズ (Databricks)

    > ファミリー全体の特徴:
    「超高密度な専門知の融合」。132Bパラメータの巨大MoE構造で、ビジネスインテリジェンス(BI)やデータベースのSQLクエリ生成に絶大な強みを発揮します。

    DBRX 1.0 (2024年)

    • DBRX-132B (MoE、総132B、Active: 36B)

      • DBRX-Base` / `DBRX-Instruct

        • 社内ドキュメントの高度読解、複雑なシステムへの関数ルーティングを完全に制御。


    #### ■ Stability AI StableLM シリーズ (Stability AI)

    > ファミリー全体の特徴: 「クリエイティブ制作と軽量動作の親和性」。画像生成AIの開発で培われたデータ選定技術をベースに、レスポンスの速さと実用的な指示追従を低リソースで両立させます。

    StableLM 2 シリーズ (2024年)

    • StableLM 2 1.6B (Dense)

      • StableLM 2 1.6B-Base / StableLM 2 1.6B-Instruct

        • (極めて高速に動作し、チャットUIのリアルタイム描画に追従)

    • StableLM 2 12B (Dense)

      • StableLM 2 12B-Base / StableLM 2 12B-Instruct

        • (12Bパラメータの十分な知識量を持ち、ビジネス会話に対応)

    StableLM 初代 & 特化シリーズ (2023年)

    • StableLM-3B (Dense)

      • StableLM-3B-4e1t

        • 4兆トークンを学習させた基礎能力実証モデル。

      • StableLM-Zephyr-3B

        • DPO(直接好みの最適化)チューニングにより、3Bながら極めて人間に自然な会話表現と指示追従を実現した傑作。

    • StableLM-7B (Dense)

      • StableLM-7B-Base

      • StableLM-7B-Tuned


    #### ■ BigCode StarCoder シリーズ (Hugging Face / ServiceNow)

    > ファミリー全体の特徴: 「プログラムコードの完全記憶」。世界中のGitHubリポジトリから学習した、コード補完(Fill-in-the-Middle)と多言語のコーディングに完全特化したプロ仕様のモデルです。

    StarCoder2 シリーズ (2024年)

    • StarCoder2-3B (Dense)

      • StarCoder2-3B-Base

        • (エディタ内の数行補完システムを瞬時に処理する標準コア)

    • StarCoder2-7B (Dense)

      • StarCoder2-7B-Base / StarCoder2-7B-Instruct

        • (開発者の意図を対話で汲み取り、PythonやRust等のコードを自律生成)

    • StarCoder2-15B (Dense)

      • StarCoder2-15B-Base

        • (長文コードベースの静的解析やリファクタリングの自動化基盤)

    StarCoder 1 シリーズ (2023年)

    • StarCoder-15B (Dense)

      • StarCoderBase-15B / StarCoder-15B / StarCoderPlus-15B

        • (初期コード生成オープンソース市場を牽引した定番機)


    #### ■ コミュニティ主要カスタムモデル・名機

    Vicuna シリーズ (LMSYS)

      > Llama 1/2ベースで、世界で初めて「GPT-4の9割の性能」を標榜し、チャットボットUIブームを巻き起こした伝説的名機。

    • Vicuna-7B / Vicuna-13B / Vicuna-33B

      • v1.1 / v1.3 / v1.5

        • (歴史的な対話能力検証、またはレトロゲーム調のAIキャラクター構築などに今なお利用可能)

    WizardLM シリーズ (WizardLM)

    > 命令データをAI自身に進化させる「Evol-Instruct」技術を初めて確立し、対話性能を飛躍的に高めたカスタムシリーズ。

    • WizardLM 1.0 / 1.2 (Dense)

      • WizardLM-13B-v1.0 / v1.2

      • WizardLM-70B-v1.0

    • WizardCoder (Dense、コーディング特化) (コード品質に革新をもたらした)

      • WizardCoder-15B-v1.0

      • WizardCoder-33B-v1.1

     WizardLM-2 シリーズ (2024年)

    • WizardLM-2-7B

      • Mistral 7Bベース。当時の7B最高峰の対話性能を誇る。

    • WizardLM-2-8x22B

      • Mixtral 8x22BベースのMoE。極めて高度な論理判断、プログラミング、多言語対話能力を保持。

    Upstage SOLAR シリーズ (Upstage)

    > 異なるファインチューニングモデルの重みを巧みにマージしてパラメータを拡張する技術の先駆け。

    • SOLAR-10.7B (Dense) (13Bモデルより軽快に動き、高い指示追従を示すため、小規模サーバーの対話エンジンとして根強い人気)

      • SOLAR-10.7B-Base

      • SOLAR-10.7B-Instruct

      • SOLAR-Ko-10.7B


    #### ■ 超軽量エッジ・モバイル主要モデル

    TinyLlama シリーズ (Hugging Face)

    > 1.1Bという極小パラメータでありながら、3兆トークンに及ぶ事前学習を最後まで完走した、ローカルエッジAIの基本モデル。

    • TinyLlama-1.1B (Dense) (メモリ消費が極めて少なく、簡易チャットシステムや、ラズパイ上のスマートガジェット動作に最適)

      • TinyLlama-1.1B-Base

      • TinyLlama-1.1B-Chat

    Smollm シリーズ (Hugging Face / HuggingFaceTB)

    > モバイル動作を徹底研究し、最高品質の教育用データセットを用いて学習されたエッジモデルの決定版。

    • Smollm2 シリーズ (2024年)

      • Smollm2-135M` (Dense、Base/Instruct)

        • メモリ消費が実質ほぼゼロ。Webブラウザ上のJavaScript動作に最適。

      • Smollm2-360M` (Dense、Base/Instruct)

        • CPUの極低負荷で、文章のスタイル変換やキーワード判定を実施。

      • Smollm2-1.7B` (Dense、Base/Instruct)

        • 一般スマホ上でクラウドを使わずに、実用的な文章要約・チャットを展開。

    • Smollm 1 シリーズ (2024年)

      • Smollm-135M (Base/Instruct)

      • Smollm-360M (Base/Instruct)

      • Smollm-1.7B (Base/Instruct)


    #### ■ 学術・オープンサイエンスモデル

    OLMo シリーズ (Allen Institute for AI - AI2)

    > データ収集元、トレーニングスクリプト、ウェイトを100%完全公開し、学術界のAI研究を支援する真のオープンサイエンスモデル。

    • OLMo 2 シリーズ (2024-2026年最新) (学術的な検証、言語のバイアスの研究起点として必須)

      • OLMo-2-7B-Base / Instruct

      • OLMo-2-13B-Base / Instruct

    • OLMo 1.0 (2024年)

      • OLMo-1B-Base

      • OLMo-7B-Base

    Pythia シリーズ (EleutherAI)

    > トレーニングの途中のチェックポイントをすべて詳細に公開し、LLMが「学習するプロセス」そのものを科学的に解明するためのオープン学術シリーズ。

    • Pythia シリーズ (2023年、すべてDense)

      • Pythia-70M / 160M / 410M / 1B / 1.4B / 2.8B / 6.9B / 12B

        • (基礎的な自然言語処理、言語確率モデルの研究、または軽量なAIキャラクターエンジンとして活用)


    4. 国産(日本語特化)モデル ── 日本のローカルAI最前線

    #### ■ ELYZA シリーズ (イライザ)

    > ファミリー全体の特徴:
    「国内最高峰の日本語表現力」。LlamaやQwenをベースに、ELYZAが独自に構築した大規模な日本語継続事前学習データと丁寧な指示データを用いて調律。ビジネスシーンでの正しい敬語、日本の文化・法律に則った正確な回答では他の追随を許しません。

    ELYZA-Shortcut-1.0 シリーズ (2025-2026年最新)

    > 最新の日本語モデル。実務での指示追従がより強固に。

    • ELYZA-Shortcut-1.0-Qwen-32B (Dense、Qwen 2.5-32Bベース)

      • ELYZA-Shortcut-1.0-Qwen-32B-Instruct

        • 日本語の指示追従、複雑な要約、論理的な長文作成において、手元のPC環境で最高精度の日本語出力を発揮。

    • ELYZA-Shortcut-1.0-Qwen-7B (Dense、Qwen 2.5-7Bベース)

      • ELYZA-Shortcut-1.0-Qwen-7B-Instruct

        • 16GB程度のVRAM環境で極めて高速に動作し、一般的なRAG検索やメール作成をそつなくこなす標準主力機。

    • ELYZA-Thinking-1.0-Qwen-32B (Dense、Qwen 2.5-32Bベース)

      • ELYZA-Thinking-1.0-Qwen-32B-Instruct

        • 思考チェーンを可視化するモデル。法的な契約書分析や、ビジネスプランの論理的な壁打ちなど、「深く考える」日本語業務に特化。

    ELYZA-japanese-Llama-3 シリーズ (2024年)

    > Llama 3をベースに、日本語能力を強力にアドオンし、国産モデル市場を決定づけた世代。

    • ELYZA-japanese-Llama-3-70B (Dense)

      • ELYZA-japanese-Llama-3-70B-Base

        • 日本語の文法と語彙を深く理解させた事前学習モデル。

      • ELYZA-japanese-Llama-3-70B-Instruct

        • 対話モデル。クラウドAIの代替として社内のセキュアなオンプレミスサーバーで稼働させる最高レベルの日本語知性。

    • ELYZA-japanese-Llama-3-8B (Dense) VRAM 8GBのゲーミングPC等で即座に動作し、非常に流暢で自然な日本語でチャットを実行。

      • ELYZA-japanese-Llama-3-8B-Base

      • ELYZA-japanese-Llama-3-8B-Instruct

    ELYZA-japanese-Llama-2 シリーズ (2023年)

    > 国内でのローカルLLM活用の道を切り開いた、記念碑的な国産化Llama 2モデル。

    • ELYZA-japanese-Llama-2-7B

      • Base / Instruct

    • ELYZA-japanese-Llama-2-13B

      • Base / Instruct


    #### ■ Swallow シリーズ (東京科学大学・産総研)

    > ファミリー全体の特徴:
    「日本の学術界を代表するLlama継続事前学習モデル」。大規模言語モデルの構築技術の研究から生まれ、豊富な言語トークンの継続事前学習により、日本語の記述や翻訳において高い安定性を持っています。

    Swallow RL シリーズ (2025-2026年最新)

    • Qwen3 Swallow RL v0.2 (Dense、Qwen 3ベース)

      • Qwen3 Swallow RL v0.2-Instruct

        • 強化学習(RLHF/DPO)を適用。日本語での推論能力と、指示に対する従順さが最適化された学術的結晶。

    • GPT-OSS Swallow RL v0.1 (Dense、完全オープンソースベース)

      • GPT-OSS Swallow RL v0.1-Instruct

    Swallow-v0.5 / v0.4 シリーズ (2024-2025年)

    • Llama-3.1-Swallow-8B-v0.5 (Dense)

      • Base / Instruct

        • (Llama 3.1をベースに日本語継続学習を実施。RAG連携時の安定性が向上)

    Swallow-v0.1 / v0.2 シリーズ (2024年)

    • Llama-3-Swallow-8B (Dense)

      • Base / Instruct

    Swallow 初代 (2023年)

    > Swallowプロジェクトの原点。Llama 2に大量の日本語Webコンテンツを継続学習させた。

    • Llama-2-Swallow-7B / 13B / 70B 

      • (Base / Instruct)


    #### ■ LLM-jp シリーズ (国立情報学研究所・NII等)

    >ファミリー全体の特徴:
    「オール・ジャパンの学術研究基盤LLM」。日本の主要大学や研究所がコンソーシアムを組み、学習データセットの収集からクリーニング、事前学習の実行まですべてを完全国産でゼロから実行した、日本のAI研究の主権を守るための基盤モデルです。

    LLM-jp-4 シリーズ (2026年最新)

    > 約12兆トークンに及ぶ最新の高品質データを完全に一から学習した最新世代。

    • LLM-jp-4-8B (Dense)

      • LLM-jp-4-8B-Base / LLM-jp-4-8B-Instruct

        • 完全にオープンなデータのみで学習されているため安全性が高く、研究機関や公的機関でのローカル開発に推奨。

    • LLM-jp-4-32B-A3B (MoE、総32B、Active: 3B)

      • LLM-jp-4-32B-A3B-Base / LLM-jp-4-32B-A3B-Instruct

        • 国産ゼロスクラッチ初のMoEモデル。ローカルPCで軽快に動作しながら、複雑な論理思考タスクに対応。

    LLM-jp-3 シリーズ (2024年)

    > 学習データの質を劇的に高め、小型から大型モデルまでをゼロから事前学習した世代。

    • LLM-jp-3-1.8B (Dense)

      • Base / Instruct (ラズパイや古いPCのCPUでも動作可能な、学習・実験用極小サイズ)

    • LLM-jp-3-13B (Dense)

      • Base / Instruct (学術文書の分析や、研究用RAGのベースに好適)

    • LLM-jp-3-172B (Dense、巨大モデル)

      • Base / Instruct (スーパーコンピュータで学習された、日本の最高峰の学術的頭脳)

    LLM-jp-2 & 1 (2023-2024年)

    • LLM-jp-13B-v1.0

      • Base / Instruct

    • LLM-jp-13B-v2 

      • Base / Instruct


    #### ■ PLaMo シリーズ (Preferred Networks)

    > ファミリー全体の特徴:
    「言語とコードの協調学習」。PFNが独自開発したアーキテクチャを採用し、日本語・英語・プログラミングコードが最も美しいバランスでマージされるようゼロから設計された国産屈指の知性派です。

    PLaMo 3.0 シリーズ (2026年最新)

    • PLaMo 3.0 Prime (Dense、100B規模)

      • PLaMo 3.0 Prime-Base / PLaMo 3.0 Prime-Instruct

        • PFNのスーパーコンピュータで学習。ローカルで高度な物理シミュレーション、化学式の理解、高度なデータサイエンスのプログラム記述を自律実行。

    PLaMo 初代 (2023年)

    • PLaMo-13B (Dense)

      • PLaMo-13B-Base / PLaMo-13B-Instruct

        • (プログラミングと日本語対話を両立させた初期国産モデル)


    #### ■ Rakuten AI シリーズ (楽天)

    > ファミリー全体の特徴:
    「ビジネス・ECの即戦力」。楽天が持つ豊富なeコマース、金融、オンラインサービスのコンテキストをバックボーンに、顧客対応やビジネス文書の作成に強い実務特化モデルです。

    Rakuten AI 3.0 シリーズ (2026年最新)

    • Rakuten AI 3.0 (MoE、総700B、Active: 約50B)

      • Rakuten AI 3.0-Base / Rakuten AI 3.0-Instruct

        • Apache 2.0ライセンスで商用利用可能。ECサイトの多言語カスタマーサポートボットをローカルサーバー上に容易に構築可能。

    Rakuten AI 初代 (2024年)

    • Rakuten AI-7B (Dense):

      • Rakuten AI-7B-Base / Rakuten AI-7B-Instruct

        • (Llama 2をベースに、EC対応の語彙を追加学習させたモデル)


    #### ■ CyberAgentLM シリーズ (サイバーエージェント)

    > ファミリー全体の特徴:
    「クリエイティブ・文章作成のプロフェッショナル」。広告クリエイティブ、ブログ執筆、SNSテキストの作成に強みを持ち、読者の心を掴む日本語表現のチューニングが特徴です。

    CyberAgentLM3 シリーズ (2026年最新)

    • CyberAgentLM3-22B-Chat (Dense、22B)

      • CyberAgentLM3-22B-Chat

        • ローカル環境のGPUでスムーズに動作し、魅力的なキャッチコピーの自動生成や長文記事の編集を強力にアシスト。

    CyberAgentLM2 シリーズ (2024年)

    • CyberAgentLM2-7B (Dense)

      • CyberAgentLM2-7B-Base

      • CyberAgentLM2-7B-Chat

    CyberAgentLM 初代 (2023年)

    • CyberAgentLM-7B (Dense)

      • CyberAgentLM-7B-Base

      • CyberAgentLM-7B-Chat`


    #### ■ Lightblue シリーズ (Lightblue)

    > ファミリー全体の特徴:
    「感情と表現力の豊かな日本語対話」。AIモデルの会話における親しみやすさや、きめ細やかなキャラクター再現に特化したファインチューニングが特徴です。

    ao-Karasu-72B (2024年)

    • ao-Karasu-72B (Dense、Qwenベース)

      • ao-Karasu-72B-Base / ao-Karasu-72B-Chat

        • ローカルで動作する高度なロールプレイAIキャラクターや、感情を汲み取る日本語カスタマーサポートに最適。

    Karasu-7B / Uguisu-7B (2023年)

    • Karasu-7B (Dense)

      • Karasu-7B-Chat (日本語会話特化)

    • Uguisu-7B (Dense)

      • Uguisu-7B-Chat (日本語会話特化)


    #### ■ Stockmark シリーズ (ストックマーク)

    > ファミリー全体の特徴:
    「金融・経済・ビジネスドメインの絶対的専門家」。日経などの経済ニュース、企業の決算書、有価証券報告書等のビジネス特有の用語や文脈を完璧に理解する、ビジネスドキュメント解析のスペシャリストです。

    Stockmark-2 シリーズ (2025-2026年最新)

    • Stockmark-2-100B-Instruct-beta (Dense、1000億パラメータ)

      • Stockmark-2-100B-Instruct-beta

        • ローカルサーバー上で決算分析、市場予測レポートの自動ドラフト作成、ビジネスエージェントの推論エンジンとして稼働。

    • Stockmark-DocReasoner-Qwen2.5-VL-32B (Dense、32B、Qwen 2.5-VLベース)

      • Stockmark-DocReasoner-Qwen2.5-VL-32B-Instruct

        • ビジネス資料(グラフ、表、財務諸表)のドキュメント画像をローカル環境で直接OCR&高度解析。

    Stockmark-13B / 10B シリーズ (2023-2024年)

    • Stockmark-13B (Dense)

      • Stockmark-13B-Base

        • (経済・ビジネス文書に完璧にチューニングされたビジネスモデル)

    • Stockmark-10B-Instruct (Dense)

      • Stockmark-10B-Instruct

        • (ビジネスにおける的確なRAG検索回答に強み)


    #### ■ LINE-LLM シリーズ (LINEヤフー)

    > ファミリー全体の特徴:

    「スマートな対話とLINEフレンドリーな会話スタイル」。LINEの会話ログ分析やカスタマーサポートの知見を活かした、親しみやすく簡潔な対話チューニングが特徴です。

    LINE-LLM-v2 (2024年)

    • LINE-LLM-7B-Chat (Dense)

      • LINE-LLM-7B-Chat (親しみやすい応答と短い文章での的確な対話)

    • LINE-LLM-13B (Dense)

      • LINE-LLM-13B-Base (事前学習モデル)

    LINE-LLM 初代 (2023年)

    • LINE-LLM-1.7B / 3.6B (それぞれ `Chat` バリエーション、軽量対話システム向け)


    5. その他の国・地域発の地域特化オープンモデル

    #### ■ UAE:Falcon シリーズ (TII)

    > ファミリー全体の特徴:
    中東UAE(アブダビ)のテクノロジーイノベーション研究所(TII)が開発した最高水準のオープンモデル。膨大な事前学習による一般知識の広さと、商用利用しやすいオープン性が特徴です。

    Falcon 3 シリーズ (2026年最新)

    • Falcon 3-1B / 3B / 7B / 10B

      •  (すべてDense、それぞれ `Base` / `Instruct` バリエーションが存在し、小規模ながら非常に高い一般推論スコアをマーク)

    • Falcon H1 (Attention-Mambaハイブリッド、7B)

      • Falcon H1-Instruct (メモリ効率に優れた最新アーキテクチャ)

    • Falcon Perception (Dense、600M、極小マルチモーダル)

      • Falcon Perception-Instruct (エッジカメラに直接搭載可能)

    Falcon 180B / 40B シリーズ (2023年)

    • Falcon-180B

      • Base / Instruct (当時最大の1800億パラメータを誇り、圧倒的なベンチマークを記録)

    • Falcon-40B

      • Base / Instruct

    Falcon 7B (初代) (2023年)

    • Falcon-7B-Base / Falcon-7B-Instruct

      • (黎明期を支えた7B)


    #### ■ シンガポール:SEA-LION シリーズ (AI Singapore)

    > ファミリー全体の特徴:
    「東南アジア言語のインフラ」。タイ語、ベトナム語、インドネシア語、マレー語、タガログ語といったASEAN各国の言語データと文化的な慣習を反映した、地域に欠かせないソブリンAIです。

    SEA-LION v4.5 / v3 シリーズ (2024-2026年最新)

    • SEA-LION v4.5-27B (Dense、Gemma 3ベース)

      • SEA-LION v4.5-27B-Instruct

        • (Gemma 3の強力なロジックをベースに、東南アジア諸言語の高度な翻訳と対話を統合)

    • SEA-LION v3-7B

      • SEA-LION v3-7B-Instruct

    SEA-LION v2.1 / v1初代 (2023-2024年)

    • SEA-LION-3B / 7B (それぞれ `Base` / `Instruct` バリエーション、ASEAN向け初期インフラモデル)


    #### ■ 台湾:Breeze シリーズ (MediaTek Research)

    > ファミリー全体の特徴:
    「繁体字中国語のスペシャリスト」。MediaTekが開発を主導し、Llamaをベースに台湾のビジネスシーンや日常会話で使われる繁体字の表現を完璧に網羅しています。

    Breeze-8B / 7B (2023-2026年最新)

    • Breeze-8B (Dense、Llama 3ベース)

      • Breeze-8B-Base / Breeze-8B-Instruct

        • (台湾での実務・公的RAGシステムの定番エンジン)

    • Breeze-7B (Dense、Llama 2ベース)

      • Breeze-7B-Base / Breeze-7B-Instruct


    #### ■ ベトナム:PhoGPT シリーズ (VinAI)

    > ファミリー全体の特徴:
    「ベトナム語における絶対的な正確さ」。ベトナム語独自のアクセントや細かな文法、社会・歴史的な背景に基づいた自然な対話に特化した専用モデルです。

    PhoGPT-4B (2023-2026年最新)

    • PhoGPT-4B (Dense、4B)

      • PhoGPT-4B-Base / PhoGPT-4B-Chat

        • (軽量でローカルPC上でも高速にベトナム語文章の作成・対話が可能)


    #### ■ 北欧:Viking / GPT-SW3 シリーズ (AI Sweden等)

    > ファミリー全体の特徴: スウェーデン語、フィンランド語、ノルウェー語、デンマーク語、アイスランド語といった北欧諸言語の文化・法律に調和したソブリンAIシリーズです。

    Viking シリーズ (2024-2026年最新)

    • Viking-7B / Viking-13B 

      • (それぞれ `Base` / `Instruct` バリエーション。多言語での北欧自治体の書類整理や市民対応に特化)

    GPT-SW3 シリーズ (2023年)

    • GPT-SW3-20B / 40B / 126B 

      • (それぞれ `Base` / `Instruct` バリエーション。北欧最大の126Bモデルを含み、高度な多言語表現力を持つ)


    #### ■ インド:Hanooman / Krutrim / SUTRA シリーズ (Ola等)

    > ファミリー全体の特徴: ヒンディー語、タミル語、テルグ語などインド公用語22言語および何百もの方言に対応し、インドの多様な社会にAIを普及させるためのマルチリンガルモデル群です。

    Hanooman (Everest 1.0) / Krutrim / SUTRA (2024-2026年最新)

    • Hanooman-7B-Instruct / 13B-Instruct 

      • (インドの医療・教育・公共サービスアシスタントとして手元のPCで動作可能)

    • Krutrim-7B

      • Base` / `Instruct

        • (Ola社が主導し、インドのサービス決済や日常会話に最適化)

    • SUTRA-R0-Preview-Instruct 

      • (3.8B、デュアルトランスフォーマー。超省メモリで多数の言語間の翻訳と要約を両立)


    #### ■ 韓国:HyperCLOVA X / EEVE / Polyglot-Ko (Naver Cloud等)

    > ファミリー全体の特徴: 「ハングルの最高知性」。韓国のNaverグループ等が開発し、ハングルの表記の美しさ、韓国の法制度、ビジネス習慣に調和した、圧倒的なハングル特化モデル群です。

    HyperCLOVA X SEED (2025-2026年最新)

    • HyperCLOVA X SEED-0.5B / 1.5B / 3B 

      • (すべてDense、それぞれ `Instruct` モデルが存在し、ハングルでの超高速チャットや、軽量アプリへの組み込みに特化)

    EEVE ROSETTA (2024年)

    • EEVE ROSETTA-4B (Dense)

      • EEVE ROSETTA-4B-Instruct

        • (ハングル・英語の高度なクロス翻訳、バイリンガル対話に強み)

    Polyglot-Ko (2023年)

    • Polyglot-Ko-1.3B / 5.8B / 12.8B 

      • (すべてDense、それぞれ `Base` モデル。ハングル記述能力に特化した初期の主力基盤)


    第2章:サイズと量子化の最適化モデル(VRAM消費計算式)

    画像

    ローカル環境でLLMを実行する際、処理の快適さを決定づける絶対的なボトルネックが VRAM(GPUメモリ) です。LLMの演算は、モデルの全パラメータ(重みデータ)と、対話中に発生する文脈データ(KVキャッシュ)をすべてGPU内の高速なメモリ領域に展開しなければなりません。これがVRAM容量を超えてしまうと、速度が著しく遅いシステムメインメモリ(RAM)への転送が発生し、推論速度が10分の1以下に低下してしまいます。

    1. モデルサイズ別の特徴と要求スペック

    モデルのパラメータサイズによって、動作に必要なVRAM容量と表現力のバランスが異なります。

    • 超軽量(0.5B〜3B): スマートフォンや画面一体型PC(Raspberry Pi等)でもサクサク動作します。スマートデバイスへの組み込みや簡易的なテキスト分類に適しています。

    • * 標準(7B〜12B): VRAM 8GB〜12GBの一般的なコンシューマーPCで快適に動作する、現在のローカルLLMの「基本サイズ」です。日常的なアシスタントタスクやシンプルなプログラミング支援に適しています。

    • * ミドル(14B〜35B): VRAM 12GB〜24GBで動作します。表現力や推論力が一段と高まり、クラウドAIにかなり肉薄する実用性を備えています。

    • * ハイエンド(70B〜109B+): VRAM 24GB以上(またはMac Studioのユニファイドメモリ環境や複数GPU構成)を要求します。極めて複雑なコーディングや論理思考タスクに対応するプロフェッショナル向けサイズです。

    2. VRAM必要容量の簡易計算式

    実行したいモデルが手元のGPUに収まるかどうかを判定するためには、以下の簡易計算式を用いて必要なVRAM容量を見積もることができます。

    $$ V_{VRAM} \approx \frac{P \times Q_{bits}}{8} + V_{KV} $$

    $$ V_{required} \approx 1.2 \times V_{VRAM} $$

    ここで、
    * VVRAMV_{VRAM}:モデル実行に必要な基礎VRAM容量 [GB]
    * PP:モデルの総パラメータ数 [B(十億単位)](例:8Bモデルの場合は 8)
    * QbitsQ_{bits}:量子化ビット数 [bit](例:4-bit量子化の場合は 4)
    * VKVV_{KV}:コンテキストサイズ拡張に応じたKVキャッシュ用オーバーヘッド [GB](通常は数GB程度、長文脈の時は大きくなります)
    * VrequiredV_{required}:実システム上の推奨VRAM容量 [GB](OSやディスプレイ表示による消費分、安全マージンとして約1.2倍を乗じて算出します)

    たとえば、8B(80億パラメータ)モデルを4-bit量子化で動かす場合、基礎容量は (8×4)/8=4 GB(8 \times 4) / 8 = 4\,\text{GB} となります。

    なお、KVキャッシュ用メモリ(VKVV_{KV})はコンテキスト長(入力・出力トークン数)に比例して増加します。8kトークン程度であれば約1〜2GBの追加で済みますが、32kや128kといった超長文文脈を利用する場合は、VRAM消費量がさらに数GB〜数十GB単位で膨らむため、最新のFlashAttentionやKVキャッシュ量子化などの技術の併用が前提となります。

    また、Mixture-of-Experts(MoE)モデルを採用する場合は注意が必要です。推論時にアクティブになるパラメータサイズ(例:Qwen 3.6-35B-A3B の場合は約3B)が小さくても、モデル全体のパラメータ(35B分)のウェイトデータをVRAM上にすべてロードしておく必要があります。そのため、必要となるVRAM容量はアクティブサイズではなく、必ず総パラメータサイズ(35B)をベースに計算してください。

    これらを加味し、実運用時には基礎容量にKVキャッシュ分と安全マージンを加えた VrequiredV_{required}(基礎容量の約1.2倍〜1.5倍程度)のVRAMがあれば十分に動作可能と判断できます。

    3. 量子化フォーマットの特徴

    モデルの精度を極力維持したままファイルサイズを削減する「量子化」には、いくつかのメジャーなフォーマットがあります。

    • GGUF (GPT-Generated Unified Format)

      •   ローカル環境のデファクトスタンダードです。最大の特徴は「レイヤーのオフロード」に対応している点です。VRAM容量が足りない場合でも、一部のレイヤーをGPUで、残りをCPUで分担して処理することが可能なため、メモリ不足によるクラッシュを防ぎつつモデルを動かすことができます。

    • * EXL2 (ExLlamaV2)

      •   GPU専用に極限まで最適化されたフォーマットです。推論速度が非常に高速ですが、GGUFのようなCPUオフロードには非対応であるため、モデル全体が完全にVRAMに収まる必要があります。

    • * AWQ (Activation-aware Weight Quantization) / GPTQ

      •   推論の精度ロスが非常に少ない量子化手法です。主にLinuxサーバーやvLLMなどのプロダクション環境で多く利用されています。


    第3章:追加学習(Fine-tuning)とマージモデルの世界

    画像

    ローカルLLMの真骨頂は、配布されているモデルをただ動かすだけでなく、自分の手でパーソナライズしたり、コミュニティが作成したカスタマイズモデルを活用できる点にあります。

    1. 追加学習(Fine-tuned)モデルのバリエーション

    ベースモデルに対して、特定のデータセットを追加で学習させることで、能力を特定の方向に尖らせたモデルが作成されています。

    • Instructモデル(対話特化): 指示への従順さやチャットの受け答えを強化した、一般的な会話用のモデルです(Qwen-Instructなど)。

    • * Coderモデル(プログラミング特化): コード生成やデバッグ能力を磨き上げた、開発支援用のモデルです(Qwen-Coder、DeepSeek-Coderなど)。

    • * Mathモデル(数学・論理特化): 複雑なロジックや計算問題を解くことに特化したモデルです。

    • * ロールプレイ・小説執筆特化: コミュニティで微調整された、感情豊かな会話やキャラクターの再現、創作活動に最適化されたモデルです。

    2. QLoRAによるローカル学習の民主化

    従来、LLMのファインチューニングには数千万〜数億円規模のスーパーコンピュータ環境が必要でした。しかし、QLoRA(Quantized Low-Rank Adaptation) の登場により、その常識は覆されました。

    QLoRAは、ベースモデルを4-bit(NF4形式など)に量子化して重みを固定したまま、ごく小さな「アダプター層(LoRA)」のみを学習させる技術です。精度低下を極限まで抑えた最新のNF4形式などの登場により、個人向けのRTX 3090やRTX 4090(VRAM 24GB)といったシングルGPU環境であっても、数十億パラメータ規模のモデルを自宅でファインチューニングすることが可能となりました。

    最新の研究では、QLoRAの学習においてMLP(Multi-Layer Perceptron)モジュールを対象に含め、アダプターのランク(rr)を r=32r=32 〜 6464 程度に高めに設定することで、論理思考能力(Reasoning)やコーディング能力を効率よく注入できることが分かっています。

    ローカル環境でのファイントューニングを実践するためのライブラリとしては、高速かつ省メモリな学習を実現する Unsloth や、柔軟な設定が可能な Axolotl、Hugging Face公式の TRL (Transformer Reinforcement Learning) などが広く使われています。

    3. モデルマージ(Model Merging)の最新動向

    モデルマージは、追加の学習コスト(電気代や時間)を一切かけずに、複数のモデルのウェイトを数学的に結合し、それぞれの「いいとこ取り」をする技術です。

    • SLERP (Spherical Linear Interpolation)

      •   2つのモデルのウェイトを球面線形補間によって滑らかにブレンドします。会話のスタイルと知識の融合において基本となる手法です。

    • * TIES-Merging

      •   複数のモデル間でパラメーターの符号の衝突や冗長な微小変化を整理し、ノイズを排除してマージします。多数の特化モデルを混ぜ合わせる際に強力な手法です。

    • * DARE (Drop And Rescale)

      •   パラメーターの大部分をランダムにゼロにドロップアウトさせ、残ったウェイトをスケールアップして結合します。元のモデルの基本性能を損なわずに新しいスキルを追加できます。

    • * Frankenmerging

      •   異なるモデルのレイヤーを縦方向に継ぎ接ぎし、パラメータサイズを擬似的に拡張する手法です(例:8Bモデルのレイヤーを重ねて11Bモデルを作るなど)。

    • * DiDi-Merging / Auto-FlexSwitch(2025〜2026年最新)

      •   あらかじめ重みを固定して合成する静的マージとは異なり、入力されるタスクの特性に応じて、モデル内部の最適な「専門サブスペース(Task-specific Subspace)」やアダプターへ動的に信号をルーティングする技術です。これにより、モデル同士の能力の干渉(衝突)による性能低下を防ぐことができるようになっています。

    これらのモデルマージの計算や実行には、コミュニティのデファクトスタンダードツールである mergekit がほぼ一択で利用されています。


    第4章:【スペック別】ローカルLLM最適な選択マトリクス

    ご自身のPC環境でどのモデルが最も快適に動作するのか、VRAMスペックを起点とした選択マトリクスを以下に示します。

    VRAM容量推奨モデル例パラメータサイズ推奨量子化ビット数8GB 以下Gemma 4 E4B, Phi-4-Mini, Falcon 3-3B3B∼4BQ4_K_M (4-bit)16GBGemma 4 12B, ELYZA-Shortcut-7B7B∼12BQ4_K_M / Q5_K_M24GBQwen 3.6-35B-A3B (MoE), ELYZA-Shortcut-32B32B∼35BQ4_K_M / Q8_024GB 超 (複数/Mac)Llama 4 Scout (109B), Mistral Large 370B∼109B+Q4_K_M (MoE) / Q5_K_M\begin{array}{|c|l|c|c|} \hline \text{\textbf{VRAM容量}} & \text{\textbf{推奨モデル例}} & \text{\textbf{パラメータサイズ}} & \text{\textbf{推奨量子化ビット数}} \\ \hline \text{8GB 以下} & \text{Gemma 4 E4B, Phi-4-Mini, Falcon 3-3B} & \text{3B} \sim \text{4B} & \text{Q4\_K\_M (4-bit)} \\ \hline \text{16GB} & \text{Gemma 4 12B, ELYZA-Shortcut-7B} & \text{7B} \sim \text{12B} & \text{Q4\_K\_M / Q5\_K\_M} \\ \hline \text{24GB} & \text{Qwen 3.6-35B-A3B (MoE), ELYZA-Shortcut-32B} & \text{32B} \sim \text{35B} & \text{Q4\_K\_M / Q8\_0} \\ \hline \text{24GB 超 (複数/Mac)} & \text{Llama 4 Scout (109B), Mistral Large 3} & \text{70B} \sim \text{109B+} & \text{Q4\_K\_M (MoE) / Q5\_K\_M} \\ \hline \end{array}

    ※VRAMが不足している場合でも、GGUFフォーマットを選択すればCPUに一部処理を逃がすことで動作は可能ですが、快適なチャットやコード生成を行うには、上記のテーブルを基準に完全にVRAM内にモデルが収まる構成を選択することを強く推奨いたします。


    第5章:ローカルLLMを今すぐ動かすための推奨ツール

    手元のPCでモデルを動かすためのセットアップは、現在では専用ツールの発展により数分で完了するほど簡単になっています。

    • Ollama (オラマ)

      •   コマンドライン主体で動作する非常にシンプルなツールです。バックグラウンドで軽量なサーバーとして動作し、OpenAI互換のAPI(`/v1/chat/completions` 等)を自動的に提供します。PythonやTypeScriptなどのプログラムからローカルモデルを呼び出したり、各種エージェント開発フレームワークと連携させる場合の「標準インフラ」となっています。

    • * LM Studio (エルエム・スタジオ)

      •   直感的なグラフィカルUI(GUI)を備えた初心者・ギーク向けの最高峰ツールです。Hugging Face上のモデルをアプリ内から直接検索・ダウンロードでき、スライダーでGPUオフロード数やコンテキスト長を簡単に調整して対話を始めることができます。

    また、ローカルLLMをただチャット画面で動かすだけでなく、PythonからAPI経由で制御して自作のRAG(検索拡張生成)システムを構築したり、LangChainを用いた自律型AIエージェントの作成、さらにはローカル環境でのQLoRAファインチューニング手順までをハンズオン形式で体系的に学びたい開発者の方には、以下の書籍が非常におすすめです。実践的なコード例が豊富で、手元のGPUリソースをフルに活用するシステム設計に役立ちます。


    まとめ

    2026年現在のローカルLLMは、かつての「精度が低く、動かすのが難しい」というイメージを完全に払拭して、クラウドAIに匹敵する実用性と、圧倒的なプライバシー保護・カスタマイズ性を手に入れました。

    ご自身のハードウェアスペックに適したモデルを選定し、適切な量子化フォーマットを活用することで、手元のPCは即座に強力な知的相棒へと進化します。モデルマージやQLoRAによる微調整といった奥深いカスタマイズの世界へ、ぜひ一歩を踏み出してみてください。

    この記事が皆様のローカルLLMライフの一助となれば幸いです。もし参考になりましたら、ぜひ「スキ」や「フォロー」をお願いいたします!今後の励みになります。

     
     

    Takam

     
     
    本業は製造装置の機械設計者です。 LLMでコードが書けることを知り、日夜自分用のコードをせっせと作っています。

    あなたへのおすすめ