メインコンテンツへスキップ
見出し画像

【第5回 ローカルLLM】星の数ほどあるAIモデル。自社に最適なオープンモデルをどう選ぶ?(グローバル編)

    こんにちは、株式会社EQUES広報部です🐎

    本連載ではこれまで、ハードウェア要件(第2回)、推論エンジンの構築(第3回)、外部データを統合するRAGの内部構造(第4回)について解説してきました。これにより、ローカル環境で大規模言語モデル(LLM)をセキュアに稼働させるシステム基盤が完成しました。次はシステムの中核を担うソフトウェア、AIのモデルを選定します。

    Hugging Faceなどのプラットフォームには数万を超えるモデルが公開されています。「種類が多すぎて、結局自社のシステムには何をダウンロードすればいいのか分からない」という声は、多くの企業が抱える切実な課題です。

    そこで第5回では、内容をより実践的に拡充し、具体的にどのモデル(グローバルモデル)を選択すべきかという明確な結論と、その技術的な判断基準を解説します。

    本連載が収録されているマガジンはこちらから!

    1. 大前提:法務要件(ライセンス)の確認

    技術要件の前に、ビジネス利用では必ずライセンスの確認が必要です。現在主流なのは、計算用の重みパラメータのみが公開されている「オープンウェイト(Open-weights)」という形態です。

    💡オープンウェイト(Open-weights):
     
    AIモデルの学習に用いた元のデータや学習プログラムは非公開のまま、計算処理に必要な数値データ(重みパラメータ)のみが公開・配布されている提供形態のこと。

    例えば、GoogleやMetaなどの開発元は、モデルごとに独自の利用規約を定めています。

    • Llama 3 (Meta): 月間アクティブユーザー数が7億人を超えるサービスでの利用には別途ライセンスが必要。また、他モデルの学習データとしての出力結果の利用を制限。

    • Qwen 2.5 (Alibaba Cloud): 一定の条件を満たせば商用利用可能なApache 2.0ライセンス等を採用(パラメータサイズにより一部異なる場合あり)。

    自社システムへの組み込みや顧客向けSaaSとして展開する場合は、法務部門と連携し、対象モデルのライセンス条項が事業規模や用途に抵触しないかを最初にスクリーニングします。

    2. 必須知識:「Base」ではなく「Instruct」を選ぶ

    モデルを選定する際、同じ名前のモデルでも語尾に「Base」や「Instruct(またはChat)」とついているものがあります。

    • Baseモデル: 大量のテキストを学習し、「次の単語を予測する能力」だけを持った状態のモデル。質問を入力しても、続きの文章を勝手に生成してしまい、対話になりません。

    • Instructモデル: Baseモデルに対し、「人間の指示(プロンプト)に従って回答を生成する」ための追加学習(Instruction Tuning)を施したモデル。対話システムには必須です。

    画像

    RAGシステムやチャットボットを構築する場合は、必ず「Instruct」または「Chat」と明記されたモデルを選択しましょう。

    3. 結局何を選ぶべきか? ハードウェア別・推奨モデルのマトリクス

    カタログのスペックを比較し続けるよりも、稼働させる環境の「VRAM容量(GPU内の『記憶装置』の容量:詳細は第二回で)」を上限として、その範囲内で最も性能が高いモデルを選定するのが最も確実なアプローチです。

    現時点における、VRAM制約別の具体的な推奨モデル(量子化前提)は以下の通りです。

    画像

    シナリオA:一般的なPC・エッジデバイス(VRAM 8GB〜12GB)

    コンシューマー向けの標準的なGPU(RTX 3060や4060等)しか確保できない場合、または処理速度を最優先する場合の選択肢です。

    • 推奨モデル 1:Llama-3-8B-Instruct (Meta)

      • パラメータ数:80億

      • 選定理由: 80億パラメータ帯において、世界的に最も標準化されているモデルです。各種推論エンジン(vLLM等)の最適化が最も進んでおり、動作が極めて安定しています。短いテキストの分類や、基本的な情報抽出タスクに最適です。

    • 推奨モデル 2:Qwen2.5-7B-Instruct (Alibaba Cloud)

      • パラメータ数:70億

      • 選定理由: 同クラスの中で多言語対応力が高く、コーディング支援タスクにおいても高いベンチマークを記録しています。Llama 3で日本語の出力に違和感がある場合の代替として機能します。

    シナリオB:ハイエンド開発機・小規模サーバー(VRAM 24GB)

    RTX 4090などの24GB VRAMを搭載したGPUを1基、またはMac Studio(ユニファイドメモリ)を使用できる環境であり、企業がローカルRAGを構築する際の最もコストパフォーマンスが高い主力帯です。

    • 推奨モデル:Qwen2.5-32B-Instruct (Alibaba Cloud) または Command-R-35B (Cohere)

      • パラメータ数:320億

      • 選定理由: 8Bクラスと比較して、論理的な推論能力と長文のコンテキスト理解力が飛躍的に向上します。第4回で解説したRAGシステムにおいて、「複数の社内マニュアルを読み込み、矛盾なく正確な回答を生成する」という実務レベルのタスク要求をクリアできる境界線がこの30B(300億パラメータ)クラスです。INT4量子化を行えば24GBのVRAM内で十分に稼働し、高い精度と実用的な処理速度を両立します。

    シナリオC:データセンター・マルチGPU環境(VRAM 80GB以上)

    H100や、RTX 4090を複数台並列稼働させることができるエンタープライズ向けの環境です。

    • 推奨モデル:Llama-3-70B-Instruct (Meta)

      • パラメータ数:700億

      • 選定理由: クラウド型の最上位API(GPT-4等)に匹敵する高度な推論能力を提供します。複雑な条件分岐を伴う自律型AIエージェントの制御や、社内の大規模なデータ分析業務など、妥協のない出力精度が求められるタスクにおける事実上の最高峰です。

    4. コンテキストウィンドウの確認による最終スクリーニング

    ハードウェア制約からモデルの規模を絞り込んだ後、最後に「コンテキストウィンドウ(一度に処理できる最大トークン数)」の仕様を確認します。

    💡コンテキストウィンドウ(Context Window): AIモデルが一度の処理で保持・参照できる入力データの最大トークン数。

    RAG環境では、検索して抽出した社内ドキュメントのテキストをプロンプトとしてモデルに入力します。もし投入予定のドキュメント総量がモデルのコンテキストウィンドウの上限を超過した場合、システムはエラーを返すか、情報を切り捨てて処理を行います。

    現在主流のモデル(Llama 3やQwen 2.5等)は32K〜128Kトークンという長大なコンテキストに対応しているため、一般的なRAGの要件は満たしますが、古いアーキテクチャのモデルを選定する際は仕様書での確認が必須です。

    EQUESの視点:タスクドリブンな検証プロセスの確立

    株式会社EQUESでは、まず「シナリオB(32Bクラス)」のモデルを基準としてRAGのPoC(概念実証)を開始することを推奨しています。

    32Bクラスでタスクの精度要件を満たせるかを確認し、オーバースペックであれば8Bクラスへダウンスケールして処理速度とインフラコストを最適化します。逆に、32Bでも論理破綻が起きてしまうような複雑な業務フローであれば、70Bクラスへのスケールアップや、上位のクラウドAPIとのハイブリッド構成を検討します。

    画像

    このような「タスクドリブン」な検証プロセスこそが、確実なローカルLLM運用への最短ルートになるでしょう。

    次回予告

    インフラ、アーキテクチャ、そしてシステムに最適なAIモデルの選定が完了しました。しかし、同じモデル(例えばLlama-3-8B-Instruct)を使用しても、システム側からモデルへどのような指示を出し、どのような設定値を適用するかによって、出力される回答の質は劇的に変化します。

    次回第6回は、「推論エンジンのAPIを制御する:プロンプトエンジニアリングと生成パラメータ(Temperature / Top-P)の最適化」について解説します。vLLMやOllamaを通じて、AIの出力のランダム性や正確性をいかにシステム的にコントロールするかを技術的な視点から掘り下げます。次回もご期待ください。

    EQUES公式HPはこちらから!

    前回の投稿はこちらから!

     
     
    東大松尾研発のAIスタートアップ、株式会社EQUES(エクエス)です!🚀 最先端のAI技術で社会課題を解決するため、日々奮闘しています。AIに関する解説や開発の裏側、最新ニュースの考察などをカジュアルにお届けします。 ぜひ気軽にコメント・フォローください✨よろしくお願いします!

    あなたへのおすすめ