メインコンテンツへスキップ
見出し画像

LM Studioで設定できるLLMパラメータ完全ガイド

    LM StudioでローカルLLMを動かしていると、チャット画面の右側やモデルのロード設定にたくさんのスライダーや数値項目が並んでいることに気づきます。どれも触ると出力の質や速度が変わるのですが、名前だけ見てもピンとこないものが多いのではないでしょうか。

    この記事では、LM Studioの公式ドキュメントをもとに、これらのパラメータを「生成の中身を左右するもの」と「モデルの読み込み方を左右するもの」に分けて一つずつ解説し、さらにどんなアプリケーション・場面で使うと効果的かをまとめます。また、パラメータの中にはモデルの形式やアーキテクチャによって「そもそも表示されない・効かない」ものもあるので、その違いについても触れます。

    アプリケーションの種類別に設定を確認したい方は、以下の記事も参考にしてください。

    LM Studioのパラメータは大きく2種類に分かれます。ひとつはモデルをロードするときに決める「ロードパラメータ」(コンテキスト長やGPUオフロードなど)、もうひとつは会話のたびに調整できる「推論パラメータ」(Temperatureやペナルティ系など)です。前者はモデルを読み込み直さないと変更が反映されず、後者はチャット中でも自由に変えられます。

    画像

    1. 生成の「らしさ」を決めるサンプリングパラメータ

    Temperature(温度)

    次に出す単語(トークン)をどれだけ確率的に選ぶかを決める、最も基本的なパラメータです。値が低いほど「最も確率が高い単語」を選びやすくなり、応答は一貫性があって決まりきったものになります。値が高いほどランダム性が増し、意外性のある表現が出やすくなる代わりに、話が破綻しやすくなります。

    コード生成やAPI連携用のJSON出力、業務文書の校正など「間違いを避けたい」用途では低め(0.1〜0.3程度)、雑談アシスタントやアイデア出し、小説執筆のように「表現の幅」が欲しい用途では高め(0.8以上)にするのが基本です。モデルやプリセットによってデフォルト値は異なるため、まずは0.7前後から試して微調整するとよいでしょう。

    画像

    ■ 候補の絞り込みアルゴリズム

    画像

    Top K Sampling

    次のトークン候補を「確率が高い上位K個」に絞り込むパラメータです。例えば40に設定すると、候補は常に上位40個の単語の中からしか選ばれなくなります。値を小さくするほど出力は保守的で予測可能になり、大きくするほど多様な単語が出やすくなります。目安は20〜100程度です。

    FAQ応答やマニュアル的な文章生成など、言い回しのブレを抑えたいアプリケーションでは小さめの値が向いています。逆に、コピーライティングや雑談のように語彙の豊かさが評価されるアプリケーションでは大きめの値が向きます。

    Top P Sampling(Nucleus Sampling)

    累積確率が指定した割合に達するまでの範囲でトークン候補を絞り込む方式です。0.9に設定すると、確率の合計が90%になるまでの単語だけが候補になります。Top Kが「個数」で切るのに対し、Top Pは「確率の合計」で切るため、状況に応じて候補の数が自動的に増減するのが特徴です。多様性と質のバランスを取りやすいパラメータとされており、多くのチャットアプリケーションでTop Kより優先して使われます。

    Min P Sampling

    最も確率の高いトークンを基準に、一定の確率を下回るトークンを候補から除外する仕組みです。例えば0.05に設定すると、確率5%未満のトークンは除外されます。ありえない単語や文脈から外れた単語を排除しつつ、Top Pよりも動的に候補を絞れるため、近年注目されているサンプリング手法です。Temperatureを高めにして創造性を出しつつ、支離滅裂な単語だけは避けたいロールプレイ・創作系のアプリケーションと相性がよいパラメータです。

    ■ マンネリとループを防ぐ微調整

    画像

    Repeat Penalty(繰り返しペナルティ)

    同じ単語やフレーズを繰り返し使うのを抑えるパラメータです。1.0が「ペナルティなし」で、値を上げるほど既出のトークンが選ばれにくくなります。例えば1.2に設定すると、直前までに出てきたトークンの確率が20%程度割り引かれるイメージです。値を上げすぎる(目安として1.3を超えるあたりから)と、逆に不自然な言い回しを避けようとして文章がぎこちなくなることがあるため注意が必要です。falseに設定すると完全に無効化できます。

    長い応答を生成させたときに同じ文末表現がループしてしまう、といった問題が出やすい要約・長文生成のアプリケーションで特に効果を発揮します。

    XTC(Exclude Top Choices)

    比較的新しいサンプリング手法で、あえて最も確率の高い定番の単語を確率的に除外することで、表現のマンネリ化を防ぎ、創造性を高めることを狙ったものです。「XTC Probability」はこの処理がどれくらいの頻度で発動するか(例えば0.3なら各トークンで30%の確率で発動)、「XTC Threshold」はどの確率帯(0.5未満のどこまで)のトークンを除外対象にするかを決めます。小説やロールプレイのように「決まり文句を避けたい」創作用途向けの機能で、通常の受け答えやコーディング、事実に基づく回答では無効のままにしておくのが無難です。

    2. 生成の長さと停止条件を決めるパラメータ

    画像

    Max Tokens(最大トークン数)

    一度の応答で生成できるトークン数の上限です。falseにすると上限なしで生成し続けます。長文の記事作成や資料要約のように応答を打ち切りたくないときはfalseや大きめの値、チャットボットのAPI利用でコストや待ち時間を抑えたいときは小さめの値を設定します。

    Stop Strings(停止文字列)

    指定した文字列が出力に現れた時点で生成を打ち切る設定です。特定のフォーマットで応答を止めたい場合や、モデルが余計な前置き・後書きを続けてしまうのを防ぎたい場合に使います。プログラムからLM StudioのAPIを呼び出して構造化データだけを取り出したいアプリケーションでよく使われます。

    Context Overflow Policy(コンテキスト超過時の挙動)

    会話が長くなり、コンテキスト長(後述)を超えそうになったときの挙動を決める設定です。「stopAtLimit」は上限に達した時点で生成を停止、「truncateMiddle」はシステムプロンプトと最初のユーザー発言を残しつつ会話の中間部分を切り詰め、「rollingWindow」は古いメッセージから順に会話履歴を捨てていく方式です。長い会話を続けたいチャット用途では rollingWindow や truncateMiddle が実用的です。

    3. モデルのロード時に決まるパラメータ

    これらはモデルを読み込む際に固定される設定で、チャットの途中で変更しても反映されず、再ロードが必要です。

    画像

    Context Length(コンテキスト長)

    システムプロンプトから会話履歴、モデルの応答まで、モデルが一度に「見渡せる」トークン数の上限です。大きくするほど長い会話や長文の資料を扱えますが、必要なメモリ(VRAM/RAM)も比例して増えます。モデルごとに対応できる最大値が決まっているため、それを超える値は設定できません。短い一問一答のチャットボットなら4096程度でも足りますが、PDFやコードベース全体を読み込ませるRAG用途では16000〜数万トークン規模まで広げる必要があります。

    GPU Offload(GPUオフロード)

    モデルを構成する層(レイヤー)のうち、どれだけをGPUで処理し、どれだけをCPUに任せるかを決める設定です。GPUに載せる層が多いほど生成は高速になりますが、VRAM容量を超えるとロードに失敗したり動作が不安定になったりします。VRAMが少ない環境では一部の層だけをGPUに、残りをCPUに逃がすことでバランスを取ります。リアルタイム性が求められる音声アシスタントや対話アプリでは、VRAMが許す限りGPUオフロード比率を上げて応答速度を優先するのが基本です。

    Flash Attention

    アテンション計算を効率化し、メモリ使用量を抑えつつ生成速度を上げる実装です。対応するハードウェアでは有効にしておくメリットが大きく、特にコンテキスト長を長く取る場合に効果を発揮します。長い文書を読み込ませるRAGアプリケーションや、長時間の会話履歴を保持するチャットボットで特に恩恵があります。

    Keep Model in Memory

    有効にすると、モデルの一部がGPUにオフロードされている場合でも、システムメモリ上にモデルを保持し続けます。会話のたびにディスクから読み直す手間がなくなるため応答が安定しますが、その分RAMを多く消費します。頻繁にモデルを呼び出す常駐型のアシスタントアプリや、API経由で複数のクライアントから連続してリクエストが来るサーバー用途で有効にしておくと安定します。

    画像

    Eval Batch Size

    プロンプトを処理する際に、一度にまとめて計算するトークン数です。値を大きくすると並列処理の恩恵でプロンプトの処理速度が上がりますが、必要なメモリも増えます。長いプロンプトを毎回投げるRAGアプリケーションなど、プロンプト側のトークン数が多い用途で調整の効果が出やすい設定です。

    CPU Threads

    推論に割り当てるCPUスレッド数です。多くの物理コアを持つ環境では増やすことで速度向上が見込めますが、増やしすぎると他の処理を圧迫します。GPUを搭載していない、またはGPUオフロードを使わずCPUだけで動かす環境で特に重要な設定です。指定しなければハードウェアに応じた既定値が自動的に使われます。

    RoPE Frequency Base / RoPE Frequency Scale

    回転位置埋め込み(RoPE)というモデルが単語の「並び順」を認識する仕組みに関わるパラメータです。RoPE Frequency Baseを調整すると長いコンテキストでの性能が変わることがあり、RoPE Frequency Scaleは位置エンコーディングを引き伸ばすことで、本来の学習時よりも長いコンテキストを扱えるようにする効果があります。基本的には初期値のままで問題なく、モデルの学習時コンテキスト長を超えて無理に長い文書を読み込ませたい場合など、モデルの説明文で明示的に推奨値が示されている場合のみ調整する、上級者向けの設定です。

    KVキャッシュ関連(Use FP16 for KV Cache / K・V Cache Quantization)

    会話の文脈を保持するための「KVキャッシュ」というメモリ領域を、どれくらいの精度で保持するかを決める設定群です。FP16化や4bit・8bitといった量子化を行うと、メモリ使用量を大きく削減できる一方、わずかに出力の精度が落ちる可能性があります。VRAMが厳しい環境で長いコンテキストを扱いたいときに有効です。Valueキャッシュの量子化はFlash Attentionが有効な場合のみ機能します。

    Try mmap

    モデルファイルをディスクから直接メモリにマッピングして読み込む方式です。起動時間の短縮に役立ちますが、モデルサイズがRAMを超える環境ではかえってディスクアクセスが頻発し、遅くなることがあります。モデルを頻繁に切り替えて試すような検証・比較用途で起動の速さが活きます。

    Num Experts(MoEモデル向け)

    Mixture of Experts(MoE)構造を持つモデル専用の設定で、推論時に実際に稼働させる「専門家」ネットワークの数を指定します。数を増やすと出力の質が上がる可能性がある一方、計算量も増えます。MoE構造を持たない通常のモデルでは意味を持ちません(このスライダー自体が表示されません)。詳しくは次の章で説明します。

    Seed(乱数シード)

    サンプリングに使う乱数の種を固定する設定です。同じSeed・同じ設定であれば、毎回ほぼ同じ出力を再現できます。プロンプトのA/Bテストやアプリケーションの自動テスト、バグ再現など、出力を再現性のある状態で比較したい場面で使います。

    Draft Model(投機的デコーディング)

    生成速度を上げるための仕組みで、軽量な「ドラフトモデル」に先に候補トークンを予測させ、本体のモデルがそれを検証することで、体感速度を最大3倍程度まで高速化できるとされています。大きな主力モデルを使いながらもチャットのようにテンポよく応答を返したいアプリケーションに向いています。ドラフトモデル自体を手動でロードしておく必要はなく、モデル名を指定するだけで自動的に利用されます。

    画像

    4. パラメータが使えるモデル・使えないモデルの違い

    ここまで紹介したパラメータは、実はすべてのモデルで同じように使えるわけではありません。LM Studioでモデルを動かす「エンジン(実行バックエンド)」と、モデル自体の「アーキテクチャ」の2つによって、UI上に表示される項目や実際に効果を持つ項目が変わります。

    画像

    エンジンによる違い(llama.cpp/GGUF形式 と MLX形式)

    LM StudioはWindows・Linux・Macで共通して使える llama.cpp エンジン(GGUF形式のモデル)と、Apple Siliconの Mac 専用に最適化された MLX エンジン(MLX形式のモデル)の2系統をサポートしています。この2つはサンプリング機能の実装が異なり、GGUF側のほうが選べる項目が豊富です。

    具体的には、Temperature・Top K・Top P・Min P・Repeat Penaltyといった基本的なパラメータはGGUF・MLXどちらでも使えますが、XTCはllama.cppエンジン(GGUF形式)専用の機能で、MLX形式のモデルではUI上にあっても効果を持たない、あるいはそもそも選べません。Flash Attentionのトグルも同様で、MLXはアテンション計算がエンジン側ですでに最適化されているため、この項目自体が表示されないか無効な設定になります。KVキャッシュの量子化はGGUF側では以前から使えましたが、MLX側でも比較的新しいバージョンから対応が進んでいます。RoPE Frequency Base/Scaleやmmapの設定も、基本的にはllama.cpp(GGUF)側の仕組みに由来するものです。

    まとめると、「同じ名前のスライダーがあっても、MacでMLX形式のモデルを使っている場合は一部が飾りになっている、あるいは表示されないことがある」と理解しておくと迷いません。細かい対応状況はLM Studioのバージョンアップで随時変わるため、気になる項目は実際にモデルをロードした画面で確認するのが確実です。

    アーキテクチャによる違い(MoEモデル専用のNum Experts)

    Num Experts(専門家の数)は、Mixtral・Qwen3のMoE版・gpt-oss・DeepSeek-MoE系などの「Mixture of Experts(MoE)」というアーキテクチャを採用したモデルにのみ現れる設定です。MoEモデルは内部に複数の「専門家」ネットワークを持ち、トークンごとにその一部だけを選んで計算する仕組みになっているため、「いくつの専門家を有効にするか」という調整項目が存在します。一方、Llama や Qwen の通常版のような一般的な「密(dense)」モデルには専門家という概念自体がないため、このスライダーはロード画面に表示されません。

    アーキテクチャによる違い(RoPEを使わないモデル)

    RoPE Frequency Base/Scaleは、位置情報の埋め込みにRoPE(回転位置埋め込み)を使っているモデルを前提にした設定です。現在流通しているTransformer系LLMの多くはRoPEを採用していますが、位置埋め込みの方式が異なるアーキテクチャのモデルではこの設定を変えても意味を持ちません。効果が薄いと感じたら、まずはそのモデルがRoPEベースかどうかをモデルカードで確認するとよいでしょう。

    その他の「モデル依存」パラメータ

    Draft Model(投機的デコーディング)は、主力モデルと同じトークナイザー・語彙(vocabulary)を持つ軽量モデルが存在する場合にのみ機能します。LM Studioは組み合わせの互換性を自動でチェックしてくれるので、対応する組み合わせがなければ選択できません。同じモデルファミリーの小型版(例:大きいモデルと同シリーズの小さいモデル)が用意されているケースで使えることが多い機能です。

    また、埋め込み(Embedding)専用のモデルは文章を生成するのではなくベクトルに変換するだけのモデルなので、Temperatureやサンプリング系のパラメータはそもそも存在しません。マルチモーダル(画像入力対応)モデルについても基本的な推論パラメータは共通ですが、画像トークンの扱いなど生成パラメータとは別の考慮が必要になる場合があります。

    バージョンによる違い(LM Studio Engine Protocol)

    2026年に入ってから、LM Studioにはエンジン部分をGUIから切り離す「LM Studio Engine Protocol」という新しいアーキテクチャが追加されました。0.4.14でベータとして導入され、0.4.19(2026年7月7日リリース)からは標準で有効(デフォルトON)になっています。公式の更新履歴には「対応していないGGUFの推論設定がChat・My Models・Serverの各設定パネルに表示されてしまうバグを修正した」という記述があり、この新しいプロトコルがまだ対応しきれていないllama.cppのサンプリング設定(XTCなど比較的新しい・niche な機能が該当しやすい)は、Developerモードでllama.cppランタイムを選んでいても画面に表示されないことがあります。

    Temperatureなどの基本パラメータは表示されるのにXTCだけ見当たらない、といった場合は、まずSettings(環境設定)→ Developer タブを開き、「Enable LM Studio Engine Protocol」をオフにしてモデルを再ロードしてみてください。このプロトコルはまだベータ的な位置づけで、生成速度の低下やチャットテンプレートの上書きといった副作用も報告されているため、オフにしても実用上のデメリットはほとんどありません。LM Studioは更新頻度が高いアプリなので、この対応状況は今後のバージョンアップで変わる可能性があります。

    5. アプリケーション別のおすすめ設定

    パラメータの意味と対応状況を踏まえて、代表的なアプリケーションごとにどう組み合わせるとよいかを整理します。あくまで出発点なので、実際にはモデルごとに試行錯誤するのが前提です。

    コーディング支援・コードレビューのようにミスを避けたいアプリケーションでは、Temperatureを0.1〜0.3程度の低めに設定し、Top Pは0.9前後、Repeat Penaltyは1.0〜1.1程度に抑えます。ランダム性を極力減らし、モデルが最も自信のある回答を選びやすくすることで、動くコードが出る確率を上げます。

    社内FAQボットやカスタマーサポートのような、正確さと自然さのバランスが必要なチャットボットアプリケーションでは、Temperature 0.5〜0.7、Top P 0.9、Top K 40、Repeat Penalty 1.1程度が扱いやすい範囲です。多くのモデルの既定プリセットもこのあたりに近い値になっています。

    社内資料やPDFを読み込ませて回答させるRAG(検索拡張生成)アプリケーションでは、サンプリング設定自体はコーディング用途に近い低めのTemperatureにしつつ、Context LengthとFlash Attentionを優先的に調整します。資料の分量に応じてContext Lengthを広めに取り、GPU Offloadは速度が許す範囲で最大化するのが実務的です。

    小説やロールプレイ、ブレインストーミングのような創造性を重視したいアプリケーションでは、Temperatureを0.9〜1.2程度まで上げ、XTC(GGUF形式のモデルに限る)を有効にして定番表現の繰り返しを避けるのも効果的です。ただし上げすぎると文章が破綻しやすくなるため、Min P Samplingを0.05程度に設定して支離滅裂な単語だけは排除しておくと安定します。

    外部ツールを呼び出すエージェントや、JSON形式の構造化出力を求めるアプリケーションでは、Temperatureを0に近い値まで下げるのが定石です。出力フォーマットの逸脱やツール呼び出しの失敗は再実行のコストにつながるため、多様性よりも再現性を優先します。Seedを固定しておくと、テスト時に同じ入力から同じ挙動を再現しやすくなります。

    ロード時のパラメータについては、まずContext Lengthを用途に必要な長さ(短い会話なら4096、資料を読み込ませるなら16000以上など)に設定し、GPU Offloadは自分のVRAM容量が許す範囲でできるだけ多くの層をGPUに割り当てるのが基本方針です。Flash Attentionは対応環境(GGUF形式のモデル)であれば常に有効にしておいて損はありません。リアルタイム性が重要なアプリケーションでは、対応する小型モデルがあればDraft Modelによる投機的デコーディングも検討する価値があります。

    まとめ

    LM Studioのパラメータは、Temperature・Top K・Top P・Min P・Repeat Penalty・XTCといった「生成中の単語選びを制御するもの」と、Context Length・GPU Offload・Flash Attentionといった「モデルの読み込み方を制御するもの」の2系統に分けて理解すると整理しやすくなります。さらに、XTCやFlash AttentionのようにGGUF(llama.cpp)形式のモデル限定の項目、Num Expertsのように MoE アーキテクチャのモデル限定の項目があることも覚えておくと、「設定が表示されない」「変えても効果がない」ときに迷わずに済みます。まずは既定値のまま使ってみて、出力が単調すぎる、逆に支離滅裂すぎる、動作が遅い、といった不満が出たときに、アプリケーションの目的に応じて該当するパラメータだけをピンポイントで調整していくのがおすすめです。


    参考資料:

     
     
    黒猫が大好きな社畜です。 趣味はパソコンです。遊びながら得た知識を投稿していきます。

    あなたへのおすすめ