メインコンテンツへスキップ
見出し画像

LM Studioパラメータ実践編 ― アプリケーション別おすすめ設定を徹底解説

    1つ前の記事では、LM StudioでいじれるTemperatureやTop P、Context Lengthといったパラメータ一つひとつの意味を解説しました。今回はその続編(セットで見てもらうもの)として、「結局、自分がやりたいアプリケーションでは何をどう設定すればいいのか」を、8つの代表的な用途に分けて具体的な数値つきで深掘りします。

    数値はあくまで出発点です。同じ「コーディング支援」でも使うモデルのサイズや量子化レベルによって最適値は変わるので、ここで紹介する値を起点に、実際の出力を見ながら微調整してください。

    設定をいじる際の優先順位も先にお伝えしておきます。まず速度と安定性を左右するロードパラメータ(Context Length、GPU Offload、Flash Attentionなど)をアプリケーションの要件に合わせて決め、そのうえで応答の「性格」を決めるサンプリングパラメータ(Temperature、Top P、Repeat Penaltyなど)を微調整する、という順番で進めると迷いにくくなります。

    1. コーディング支援(コード生成・コードレビュー・デバッグ)

    コーディング用途で最優先すべきは「動くコードが出ること」です。表現の多様性は不要どころか、変数名や構文が毎回微妙に変わるとレビューしづらくなるため、基本的にランダム性は極力削ります。

    画像

    Temperature:0.0〜0.3
    最も確率の高いトークンを優先し、構文エラーや存在しないAPIの呼び出しを減らす

    Top P:0.9前後
    Temperatureを低くしている時点で候補はかなり絞られているため、緩めでよい

    Top K:40前後
    特別に絞り込む必要はなく、既定値付近で十分

    Repeat Penalty:1.0〜1.1
    低すぎる値だと問題ないが、上げすぎると同じ変数名やインデントの繰り返しを不自然に避けようとして構文が崩れることがあるため控えめに

    XTC:無効
    あえて定番の書き方を避けられるとコードの型が崩れるため創作向けの機能はオフにする

    ロード側では、長いファイルやリポジトリ全体を貼り付けて読み込ませることが多いので、Context Lengthは扱うコード量に応じて余裕を持たせます(数千行規模なら16000トークン以上が目安)。GPU OffloadはVRAMが許す限り最大化し、Flash Attentionも有効にして長いプロンプトの処理を軽くします。応答をテンポよく返してほしいエディタ連携(コード補完など)では、対応する小型モデルがあればDraft Modelによる投機的デコーディングも有効です。

    つまずきやすいポイントとして、Temperatureを0にするとモデルによっては同じ質問に対して毎回一言一句同じ回答しか返さなくなり、「別の書き方を提案して」と頼んでも変化が出ないことがあります。バリエーションが欲しい場合だけ0.2〜0.4程度まで上げると調整しやすくなります。

    2. 要約・議事録作成

    要約は「事実を正確に、かつ元の文章より簡潔に」まとめる必要があるため、正確性重視ですがコーディングほど厳密である必要はありません。長文を生成させる過程で同じ言い回しがループしやすいのもこの用途の特徴です。

    画像

    Temperature:0.3〜0.6
    低すぎると単調な箇条書き的要約になりがちなので、自然な文章にするためやや余裕を持たせる

    Top P:0.9前後
    標準的な設定で問題ない

    Repeat Penalty:1.1〜1.15
    長文要約で文末表現が繰り返されるのを防ぐ効果が大きい

    Min P:0.05程度(任意)
    極端に不自然な単語の混入を防ぐ保険として

    会議の議事録や長い記事をまとめて要約させる場合、入力自体が長くなるためContext Lengthを入力文書の長さに合わせて広めに確保することが重要です。Max Tokensは要約の希望文字数に応じて調整し、短すぎて尻切れにならないよう余裕を持たせます。Context Overflow Policyは、資料の途中で切れてしまうと要約の質が落ちるため、なるべく資料全体がコンテキストに収まるようContext Lengthを先に広げ、それでも収まらない場合はtruncateMiddleで重要な冒頭・末尾を残す設定が無難です。

    3. RAG(社内資料・PDF検索チャット)

    RAG(検索拡張生成)は、検索で取ってきた資料の内容だけをもとに答えさせたい用途です。モデル自身の知識で「それらしい話」を作られてしまう(ハルシネーション)のを防ぐことが最優先になります。

    画像

    Temperature:0.1〜0.3
    低く保つことで、検索結果の内容から逸脱した推測を減らし、資料に基づいた回答をさせやすくする

    Top P:0.9前後
    標準的な設定で問題ない

    Repeat Penalty:1.05〜1.1
    資料の引用が多いと表現が単調になりやすいので軽くかける程度

    XTC:無効
    事実ベースの用途では不要

    RAGはロード側の設定がサンプリングパラメータ以上に重要です。検索でヒットした複数の文書チャンクをまとめてプロンプトに詰め込むため、Context Lengthは16000〜32000トークン以上を確保しておくと安心です。長いコンテキストを扱うほどFlash Attentionの効果が大きくなるので、対応するGGUFモデルであれば必ず有効にしてください。会話を続けながら何度も資料を参照させるチャット形式のRAGでは、Context Overflow PolicyをrollingWindowにしておくと、古いやり取りから自動的に捨てられて資料本体が優先されやすくなります。

    つまずきやすいポイントは、Temperatureを下げても「資料に書かれていないことは答えない」という制御そのものはプロンプト側(システムプロンプトの指示や検索結果の与え方)の役割だという点です。パラメータ調整はハルシネーションを減らす補助であって、根本的な対策はプロンプト設計とセットで考える必要があります。

    4. カスタマーサポート・FAQボット

    社内外向けのFAQボットやサポート窓口は、正確さを保ちつつも機械的すぎない自然な受け答えが求められる、いわば「バランス型」の用途です。

    画像

    Temperature:0.5〜0.7
    定型的になりすぎず、かといって回答がブレすぎない中間の値

    Top P:0.9
    多くのモデルの既定プリセットに近く、扱いやすい

    Top K:40
    標準的な設定で十分

    Repeat Penalty:1.1
    「ご質問ありがとうございます」のような定型句が続いても不自然にならない程度に軽く

    サポート用途では複数のユーザーからの問い合わせを同時にさばくことも多いため、Keep Model in Memoryを有効にしてモデルの再読み込みを避け、応答の立ち上がりを安定させるとよいでしょう。想定する会話の長さ(一往復で終わるのか、長いやり取りになりやすいのか)に応じてContext Lengthを決め、長引きやすい相談窓口ではrollingWindowでの履歴管理を検討してください。

    5. 創作・ロールプレイ・キャラクターチャット

    小説の執筆支援やキャラクターになりきったチャットでは、予測可能すぎる文章はむしろ退屈に感じられます。多様性と一貫性のバランスを取ることが腕の見せどころです。

    画像

    Temperature:0.8〜1.0
    0.7を下回るとキャラクターの個性が平坦になりやすく、1.2を超えると文章が破綻しやすいという報告が多い

    Min P Sampling:0.05〜0.1
    Temperatureを上げた際に紛れ込む不自然な単語を除去しつつ、創造的な語彙は残せる

    Top P / Top K:緩めか無効
    Min Pを主体にする場合、Top P・Top Kは緩めにするかオフにして候補を絞りすぎないようにする構成が好まれる

    Repeat Penalty:1.05〜1.10
    上げすぎるとキャラクターの口癖や決め台詞まで避けようとしてキャラ崩壊の原因になるため控えめに

    XTC:Probability 0.2〜0.5程度で有効化
    定番の言い回しを確率的に避け、表現のマンネリ化を防ぐ。GGUF形式のモデル限定の機能

    長い会話を続けるキャラクターチャットでは、キャラクター設定や過去のやり取りを保持し続けたいのでContext Lengthを広めに取り、Context Overflow PolicyはrollingWindowにして自然に会話を継続させます。XTCはllama.cpp(GGUF形式)のモデル専用の機能なので、Macで軽量なMLX形式のモデルを使っている場合はこの項目が効かない点に注意してください。

    6. 翻訳

    翻訳はもとの文章の意味を過不足なく訳すことが目的なので、創造性はほぼ不要です。特に翻訳やモデルサイズが小さい場合、Temperatureを上げても品質向上にはつながりにくく、むしろ誤訳や意訳しすぎるリスクが増えるという報告があります。

    画像

    Temperature:0.2〜0.4
    原文に忠実な訳を優先し、余計な言い換えや意訳のブレを抑える

    Top P:0.9
    標準的な設定で問題ない

    Repeat Penalty:1.0〜1.05
    専門用語や固有名詞は本来「繰り返される」べきものなので、ペナルティをかけすぎると訳語が意図せず揺れる原因になる

    長文の文書をまとめて翻訳させる場合はContext Lengthを原文の長さに応じて広げ、訳文が長くなることを見越してMax Tokensにも余裕を持たせてください。

    7. エージェント・ツール呼び出し/JSON構造化出力

    外部ツールを呼び出すエージェントや、後続の処理でそのままパースするJSON出力を求めるアプリケーションでは、多様性は完全に不要です。フォーマットが崩れると自動処理が失敗し、リトライのコストが発生するため、決定的な出力を優先します。

    画像

    Temperature:0.0〜0.2
    出力フォーマットの逸脱を最小化する。ある検証ではTemperature 0.7でフォーマットエラー率が15%だったのに対し、0.1まで下げるとほぼ解消したという報告もある

    Top P:0.9〜1.0
    Temperatureが十分低ければ影響は小さい

    Repeat Penalty:1.0(実質無効)
    JSONのキー名など「同じ単語」を繰り返す必要がある構造化出力では、ペナルティが逆に構文を崩す原因になりうる

    Seed:固定推奨
    テスト時に同じ入力から同じ出力を再現しやすくする

    LM Studioの構造化出力機能(JSON Schemaを指定する`structured`パラメータ)を使える場合は、サンプリングパラメータだけに頼らず、スキーマ自体で出力形式を強制する方が確実です。Stop Stringsを使ってJSON以外の余計な前置き・後書きを断ち切るのも有効です。ツール呼び出しでは、モデルに与えるツールの数を絞り、説明文を明確にしておくことも、パラメータ調整と同じくらい成功率に影響します。

    8. リアルタイム対話・低遅延チャット(音声アシスタントなど)

    音声アシスタントやテンポの速いチャットUIでは、応答の「質」だけでなく「速さ」が体験を大きく左右します。ここではサンプリングパラメータよりもロードパラメータの比重が大きくなります。

    画像

    GPU Offload:可能な限り最大化
    VRAMに載る範囲で最も多くの層をGPUで処理させます。

    Flash Attention:常に有効

    応答速度をさらに詰めたい場合は、同じモデルファミリーの小型版があればDraft Modelによる投機的デコーディングを試す価値があります。ドラフトモデルは、モデルの提案が主力モデルにそのまま採用されやすいほど効果が大きいため、コーディング支援やFAQ応答のように「予測しやすい」タスクほど効果が出やすく、逆に自由度の高い創作タスクでは効果が薄れる傾向があります。会話の応答内容自体はアプリケーションの目的(雑談なら0.7前後、定型的な案内なら0.3前後)に合わせて通常通りTemperatureを決めて構いません。会話履歴が長くなりがちなので、Context LengthとContext Overflow Policy(rollingWindow推奨)もあわせて確認しておきましょう。

    早見表:用途別サンプリングパラメータの目安

    画像

    まとめ

    画像

    アプリケーションごとに「何を犠牲にしても守りたいもの」は異なります。コーディングやRAG、エージェント用途では正確さとフォーマットの厳守を最優先にTemperatureを下げ、要約や翻訳ではやや余裕を持たせて自然さを確保し、創作・ロールプレイでは思い切ってTemperatureとXTCで多様性を引き出す、というように「優先すべき軸」を先に決めてから数値を当てはめると設定がぶれません。またリアルタイム性が求められる用途では、サンプリングパラメータ以上にGPU OffloadやDraft Modelといったロード側の設定が体感速度を左右する点も忘れずに調整してください。


    参考資料:

     
     
    黒猫が大好きな社畜です。 趣味はパソコンです。遊びながら得た知識を投稿していきます。

    あなたへのおすすめ