
temperatureしか触っていない? 34万件の実コードを調べた研究から見える、LLM推論パラメータ見直しのポイント
LLMのAPIを呼ぶとき、自分が実際に設定しているパラメータはいくつあるだろうか。
temperatureだけ、あるいはtemperatureとmax_tokensくらい、という人が大半だと思う。
それを裏付けるような大規模調査が、2026年10月に公開された。
Hugging Face Transformers・vLLM・OpenAI Python SDKという3つの代表的なバックエンドを対象に、GitHub上の公開Pythonリポジトリ5,398件・345,117件のオプション設定を、AST(抽象構文木)による静的解析で調べたものだ。
この記事では、この調査が明らかにした「開発者が実際に何を設定し、何を設定していないか」という実態と、そこから自分の設定を見直すための具体的なチェックポイントを整理する。