メインコンテンツへスキップ
見出し画像

Claude APIからtemperatureが消えた。出力のぶれはどこで抑えるか

    2026年10月21日、AnthropicはClaude APIの新しいバージョン2026-10-21を公開しました。このバージョンでは、temperature、top_p、top_kの3つの設定がMessages APIから削除されています。送ると、既定値と同じ値でも400エラーになります。旧バージョンの2023-06-01は引き続き使えますが、新しいSDKは新バージョンを既定で使います。

    「出力を安定させたいからtemperature: 0」は、LLMを使う開発で長く定番だった設定です。私たちyomitokaも、2026年4月には評価の採点役にtemperature: 0を付けていました。その手がAPIから消えつつあります。

    yomitokaは、上場企業の有価証券報告書などをAIで読み解き、企業ページやチャットで届けるサービスです。数字や会社の説明を取り違えると、読み手の理解をそのまま歪めてしまいます。この記事では、まず何が変わったのかを公式資料で確かめます。そのうえで、temperatureに頼らずに出力のぶれを抑えている4つの層を、本番での実測と一緒に紹介します。中でも、Anthropicが「temperatureを下げていた効果を失う」と名指ししたモデルを、yomitokaでどう使っているかが中心の例です。

    新しいバージョンでは、値に関係なく400になり、代わりの設定はない

    temperatureを下げて出力をそろえる方法は、新しいバージョンでは使えません。移行ガイドは、変更の影響を次のように説明しています。Message Batchesのリクエストも対象です。

    • 3つの設定を外したリクエストは、temperatureが1.0の既定値でサンプリングされる。旧バージョンで設定を送らなかった場合と同じ。

    • Claude 4.7以降のモデルは、もともと既定値しか受け付けないため、これまでと同じ動きになる。

    • Claude Sonnet 4.6のように別の値を受け付けるモデルで、temperatureを下げて出力をそろえていたリクエストは、その効果を失う。代わりになる設定はない。

    • 既定値以外に頼るリクエストは、設定を送るのをやめるか、そのリクエストだけ旧バージョンに残す。

    TypeScript SDKなら1.0.0以降、Python SDKなら2.0.0以降が、新しいバージョンを既定で送ります。これらのSDKからは3つの引数自体がなくなっているので、TypeScriptなら型エラーで気づけます。HTTPで直接呼んでいる場合は、ヘッダーを2026-10-21に変えた時点で400が返ります。非推奨の一覧では、推奨される置き換えは「設定を外し、プロンプトで振る舞いを導く」とされています。

    OpenAIの最新モデルも、temperatureを前提にしていない

    同じ流れはOpenAIにもあります。最新モデルの案内では、推論の深さ(reasoning effort)をnone以外にするときはtemperature、top_p、top_logprobsを外すよう求めています。そして最新のGPT-6 AstraとGPT-6.1 Solは、noneそのものを受け付けません。これらのモデルでは、temperatureを使う道がないことになります。

    代わりに開発者が触れるのは、推論の深さや出力の長さです。yomitokaでもOpenAIのモデルを使っていますが、temperatureは送らず、推論の深さと、出力の冗長さ(verbosity)を指定しています。

    推論するモデルが中心になるにつれて、「確率分布をどう削るか」は開発者が触る設定ではなくなってきている。両社とも理由は説明していませんが、私たちはこの変化をそう受け止めています。

    そろっていることと、正しいことは別の問題

    temperatureを下げると、モデルは確率の高い語を選びやすくなり、言い回しがそろいやすくなります。

    ただ、私たちがAIの出力で避けたいのは、言い回しの違いではありません。原文の「見通し」を「実績」のように書くこと、数字の単位を落とすこと、会社の説明をyomitokaの評価のように読ませることです。こうした誤りは、言い回しがそろっていても起こりえます。

    振り返ると、yomitokaの本番のコードでは、temperatureを一度も指定していませんでした。意識して避けたわけではありません。品質は、モデルの外側で確かめる仕組みに任せてきた、というのが実情です。結果として、今回の変更はサンプリングの面では影響しません。その仕組みを、4つの層に分けて紹介します。

    1. 決まった処理で出せるものは、モデルに書かせない

    最も確実にぶれを消す方法は、その部分をモデルに生成させないことです。

    たとえば会社の業績予想は、決算短信のXBRL(数値を機械で読める形式の開示データ)から直接取り出せます。そのため、yomitokaではモデルを通していません。数字をモデルに書き写させれば、桁や単位を取り違える可能性が生まれます。予想が「○○億円〜○○億円」のような幅で出ている場合も、中央の値を作らずに「予想なし」として扱います。会社が言っていない数字を作らないためです。

    AIチャットの財務グラフも同じ考え方です。モデルに選ばせるのは「売上の推移を見るか、利益率を見るか」といった観点だけで、グラフに載せる数字と描き方はプログラムが決めます。この設計は以前の記事で詳しく紹介しました。

    2. 出力の形をスキーマで固定し、帰属は画面で描く

    モデルに書かせる部分も、自由な文章ではなく決まった形で受け取ります。

    企業ページの財務タブには、有価証券報告書から「会社が自分の事業や経営環境をどう説明しているか」を取り出して並べる欄があります。この生成では、モデルにツールの呼び出しを強制し、出力を「見出し」「本文」「どの章から取ったか」の項目に分けて受け取ります。形が合わなければ、その時点で受け取りません。

    このとき、「会社はこう説明しています」という帰属の言葉は、モデルに書かせていません。モデルが返すのは主張と、引用元の章の区分だけです。「2026年3月期 有価証券報告書「経営方針・経営環境」より」のような出典の表示は、画面の側が区分と対象期から決まった形で描きます。モデルが帰属を書き忘れても、yomitoka自身の主張として読まれることがないようにするためです。

    3. 内容を検査し、落ちた理由を返して書き直させる

    形が合っていても、中身が規約を外れることがあります。そこで、受け取った文章を保存する前に機械的に検査します。たとえば次のような場合は不合格です。

    • 「順調」「好調」「有望」などの評価語が入っている(会社の説明の要約に混ざると、yomitokaの見解に読めるため)

    • 因果を言い切る表現や、投資の判断を促すように読める表現がある

    • 見出しに数字がある(見出しで縮めると単位が落ちやすいため)

    • 「1兆3,114億円」が「1兆3,114円」になるような、単位の崩れがある

    不合格になったら、モデルにもう一度生成させます。ここで効いたのは、落ちた理由を具体的に返すことでした。再試行の指示には、元の指示の後に次の一文を足します。

    前回の出力は「評価語「順調」」で使えませんでした。そこを直して書き直してください。
    

    2026年7月、この生成を本番の40社で動かして比べた結果が次のとおりです。生成にはClaude Haiku 4.5を使っています。

    • 同じ指示でもう一度生成させる:成功29社(72.5%)、LLMの呼び出し81回

    • 落ちた理由を返して書き直させる:成功36社(90%)、LLMの呼び出し68回

    同じ指示でもう一度生成させるだけでは、同じ誤りを繰り返しやすくなります。理由を返すと、成功が増え、呼び出しの回数も減りました。

    それでも直りきらない誤りがありました。見出しに数字を書く、原文の「堅調」をそのまま写す、の2つです。禁止する語を列挙し、良い例と悪い例を対で足すようにプロンプトを直しても、本番の10社で試して通ったのは1社だけでした。3点のうち1点が引っかかるだけで、その会社の説明が丸ごと消えていたのです。そこで最後の試行に限り、不合格の1点を外し、残る2点が規約を満たせばそれを残すようにしました。落ちていた10社で再実行すると、8社で保存できました。

    4. 別のリクエストで、意味が変わっていないかを判定させる

    4つ目の層は、モデルの出力を別のモデル呼び出しで確かめることです。ここで使っているのが、移行ガイドが名指ししたClaude Sonnet 4.6です。

    2026年9月、財務タブの会社の説明が長すぎるという課題があり、全3,682社の採用済みの文章を短く編集することにしました。編集はSonnet 4.6に任せ、temperatureは指定していません。その代わり、次の順で候補を絞りました。

    1. 編集する。数字・条件・固有名詞・項目数・出典は変えずに、見出しと本文の冗長な部分だけを整理させる。

    2. 決まった処理で検査する。残すべき語が消えていないか、金額の単位や符号が変わっていないかなどを、プログラムで確かめる。

    3. 別のリクエストで意味を判定させる。編集の前後を並べて、すべての情報を保ったまま同じ意味かどうかを項目ごとに答えさせる。

    4. 両方に合格した候補だけを採用する。1項目でも不合格なら、その会社は元の文章のまま残す。

    確かめるうちに、本文は原文と一致しているのに、見出しで意味が変わる候補が見つかりました。見出しで新しく因果を結び付ける、見通しであることを示す限定を落とす、「営業利益」を「セグメント利益」に置き換える、といったものです。これを受けて、見出しの主題・指標・因果・限定も検査の対象に加えました。

    最終的に採用したのは1,347社で、残る2,335社は元の文章を維持しています。採用率は4割に届きません。それでも、一つの出力をそのまま信じるのではなく、合格しなければ元に戻せる構成にしておけば、ぶれは「採用されない候補」として吸収できます。temperatureで生成のばらつきそのものを抑えるのとは、考え方が逆です。

    検査で拾えない誤りは、まだ残っている

    この4つの層で、すべてのぶれを抑えられるわけではありません。

    3つ目の層の検査は、語や表記のパターンを見ているだけで、意味のずれは拾えません。4つ目の層の判定は、編集の前後を比べるもので、有価証券報告書の原文と照らしているわけではありません。判定するモデル自体が見逃す可能性もあります。別の要約の生成でOpenAIのBatch APIを試した記事では、形式と数値の検査をすべて通った8件のうち、2件が原文と意味の面で合っていませんでした。原文との意味の照合は、今も人が読み比べる工程に頼っています。

    上の40社や10社の比較は、それぞれ1回ずつの計測です。別のモデルで同じ効果が出るかは確かめていません。また、yomitokaのAPIは、まだ旧バージョンの2023-06-01を送るSDKを使っています。temperatureを送っていないため、新しいバージョンに切り替えてもサンプリングは変わらないはずです。切り替えのときに確かめるべきなのは、SDKのほかの破壊的変更のほうになります。

    temperatureを外す前に、それが何を守っていたかを書き出す

    temperatureの削除は、設定を1行消せば終わる変更に見えます。けれども、その1行に「出力を安定させる」という役割を預けていたなら、役割の行き先を決めずに消すことになります。

    自分のコードでtemperatureやtop_pを指定しているなら、次の順で確かめてみてください。

    1. その設定が守っていたものを書き出す。 言い回しの統一か、形式の安定か、誤りの防止か。

    2. モデルに書かせなくてよい部分を探す。 数字や定型の文言など、決まった処理で出せるものはないか。

    3. 守りたいものを検査に変える。 スキーマ、禁止パターン、数値の照合など、機械で判定できる形にする。落ちたら、理由を添えて書き直させる。

    4. 不合格なら元に戻せるようにする。 意味の判定を別のリクエストに任せ、合格した出力だけを採用する。

    5. すぐに直せないリクエストは、旧バージョンに残す。 移行ガイドが認めている選択肢です。切り替えの前後で出力を比べてから外します。

    モデルが賢くなるほど、開発者が触れる設定は減っていくのかもしれません。そのぶん、何を正しい出力とするかを決め、確かめる仕組みは、作る側に残ります。yomitokaでも、企業の資料をAIで読み解くからこそ、その仕組みを育てていきたいと考えています。

    記事への感想や開発上の疑問はこちらからお寄せください。

    この記事を書いたチームがつくるyomitokaで、日本企業の情報を読み解いてみてください。


     
     
    日本の会社を知るサービス「yomitoka」のnoteです。身近な会社の話や、開発の日々、サービスの更新をお届けします。 https://yomitoka.com/

    あなたへのおすすめ