temperatureとtop-pとは何か｜LLMの出力のばらつきを制御する生成パラメータを実務目線で

同じプロンプトを2回投げたのに返答が微妙に違う、あるいは「もっと堅くしたい」「もっと発想を広げたい」ときにどこをいじればいいのか。その入り口になるのがtemperatureとtop-pという生成パラメータです。名前だけは見たことがあっても、何を制御していて、どこまで効いて、何は効かないのかは意外と曖昧なまま使われがちです。この記事では、LLMが文章を作る仕組みまでさかのぼって、この2つのパラメータの意味と実務での勘所を、過度な断定を避けつつ整理します。

まず前提: LLMは確率分布から次の1語を選んでいる#

temperatureの話に入る前に、LLMがどう文章を作っているかを一段だけ押さえておくと、パラメータの意味がすっと入ります。

LLMは、これまでの入力(コンテキスト)を踏まえて「次に来るトークンの確率分布」を毎回計算します。トークンは単語や単語の断片にあたる単位です。たとえば「今日の天気は」に続く候補として、モデル内部では「晴れ」に高い確率、「雨」に中くらい、「マグロ」にごく低い確率、といった分布が割り当てられます。この分布から実際に1つを選び、選んだトークンを入力に加えて、また次の分布を計算する。これを繰り返して文章が伸びていきます。

ここで「分布から1つをどう選ぶか」がサンプリングです。毎回いちばん確率の高いトークンだけを選べば出力は安定しますが、単調になりがちです。逆に低確率のトークンまで拾うようにすれば多様になりますが、脱線も増えます。temperatureとtop-pは、まさにこの「選び方の幅」を調整するためのつまみです。

temperatureは「分布の鋭さ」を変える#

temperatureは、確率分布をどれだけ鋭く、あるいはなだらかにするかを調整するパラメータです。

低い値(0付近)にすると、分布は鋭くなり、もともと確率の高いトークンにさらに集中します。結果として出力は決定的・一貫的になり、同じ入力なら似た答えが返りやすくなります。抽出や分類のように「毎回同じ堅い答え」が欲しい場面に向きます。

高い値にすると、分布はなだらかに平準化され、低確率だったトークンにも出番が回ってきます。出力は多様になり、言い回しや発想の幅が広がります。一方で、文脈から外れた語や破綻した文が混じる確率も上がります。アイデア出しやコピーのバリエーション作りのように「揺れてほしい」場面に向きます。

イメージとしては、temperatureは候補の順位そのものは大きく変えず、上位と下位の「差」を強調するか薄めるかを操作している、と捉えると分かりやすいです。低温では1位と2位の差が開いて1位ばかりが選ばれ、高温では差が縮まって2位3位にもチャンスが回る、という具合です。

既定値と範囲はベンダーで異なる#

ここが実務で最も事故りやすいポイントです。temperatureの範囲や既定値はベンダー・モデルによって異なり、他社の感覚をそのまま持ち込むと意図とずれます。各社の公式ドキュメント(2026年7月時点)に記載のある値を整理します。

| ベンダー | パラメータ名 | 範囲 | 既定値 | 補足 | | --- | --- | --- | --- | | Anthropic (Claude) | temperature | 0.0 - 1.0 | 1.0 | 0.0でも完全な決定論ではないと明記。top_pは高度な用途向けと案内 | | OpenAI | temperature | 0 - 2 | 1 | top_pも指定可 | | Google (Gemini) | temperature | モデル依存 | モデル依存 | generationConfigでtemperature/topP/topKを指定可 |

とくに注意したいのは、Anthropicの範囲が0.0-1.0なのに対し、OpenAIは0-2という点です。「temperatureを1.2にする」という指示は、OpenAIでは中程度の設定でも、Anthropicでは範囲外です。数字だけを他社から流用しないでください。GeminiのようにgenerationConfigで指定でき、範囲や既定がモデルに依存する場合は、使うモデルのドキュメントで都度確認するのが安全です。

temperatureの範囲(0.0-1.0)・既定(1.0)・「0.0でも完全な決定論ではない」旨、およびtop_pが高度な用途向けである点は、Anthropicの「Messages」公式ドキュメントの記載に基づきます。OpenAIの範囲(0-2)・既定(1)はOpenAI公式ドキュメントの記載値、Geminiのパラメータ(temperature/topP/topK)はGoogleの「Generating content」公式ドキュメントに基づきます。

top-p(核サンプリング)は「裾を切る」#

top-pは、nucleus sampling(核サンプリング)とも呼ばれる別の絞り込み方です。temperatureが分布全体の鋭さをいじるのに対し、top-pは候補集合そのものを切り詰めます。

やり方はこうです。次のトークン候補を確率の高い順に並べ、上から累積確率を足していき、その合計が指定したp(たとえば0.9)に達したところで打ち切ります。そこまでに入った候補だけを残し、残り(確率の低い裾)は捨てて、残った集合の中からサンプリングします。p=0.1なら、上位で累積10%ぶんの確率質量に収まるごく少数の候補しか残りません。pを小さくするほど裾が深く切られ、出力は保守的で安定します。

top-kという似た指定もあります。こちらは累積確率ではなく「上位k個」と個数で候補を絞る方式です。提供の有無はベンダーやモデルによります(たとえばGeminiのgenerationConfigにはtopKがあります)。役割はtop-pと近く、候補の裾を切って暴走を抑える方向に働きます。ここでは「そういう仲間の指定もある」程度に留めておけば十分です。

実務の勘所: 両方同時にいじらない#

ここからは、日々の運用で効く具体的な指針です。数値はあくまで目安で、絶対解ではない点を先にお断りしておきます。

よくある誤解と、効かないこと#

temperatureは便利ですが、期待をかけすぎると裏切られます。実務で繰り返し見かける誤解を整理します。

「temperatureを上げれば賢くなる」は誤り#

temperatureが制御するのは賢さではなく、出力のばらつきです。上げれば創造的な語彙が出やすくなるのは事実ですが、それは「多様になる」だけで、推論が正確になるわけではありません。事実誤認やハルシネーション(もっともらしい嘘)は、temperatureを下げても上げても本質的には解決しません。低温にすると同じ誤りを一貫して繰り返すことすらあります。事実精度が問題なら、根拠を渡すRAGや、出力を検証する評価の仕組みなど、別の手立てが必要です。

「temperature 0にすれば完全再現できる」も過信は禁物#

temperatureを0付近まで下げれば出力は安定しますが、完全な決定論にはなりません。Anthropicも公式ドキュメントで、temperatureが0.0でも結果は完全には決定的にならない旨を明記しています。ハードウェアや実装上の要因で、同一入力でも出力がわずかに揺れうるためです。厳密な再現性が要件なら、パラメータだけに頼らず、seed(提供されている場合)や、出力を突き合わせる評価の仕組みなど別手段と組み合わせて考える必要があります。

構造化出力はtemperatureだけでは担保されない#

「JSONを崩さず返してほしいからtemperatureを0にする」という運用をよく見ますが、これも万能ではありません。temperatureを下げると崩れにくくはなりますが、キー名の揺れや必須項目の欠落まで防げる保証はありません。厳密にスキーマへ沿わせたいなら、構造化出力(Structured Outputs)やスキーマ検証といった専用の仕組みを使うのが筋です。temperatureは「ばらつきを減らす補助」であって、形式を保証する道具ではない、と役割を分けて考えてください。

よくある質問(FAQ)#

まとめ#

temperatureとtop-pは、LLMが次のトークンを選ぶときの「ばらつき」を制御するつまみです。temperatureは分布の鋭さを、top-pは残す候補集合を切り詰める。どちらも似た方向に効くので、まずはtemperatureだけを用途に合わせて動かすのが実務では扱いやすい選択です。そして、これらは賢さや事実精度を上げる道具ではないという線引きを忘れないことが、期待外れを避ける近道です。

数値そのものは、環境やモデルが変われば最適解も動きます。大事なのは「何を制御しているパラメータなのか」を理解したうえで、自分のユースケースで小さく確かめることです。まずはtemperatureひとつを、抽出タスクと生成タスクで振り分けてみるところから始めてみてください。