温度(テンパラチャー)って何?
モデルが次の単語を生み出すとき、実際は候補の単語の山から「くじを引いて」います。各単語には選ばれる確率があります。温度はそのくじの「熱さ」を決めるつまみ。確率が一番高い単語を素直に選ぶのか、たまに冒険してマイナーな単語を選ぶのかを左右します。どう効く?
低いほど保守的低温度ではほぼ常に一番無難な単語を選び、出力は安定して予測可能に。コード、翻訳、事実問題向きです。
高いほど大胆
高温度はマイナーな単語にもチャンスを与え、出力は跳ねるようにクリエイティブに。物語やキャッチコピー向きですが、デタラメも増えます。
数値の目安
0付近ほぼ毎回最善手を選び、結果は再現可能。正確さが要る作業向き。
0.7〜1.0
日常会話や一般の文章にちょうど良いバランス。
1.0以上
解き放たれたモード。ブレインストーミング向きで、人の目での選別が前提。
何ではない?
温度は「賢さ」のスイッチではありません。上げてもモデルは賢くならず、話し好きになるだけ。下げても鈍くならず、控えめになるだけ。温度が扱うのは「ランダムさ」であって「能力」ではありません。まとめ:温度はAIの「度胸のつまみ」。信頼性が欲しいなら低く、驚きが欲しいなら高く。
コメント