読み込み中
読み込み中

Temperatureは、Claudeの応答がどれだけ創造的になるか、あるいは決定論的になるかを制御する強力なパラメータです。これを効果的に使う方法を理解すれば、AIアプリケーションを大きく改善できます。

Claudeがテキストを生成する仕組み

Temperatureについて説明する前に、Claudeのテキスト生成プロセスを理解しておくと役立ちます。「What do you think?」のようなプロンプトをClaudeに送信すると、次の3つのフェーズを経て処理されます。

  • トークン化: 入力をより小さな単位に分割する
  • 予測: 次に来る可能性のあるトークンの確率を計算する
  • サンプリング: それらの確率に基づいてトークンを選択する

次トークンの確率図: "about" 0.3、"would" 0.2、"of"、"is"、"when" がそれぞれ0.1、"makes" と "we" がそれぞれ0.05。

上の図では、Claudeが次に来る可能性のあるトークンにどのように異なる確率を割り当てるかが示されています。「about」という単語は30%の確率を持ち、「would」は20%、といった具合です。このプロセスは、応答が完成するまで各トークンについて繰り返されます。

トークンリストを棒グラフにしたもの: "about" 30%、"would" 20%、"of"、"is"、"when" がそれぞれ10%、"makes" と "we" がそれぞれ5%。

Temperatureが行うこと

Temperatureは0から1の間の小数値で、これらのトークン選択確率に直接影響を与えます。創造性を調整するダイヤルだと考えてください。

  • 低いtemperature(0に近い): 最も確率の高いトークンが選択される可能性をさらに高める
  • 高いtemperature(1に近い): 可能なすべてのトークンにより均等に確率を分散させる

低いtemperatureでは "about" が100%、残りが0%。高いtemperatureでは7つのトークンがそれぞれ23%、18%、15%、12%、12%、11%、9%。

temperature 0では、Claudeは決定論的になります。つまり、常に最も確率の高いトークンを選択します。temperature 1では、確率の低いトークンが選択される可能性が大幅に高まり、より創造的で多様な出力につながります。

Temperatureの範囲と用途

タスクの種類によって、適切なtemperatureの設定は異なります。

3つのtemperatureの範囲とその用途(下記に記載)を、創造性が低いものから高いものへの矢印の上に示した図。

低いtemperature(0.0~0.3)

  • 事実に基づく応答
  • コーディング支援
  • データ抽出
  • コンテンツモデレーション

中程度のtemperature(0.4~0.7)

  • 要約
  • 教育コンテンツ
  • 問題解決
  • 制約付きのクリエイティブライティング

高いtemperature(0.8~1.0)

  • ブレインストーミング
  • クリエイティブライティング
  • マーケティングコンテンツ
  • ジョークの生成

コードでのTemperatureの設定

デフォルトでは、Claudeのtemperatureは1.0に設定されており、これは最大限の創造性を意味します。推論設定にtemperatureを追加することで、これを上書きできます。

python
def chat(messages, system=None, temperature=1.0):
    params = {
        "modelId": model_id,
        "messages": messages,
        "inferenceConfig": {"temperature": temperature}
    }
    
    if system:
        params["system"] = [{"text": system}]
    
    response = client.converse(**params)
    return response["output"]["message"]["content"][0]["text"]

実践におけるTemperature

映画のアイデア生成を使った実際の例を見てみましょう。temperatureをデフォルト(1.0)に設定した場合、次のような創造的な応答が得られるかもしれません。

「引きこもりの折り紙職人が、自分の精巧な紙の作品が夜になると生き返ることを発見し、その存在を解こうとする謎の影の生き物から、小さな世界を救うための魔法の旅に出る。」

しかし、同じプロンプトに対してtemperatureを0.0に設定すると、一貫してより予測可能な応答が得られます。

「タイムトラベルする考古学者が、忘れられた力を利用して終末兵器を作ろうとするテック億万長者によって古代の遺物が盗まれるのを防がなければならない。」

低いtemperatureのバージョンを何度も実行すると、非常によく似た応答が生成され、「タイムトラベルする歴史家」や「タイムトラベルする考古学者」といったテーマが繰り返されることがよくあります。

重要なポイント

Temperatureにより、Claudeの創造性のレベルを直接制御できます。一貫性があり事実に基づく応答が必要な場合は低いtemperatureを使用し、創造的で多様な出力を求める場合は高いtemperatureを使用してください。デフォルトのtemperature 1.0は創造性を最大化するため、精度と一貫性が求められるタスクでは、これを下げることを検討してください。