載入中
載入中

溫度是一個強大的參數,控制著 Claude 回應的可預測性或創造性程度。了解如何有效使用它,可以大幅改善您的 AI 應用程式。

Claude 如何生成文本

在深入探討溫度之前,先了解 Claude 的文本生成過程會很有幫助。當您向 Claude 傳送像「你怎麼想?」這樣的提示時,它會經歷三個主要步驟:

  • 分詞(Tokenization) - 將您的輸入拆解成較小的區塊
  • 預測(Prediction) - 計算可能的下一個詞的機率
  • 取樣(Sampling) - 根據這些機率選擇一個 token

下一個 token 機率的圖表:「about」0.3、「would」0.2、「of」、「is」和「when」各 0.1、「makes」和「we」各 0.05。

在這個例子中,Claude 可能會給「about」分配 30% 的機率,「would」20%,「of」10%,依此類推。模型接著會選擇一個 token,並重複這個過程以建構完整的回應。

token 清單轉換成長條圖:「about」30%、「would」20%、「of」、「is」和「when」各 10%、「makes」和「we」各 5%。

溫度的作用

溫度是介於 0 和 1 之間的小數值,直接影響這些選擇機率。這就像調整 Claude 回應的「創造力旋鈕」。

低溫時「about」為 100%,其餘為 0%;高溫時這七個 token 分別獲得 23、18、15、12、12、11 和 9%。

在低溫(接近 0)時,Claude 變得非常確定性——它幾乎總是選擇機率最高的 token。在高溫(接近 1)時,Claude 會將機率更均勻地分配到各個選項上,產生更多樣化、更有創意的輸出。

溫度範圍與使用情境

不同的任務需要不同的溫度設定:

低、中、高溫度範圍及其用途,如下所列,箭頭從「創造力較低」指向「創造力較高」。

低溫(0.0 - 0.3)

  • 事實性回應
  • 程式編寫輔助
  • 資料擷取
  • 內容審核

中溫(0.4 - 0.7)

  • 摘要整理
  • 教育內容
  • 問題解決
  • 帶有限制的創意寫作

高溫(0.8 - 1.0)

  • 腦力激盪
  • 創意寫作
  • 行銷內容
  • 笑話生成

在程式碼中實作溫度

為您的聊天函式加入溫度支援很簡單。以下說明如何修改現有的函式:

python
def chat(messages, system=None, temperature=1.0):
    params = {
        "model": model,
        "max_tokens": 1000,
        "messages": messages,
        "temperature": temperature
    }
    
    if system:
        params["system"] = system
    
    message = client.messages.create(**params)
    return message.content[0].text

關鍵變更是新增 temperature=1.0 作為參數,並在 params 字典中加入 "temperature": temperature。

測試溫度效果

想親眼看看溫度的效果,可以嘗試用不同的設定生成電影點子:

python
# 低溫度 - 較可預測
answer = chat(messages, temperature=0.0)

# 高溫度 - 較有創意
answer = chat(messages, temperature=1.0)

在 temperature=0.0 的情況下,您可能會一直得到類似「一位時間旅行的考古學家必須阻止古代文物被竊」這樣的回應。而在 temperature=1.0 的情況下,您會看到生成的創意概念有更豐富的多樣性。

重點整理

請記住,溫度並不保證會產生不同的輸出——它只是改變了得到不同輸出的機率。即使在高溫下,Claude 有時仍可能產生相似的回應。關鍵在於讓您的溫度設定與任務相匹配:

  • 當您需要一致、事實性的回應時,使用低溫
  • 當您想要創造力和多樣性時,使用高溫
  • 嘗試不同的數值,找出最適合您特定使用情境的設定

溫度是微調 Claude 行為最實用的參數之一,使其成為您 AI 開發工具箱中不可或缺的工具。