載入中
載入中

擴展思考是 Claude 的進階推理功能,能讓模型在生成回應之前先花時間思考複雜的問題。啟用後,Claude 會產生一個可見的思考過程,使用者可以檢視這個過程,以了解模型是如何處理他們的查詢的。

Claude 關於結束 JSON 定界符的對話,標註了「使用者查詢」、「思考/推理」和「回應」的標籤。

這項功能能大幅提升 Claude 處理複雜任務的準確度,但也伴隨著重要的取捨。您將為思考階段產生的所有 token 付費,而額外的處理時間也會增加回應延遲。關鍵在於判斷何時智能的提升足以抵得過額外的成本與等待時間。

何時使用擴展思考

啟用擴展思考的決定應該以您的提示評估結果為依據。以下是建議的做法:

  • 先撰寫並測試您的提示,不啟用擴展思考
  • 執行評估以衡量準確度
  • 如果在優化提示後,結果仍未達到您的標準
  • 再考慮啟用擴展思考作為解決方案

擴展思考如何改變回應

在沒有擴展思考的情況下,Claude 的回應流程很直接——您傳送一則包含文字區塊的使用者訊息,並收到一則包含文字區塊的助手訊息作為回覆。

Claude 對「撰寫一份簡短的遞迴指南」的回覆開頭為「遞迴是一種強大的程式設計技巧」。

啟用擴展思考後,回應結構會有顯著的改變。您將收到一則包含兩個不同區塊的助手訊息:

啟用思考功能時,我們的伺服器傳送「撰寫一份簡短的遞迴指南」,Claude 會回傳一個思考區塊,然後是一個文字區塊。

  • 一個包含 Claude 推理過程的 thinking 區塊
  • 一個包含最終回應的 text 區塊

簽章系統

每個思考區塊都包含一個具有重要安全用途的加密簽章。此簽章確保當您在未來的對話輪次中包含該訊息時,思考文字沒有被修改過。

助手訊息 JSON,思考區塊中以高亮顯示「signature」鍵,其值為一個很長的被截斷的 token。

Claude 在生成回應時高度依賴思考內容,因此防止竄改對於維持安全一致的行為至關重要。如果您修改了思考文字,簽章驗證就會失敗。

已編輯的思考內容

有時 Claude 的思考過程會被內部安全系統標記。發生這種情況時,您會收到一個已編輯的思考區塊,而不是原始的思考文字。

助手訊息:高亮顯示的「redacted_thinking」區塊含有加密的「data」,接著是一個「text」區塊「A Guide to Recursion」。

已編輯的內容以加密形式包含實際的思考文字。雖然您無法讀取它,但您仍然可以在未來的對話輪次中包含此區塊,這樣 Claude 就不會失去先前推理的上下文。

實作方式

若要在您的程式碼中啟用擴展思考,您需要在聊天函式中加入兩個新參數:

python
def chat(
    messages,
    system=None,
    temperature=1.0,
    stop_sequences=[],
    tools=None,
    thinking=False,
    thinking_budget=1024
):

思考預算代表 Claude 可用於推理的最大 token 數量。允許的最小值是 1024 個 token。重要的是,您的 max_tokens 參數必須超過您的思考預算——如果您設定的思考預算為 1024,max_tokens 至少必須為 1025。

實務上,您會希望有更大的緩衝空間。例如,思考預算為 1024、max_tokens 為 4000 時,Claude 最多可以使用 1024 個 token 進行思考,並使用最多 2976 個 token 來產生實際的回應。

當啟用此功能時,請將思考設定加入您的 API 參數中:

python
if thinking:
    params["thinking"] = {
        "type": "enabled",
        "budget_tokens": thinking_budget
    }

測試已編輯的回應

在開發期間,您可能會想測試您的應用程式如何處理已編輯的思考區塊。您可以透過在訊息中加入這個特殊的觸發字串,強制 Claude 回傳已編輯的回應:

TRIGGER_REDACTED_THINKING_46C9A13E193C177646C7398A98432ECCCE4C1253D5E2D82641AC0E52CC2876CB

這可以確保當您的應用程式在正式環境中遇到已編輯的內容時,錯誤處理能正確運作。