當您反覆向 Claude 傳送相同的內容時,提示快取是一項強大的優化功能,能讓請求變得更便宜、更快速。初始請求會寫入快取,而後續請求則可從中讀取。快取的有效期為 5 分鐘,由於許多應用程式會反覆傳送相同的工具結構描述、系統提示或訊息歷史,因此這項功能極為有用。

提示快取的運作方式
當您標記內容以進行快取時,Claude 只會處理一次並儲存結果。包含完全相同內容的後續請求可以跳過處理步驟,直接從快取中讀取。這僅在快取的內容完全相同時才有效——即使只是單一字元的變更也會使快取失效。
您可以在單一請求中設定多個快取斷點。快取順序遵循以下次序:
- 工具結構描述
- 系統提示
- 訊息歷史
設定工具結構描述快取
若要快取工具結構描述,您需要在工具清單的最後一個工具中加入 cache_control 欄位。以下是在不修改原始工具結構描述的情況下正確執行此操作的方法:
if tools:
tools_clone = tools.copy()
last_tool = tools_clone[-1].copy()
last_tool["cache_control"] = {"type": "ephemeral"}
tools_clone[-1] = last_tool
params["tools"] = tools_clone這種做法會在加入快取控制欄位之前,建立工具清單和最後一個工具結構描述的副本。這可防止意外修改您原始的工具定義,若之後重新排序工具,這種修改可能會導致問題。
系統提示快取
對於系統提示,您需要將 system 參數結構化為一個包含文字區塊的清單,該文字區塊包括快取控制欄位:
if system:
params["system"] = [
{
"type": "text",
"text": system,
"cache_control": {"type": "ephemeral"}
}
]理解快取行為
當您首次發出含有可快取內容的請求時,您會在 usage 欄位中看到 cache_creation_input_tokens。這顯示了 Claude 寫入快取的權杖(token)數量。在後續使用完全相同內容的請求中,您會看到的則是 cache_read_input_tokens。
如果同一個請求中同時包含已快取和新的內容,您可能會同時看到快取讀取和快取寫入。例如,若您保留相同的工具結構描述但變更系統提示,您會從快取中讀取工具,同時將新的系統提示寫入快取。只有當工具本身達到最小長度時,您才會得到那種部分讀取,因為若某個快取斷點到該點為止的內容低於最小長度,則不會寫入任何內容。
快取失效
快取對變更極為敏感。即使只是在工具結構描述說明、系統提示或任何已快取內容中修改單一字元,也會使該快取項目失效。發生這種情況時,Claude 會將其視為全新的內容,並建立一個全新的快取項目。
這種敏感性意味著您應該謹慎考慮要快取的內容。在許多請求中保持穩定的工具結構描述和系統提示是理想的候選對象。頻繁變動的動態內容則無法從快取中獲益。
實務實作
在實務上,您會希望預設將快取機制內建於您的聊天函式中。大多數應用程式會在多個請求中使用相同的工具結構描述和系統提示,使它們成為快取的絕佳對象。當您使用類似內容發出大量請求時,效能和成本上的益處會非常顯著。
請記住,當您反覆傳送相同內容時,快取最有價值。由於這種情況在實際應用程式中極為頻繁地發生——尤其是在工具結構描述和系統提示方面——在開發過程早期就實作快取機制,將在您的應用程式擴展時帶來豐厚的回報。