載入中

Multi-turn conversations with tools

第 26 課10 分鐘
載入中

在建構具有多個工具的應用程式時,您需要處理 Claude 可能需要依序呼叫多個工具才能回答單一使用者問題的情況。例如,如果使用者問「今天起 103 天後是哪一天?」,Claude 需要先取得目前日期,然後將 103 天加到該日期上。

我們的伺服器與 Claude 之間的四則訊息,為求清晰已省略完整訊息歷史,詳述如下。

這會形成一種多輪對話模式,Claude 在提供最終答案之前會發出多個工具請求。您的應用程式需要自動處理這種情況。

多輪工具模式

以下是當 Claude 需要多個工具時,幕後實際發生的情況:

  1. 使用者詢問:「今天起 103 天後是哪一天?」
  2. Claude 回應一個請求 get_current_datetime 的工具使用區塊
  3. 您的伺服器呼叫該函式並回傳結果
  4. Claude 意識到需要更多資訊,並請求 add_duration_to_datetime
  5. 您的伺服器呼叫該函式並回傳結果
  6. Claude 現在擁有足夠的資訊來提供最終答案

上述步驟以您的伺服器與 Claude 之間五則訊息的圖示說明,使用 ToolUse 與 ToolResult 區塊。

建構對話迴圈

要處理這種模式,您需要一個對話迴圈,該迴圈會持續執行直到 Claude 不再請求工具為止:

python
def run_conversation(messages):
    while True:
        response = chat(messages)

        add_assistant_message(messages, response)

        # 虛擬碼
        if response isn't asking for a tool:
            break

        tool_result_blocks = run_tools(response)
        add_user_message(messages, tool_result_blocks)
        
    return messages

上方程式碼中的迴圈:如果 Claude 沒有請求工具,我們就有了最終答案;否則就執行工具並重複此流程。

重構輔助函式

在實作對話迴圈之前,您需要更新輔助函式,以正確處理多個訊息區塊。

更新訊息處理函式

您的 add_user_message 與 add_assistant_message 函式目前假設您始終在處理純文字。請更新它們以處理完整的訊息物件:

python
from anthropic.types import Message

def add_user_message(messages, message):
    user_message = {
        "role": "user",
        "content": message.content if isinstance(message, Message) else message
    }
    messages.append(user_message)

這讓您可以傳入字串、區塊列表,或是完整的訊息物件。

更新 Chat 函式

修改您的 chat 函式,使其能接受工具列表並回傳完整的訊息,而非僅回傳文字:

python
def chat(messages, system=None, temperature=1.0, stop_sequences=[], tools=None):
    params = {
        "model": model,
        "max_tokens": 1000,
        "messages": messages,
        "temperature": temperature,
        "stop_sequences": stop_sequences,
    }
    
    if tools:
        params["tools"] = tools
        
    if system:
        params["system"] = system
        
    message = client.messages.create(**params)
    return message

從訊息中擷取文字

由於您現在回傳的是完整的訊息物件,請建立一個輔助函式以便在需要時擷取文字:

python
def text_from_message(message):
    return "\n".join(
        [block.text for block in message.content if block.type == "text"]
    )

此函式會找出訊息中所有的文字區塊並將它們合併在一起,這在您需要向使用者顯示最終回應時相當實用。

關鍵改進

這些重構步驟為您的程式碼做好了準備,以便穩健地處理工具:

  • 靈活的訊息處理 — 您的輔助函式現在可以處理不同的訊息格式
  • Chat 中支援工具 — chat 函式可以接收並傳遞工具架構(schema)
  • 回傳完整訊息 — 您會取得完整的訊息物件,而非僅有文字,保留所有區塊
  • 文字擷取工具 — 從複雜訊息中取得可讀文字的簡易方法

有了這些基礎,您就準備好實作能自動處理多次工具呼叫的對話迴圈了,從而打造出一個無縫的體驗,讓 Claude 能夠依需要使用任意多個工具來回答使用者的問題。