載入中

使用工具的多輪對話

第 27 課10 分鐘
載入中

當您使用多個工具建構應用程式時,您需要處理 Claude 可能需要依序呼叫多個工具來回答單一使用者問題的情境。例如,如果使用者詢問「從今天起 103 天後是星期幾?」,Claude 需要先取得目前的日期,然後將 103 天加到該日期上。

我們的伺服器與 Claude 之間的四則訊息,為求清晰省略了完整的訊息歷史記錄,詳見下文說明。

這會產生一種多輪對話模式,Claude 在提供最終答案之前會發出多個工具請求。您的應用程式需要自動處理這種情況。

多輪工具模式

以下是當 Claude 需要多個工具時,幕後發生的事情:

  1. 使用者詢問:「從今天起 103 天後是星期幾?」
  2. Claude 以請求 get_current_datetime 的工具使用區塊作為回應
  3. 您的伺服器呼叫該函式並回傳結果
  4. Claude 意識到它需要更多資訊,並請求 add_duration_to_datetime
  5. 您的伺服器呼叫該函式並回傳結果
  6. Claude 現在擁有足夠的資訊來提供最終答案

以上步驟的示意圖,顯示您的伺服器與 Claude 之間的五則訊息,使用 ToolUse 和 ToolResult 區塊。

建構對話迴圈

為了處理這種模式,您需要一個對話迴圈,持續進行直到 Claude 不再請求工具為止:

python
def run_conversation(messages):
    while True:
        response = chat(messages)

        add_assistant_message(messages, response)

        # 虛擬碼
        if response isn't asking for a tool:
            break

        tool_result_blocks = run_tools(response)
        add_user_message(messages, tool_result_blocks)
        
    return messages

上方程式碼中的迴圈:如果 Claude 沒有請求工具,我們就得到最終答案,否則就執行工具並重複此過程。

重構輔助函式

在實作對話迴圈之前,您需要更新輔助函式,以正確處理多個訊息區塊。

更新訊息處理函式

您的 add_user_message 和 add_assistant_message 函式目前假設它們始終只處理純文字。更新它們以處理完整的訊息物件:

python
from anthropic.types import Message

def add_user_message(messages, message):
    user_message = {
        "role": "user",
        "content": message.content if isinstance(message, Message) else message
    }
    messages.append(user_message)

這樣一來,您就可以傳入字串、區塊清單,或是完整的訊息物件。

更新聊天函式

修改您的聊天函式,使其接受工具清單,並回傳完整的訊息而非僅回傳文字:

python
def chat(messages, system=None, temperature=1.0, stop_sequences=[], tools=None):
    params = {
        "model": model,
        "max_tokens": 1000,
        "messages": messages,
        "temperature": temperature,
        "stop_sequences": stop_sequences,
    }
    
    if tools:
        params["tools"] = tools
        
    if system:
        params["system"] = system
        
    message = client.messages.create(**params)
    return message

從訊息中擷取文字

由於聊天函式現在回傳的是完整訊息而非僅文字,請新增一個輔助函式,以便在需要時擷取文字:

python
def text_from_message(message):
    return "\n".join(
        [block.text for block in message.content if block.type == "text"]
    )

此函式會尋找訊息中所有的文字區塊並將其合併在一起,當您需要向使用者顯示最終回應時,這會很有用。

為何這些變更很重要

這些重構步驟讓您的程式碼為具備工具功能的對話現實做好準備:

  • 每則訊息包含多個區塊 - Claude 的回應可以同時包含文字和工具使用區塊
  • 靈活的訊息處理 - 您的函式現在可以處理各種訊息格式
  • 完整訊息保留 - 您會保留 Claude 提供的所有資訊,而不僅僅是文字部分
  • 工具清單支援 - 您的聊天函式現在可以接收並使用多個工具

有了這些基礎,您就可以準備實作完整的對話迴圈,自動處理多個工具呼叫,打造無縫的體驗,讓 Claude 能夠使用任何所需的工具來完整回答使用者問題。