載入中
載入中

到目前為止我們寫的程式碼模擬了一次非常簡單的與 Claude 的交流。但是,當您想要繼續一段對話時會發生什麼呢?當您在問了「1+1 等於多少?」之後,又問了一個後續問題「再加 3 呢?」,您可能會期望 Claude 理解您是在問將 3 加到先前結果 2 上。

聊天應用程式中 AI 回覆「答案是 2。」然後對後續問題回覆「將 3 加到 2 上會得到 5。」

然而,關於 Bedrock API 和 Claude 本身,有一件關鍵的事情您需要了解。

不儲存訊息

Bedrock 和 Claude 不會儲存任何訊息。您發送的訊息都不會被儲存,您收到的回應也不會被儲存。每一次 API 呼叫都是完全獨立的。

Bedrock 和 Claude 不會儲存任何訊息,因此一段對話需要以下列出的兩個步驟。

要進行一段維持上下文的多訊息對話,您需要:

  • 在程式碼中手動維護所有訊息的清單
  • 在每次後續請求中提供該完整的訊息清單

為什麼上下文很重要

讓我們看看沒有適當上下文會發生什麼。如果您只單獨發送「再加 3 呢?」這則訊息,Claude 完全不知道您在指什麼。它會盡力回應,但答案不會有意義,因為它缺少您先前對話的上下文。

只包含使用者訊息「再加 3 呢?」的請求傳送到 AWS,其回覆的助理訊息是六個問號。

當您只發送後續問題時,Claude 只看到那則孤立的訊息,並試圖在不知道先前「1+1 等於多少?」交流的情況下回應。

一個傳送到 AWS 的請求,包含一則使用者訊息「1 + 1 等於多少?」,以及回傳的助理回覆「1 + 1 等於 2。」

建立對話上下文

要維持上下文,您需要在每次請求中包含完整的對話歷史。以下是運作方式:

傳送到 AWS 的訊息:使用者「1 + 1 等於多少?」、助理「1 + 1 等於 2。」以及使用者「再加 3 呢?」;回覆是「3 + 2 等於 5」。

您的訊息清單應包含所有先前的交流——包括使用者訊息和助理回應。當您發送這個完整的上下文時,Claude 就能理解「再加 3 呢?」指的是將 3 加到先前的結果 2 上。

用於訊息管理的輔助函式

為了讓對話管理更容易,您可以建立輔助函式:

python
def add_user_message(messages, text):
    user_message = {
        "role": "user",
        "content": [
            {"text": text}
        ]
    }
    messages.append(user_message)

def add_assistant_message(messages, text):
    assistant_message = {
        "role": "assistant", 
        "content": [
            {"text": text}
        ]
    }
    messages.append(assistant_message)

def chat(messages):
    response = client.converse(
        modelId=model_id,
        messages=messages
    )
    return response["output"]["message"]["content"][0]["text"]

實作多輪對話

以下是逐步建立對話的方法:

python
# 建立一個初始訊息清單
messages = []

# 加入使用者最初的問題「What's 1+1?」
add_user_message(messages, "What's 1+1?")

# 將訊息清單傳入 chat 以取得答案
answer = chat(messages)

# 取出答案並將其作為 assistant 訊息加入我們的清單
add_assistant_message(messages, answer)

# 加入使用者的後續問題
add_user_message(messages, "And 3 more added to that?")

# 再次呼叫 chat 並傳入訊息清單以取得最終答案
answer = chat(messages)
print(answer)

這種方法確保 Claude 擁有完整的上下文,並能做出適當的回應:「從 1+1 = 2 的結果開始,如果我們再加 3,我們得到:2 + 3 = 5」

訊息角色交替

在建立您的訊息清單時,務必確保訊息角色正確地交替:

四則交替的訊息:使用者「1 + 1 等於多少?」、助理「1 + 1 等於 2。」、使用者「再加 3 呢?」、助理「3 + 2 等於 5。」

您的對話應遵循以下模式:使用者 → 助理 → 使用者 → 助理。絕不要連續出現兩則使用者訊息或兩則助理訊息。這種交替模式是 API 所要求的,也反映了自然的對話流程。

雖然這種手動訊息管理一開始看起來可能很繁瑣,但您很快就會習慣的。這種模式是建立任何需要與 Claude 維持對話上下文的應用程式的基礎。