加载中
加载中

到目前为止,我们编写的代码模拟了一次非常简单的与 Claude 的交流。但是当您想要继续一段对话时会发生什么呢?当您在问完"1+1 等于几?"之后,提出类似"再加 3 呢?"的后续问题时,您可能会期望 Claude 理解您是在询问将 3 加到之前的结果 2 上。

聊天应用中 AI 回复"答案是 2。",然后对后续问题回复"将 3 加到 2 上会得到 5。"

然而,关于 Bedrock API 和 Claude 本身,有一点非常关键,您需要了解。

没有消息存储

Bedrock 和 Claude 不会存储任何消息。您发送的消息不会被存储,您收到的回复也不会被存储。每次 API 调用都是完全独立的。

Bedrock 和 Claude 不存储任何消息,因此一段对话需要下面列出的两个步骤。

要进行一次包含多条消息并保持上下文的对话,您需要:

  • 在代码中手动维护一份完整的消息列表
  • 在每个后续请求中提供这整份消息列表

为什么上下文很重要

让我们看看没有适当上下文时会发生什么。如果您只发送"再加 3 呢?"这样一条独立的消息,Claude 根本不知道您在说什么。它会尽力做出回应,但答案不会合理,因为它缺少您之前对话的上下文。

只包含用户消息"再加 3 呢?"的请求发送到 AWS,其回复是一条由六个问号组成的助手消息。

当您只发送后续问题时,Claude 只能看到那条孤立的消息,并试图在不知道之前"1+1 等于几?"这段交流的情况下做出回应。

一个发送给 AWS 的请求,包含一条用户消息"1 + 1 等于几?",以及返回的助手回复"1 + 1 等于 2。"

构建对话上下文

要保持上下文,您需要在每个请求中包含完整的对话历史。具体操作如下:

发送给 AWS 的消息:用户"1 + 1 等于几?"、助手"1 + 1 等于 2。"以及用户"再加 3 呢?";回复是"3 + 2 等于 5"。

您的消息列表应该包含所有先前的交流——包括用户消息和助手回复。当您发送这份完整的上下文时,Claude 就能理解"再加 3 呢?"指的是将 3 加到之前的结果 2 上。

用于消息管理的辅助函数

为了让对话管理更轻松,您可以创建一些辅助函数:

python
def add_user_message(messages, text):
    user_message = {
        "role": "user",
        "content": [
            {"text": text}
        ]
    }
    messages.append(user_message)

def add_assistant_message(messages, text):
    assistant_message = {
        "role": "assistant", 
        "content": [
            {"text": text}
        ]
    }
    messages.append(assistant_message)

def chat(messages):
    response = client.converse(
        modelId=model_id,
        messages=messages
    )
    return response["output"]["message"]["content"][0]["text"]

实现多轮对话

下面是逐步构建对话的方法:

python
# 创建一个初始消息列表
messages = []

# 加入初始用户问题"What's 1+1?"
add_user_message(messages, "What's 1+1?")

# 将消息列表传入 chat 以获取答案
answer = chat(messages)

# 获取答案并将其作为助手消息添加到列表中
add_assistant_message(messages, answer)

# 加入用户的后续问题
add_user_message(messages, "And 3 more added to that?")

# 再次调用 chat 并传入消息列表以获取最终答案
answer = chat(messages)
print(answer)

这种方法确保 Claude 拥有完整的上下文,并能做出恰当的回应:"从 1+1 = 2 的结果开始,如果我们再加 3,就会得到:2 + 3 = 5"

消息角色交替

在构建消息列表时,务必确保消息角色正确交替:

四条交替出现的消息:用户"1 + 1 等于几?"、助手"1 + 1 等于 2。"、用户"再加 3 呢?"、助手"3 + 2 等于 5。"

您的对话应遵循以下模式:用户 → 助手 → 用户 → 助手。绝不要连续出现两条用户消息,也不要连续出现两条助手消息。这种交替模式是 API 所要求的,也体现了自然的对话流程。

虽然这种手动消息管理一开始可能看起来很繁琐,但您很快就会习惯。这种模式对于构建任何需要与 Claude 保持对话上下文的应用程序都是基础性的。