加载中
加载中

向 AWS Bedrock 发起您的第一个 API 请求需要三个基本组成部分:一个用于连接该服务的 Bedrock Runtime 客户端、一个用于指定要运行哪个模型的模型 ID,以及一个包含您想要输入给模型的文本的用户消息。

设置 Bedrock 客户端

客户端会使用您的 AWS 凭证为每个请求签名,因此请在开始之前先设置好这些凭证。安装 AWS CLI,然后使用 aws configure 或AWS CLI 凭证指南中的其他选项来设置您的凭证。如果没有凭证,您的第一个请求将以 NoCredentialsError 终止。

使用 pip install boto3 安装 boto3。然后创建一个客户端以连接到 Bedrock runtime 服务:

python
import boto3

client = boto3.client("bedrock-runtime", region_name="us-west-2")

理解模型 ID 和区域可用性

这里有一个比较棘手的地方。并非每个模型在每个 AWS 区域都可用。如果您尝试运行一个在您选定区域中不存在的模型,您将收到一条含糊的错误消息,提示该模型不存在。

运行模型 ID "anthropic.claude-v1" 的请求到达 AWS 区域 us-west-2,在该区域该模型名为 Claude Sonnet。

例如,如果 Claude Sonnet 在 us-west-2 可用,但您是从 us-east-1 发起请求,那么您的请求将会失败。

一个运行模型 ID "anthropic.claude-v1" 的请求在 us-east-1 返回了错误,因为该区域没有该模型,而该模型位于 us-west-2。

使用推理配置文件

推理配置文件通过自动将您的请求路由到实际托管您所选模型的区域,解决了区域可用性的问题。

名为 US Anthropic Claude Sonnet 的推理配置文件示例:配置文件 ID us.profile.claude-v1,模型 ID anthropic.claude-v1。

您无需追踪哪些模型位于哪些区域,而是可以使用一个推理配置文件,它知道该模型在 us-west-2 和 us-east-2 等多个区域都可用。

一个在 us-east-1 运行推理配置文件 "us.profile.claude-v1" 的请求被路由到位于 us-west-2 的 anthropic.claude-v1。

当您使用推理配置文件发起请求时,AWS 会自动将其路由到您的模型实际存在的正确区域,即使您是从不同的区域连接的。

要查找推理配置文件 ID,请前往 AWS Bedrock 控制台,查看"跨区域推理(Cross-region inference)"部分,而不是使用主模型目录页面中的模型 ID。

AWS Bedrock 控制台,跨区域推理页面,列出了推理配置文件,每个配置文件 ID 旁边都有一个复制按钮。

复制您所选模型的推理配置文件 ID。本课程中的示例使用的是 Claude Haiku 4.5,其推理配置文件 ID 为 us.anthropic.claude-haiku-4-5-20251001-v1:0:

python
model_id = "us.anthropic.claude-haiku-4-5-20251001-v1:0"

创建用户消息

用户消息有一种特定的结构,乍一看可能显得过于复杂,但这是有充分理由的:

python
user_message = {
    "role": "user",
    "content": [
        {"text": "What's 1+1?"}
    ]
}

内容之所以是一个列表,是因为单条消息可以包含不同类型的内容——文本、图像或其他媒体类型。这种结构使您能够发送多模态请求。

一条用户消息,其内容列表中包含一个格式为 png、带有源字节的图像块,随后是文本"这张图片里是什么?"。

发起请求

现在您可以使用 converse 方法来发起您的 API 调用:

python
response = client.converse(
    modelId=model_id,
    messages=[user_message]
)

响应中包含大量元数据,但要仅获取生成的文本,您需要在响应结构中进行导航:

python
response["output"]["message"]["content"][0]["text"]

理解消息类型

您将会用到两种主要的消息类型:

  • 用户消息 - 您想要输入给模型的内容(role: "user")
  • 助手消息 - 模型生成的内容(role: "assistant")

聊天窗口将消息"定义量子计算"标注为用户消息,AI 的回复标注为助手消息。

这两种消息类型都遵循相同的结构,包含一个 role 和一个 content 列表。这种一致性使得通过在用户消息和助手消息之间交替来构建对话变得非常容易。

您从 Bedrock 获取的助手消息,遵循与您的用户消息完全相同的格式,只是 role 不同。这种标准化的结构使得将多个请求串联起来以进行更长的对话变得非常直接。