加载中
加载中

在使用 AI 模型构建应用程序时,您需要了解从用户输入到 AI 生成响应的数据流转过程。让我们一起了解这一过程在 AWS Bedrock 中是如何运作的,看看一个典型聊天应用背后究竟发生了什么。

聊天应用的工作原理

想象一下,您正在构建一个带有简单聊天界面的网络应用。用户输入"Define quantum computing"(定义量子计算)并点击发送。以下是实际发生的过程:

聊天界面显示来自"You"的消息"Define quantum computing",一个空白的输入框和一个"Send"按钮。

用户看到的是一个简洁的界面,但在幕后,整个系统正在协同工作以生成该响应。

聊天应用中,AI 的回复说量子计算可以比经典计算机更快地解决某些问题。

请求流程

当用户提交文本时,该消息会经历以下流程:

用户消息从聊天界面发送到您服务器上的 Bedrock 客户端,然后再发送到 AWS Bedrock,具体说明见下文。

  1. 用户通过您的网络界面提交消息
  2. 您的服务器接收包含该文本的请求
  3. 您的服务器使用 Bedrock 客户端向 AWS Bedrock 发出请求
  4. 该请求包含用户消息和一个模型 ID(例如 Claude Haiku 或 Claude Sonnet)
  5. 所选模型处理该请求并生成文本
  6. AWS Bedrock 返回包含生成响应的助手消息
  7. 您的服务器将该响应转发回用户的浏览器

"Define quantum computing"(定义量子计算)从聊天框经由您服务器的 Bedrock 客户端发送到 AWS Bedrock,再返回的完整往返过程。