載入中
載入中

在使用 AI 模型建構應用程式時,您需要了解資料從使用者輸入到 AI 生成回應的流程。讓我們一起了解這在 AWS Bedrock 中是如何運作的,並看看一個典型聊天應用程式背後發生了什麼事。

聊天應用程式的運作方式

想像您正在建構一個具有簡單聊天介面的網頁應用程式。使用者輸入「Define quantum computing」並點擊傳送。以下是實際發生的情況:

聊天介面顯示來自「You」的訊息「Define quantum computing」、一個空白輸入框和一個「Send」按鈕。

使用者看到的是一個乾淨的介面,但在幕後有一整套系統在運作以生成該回應。

聊天應用程式中 AI 的回覆表示量子運算可以比傳統電腦更快地解決某些問題。

請求流程

當使用者送出文字時,以下是該訊息所經歷的旅程:

使用者訊息從聊天介面傳送到您伺服器上的 Bedrock 客戶端,再傳送到 AWS Bedrock,詳情如下所述。

  1. 使用者透過您的網頁介面送出訊息
  2. 您的伺服器接收包含該文字的請求
  3. 您的伺服器使用 Bedrock 客戶端向 AWS Bedrock 發出請求
  4. 請求中包含使用者訊息和模型 ID(例如 Claude Haiku 或 Claude Sonnet)
  5. 所選模型處理該請求並生成文字
  6. AWS Bedrock 回傳一則包含生成回應的助手訊息
  7. 您的伺服器將此回應轉發回使用者的瀏覽器

「Define quantum computing」從聊天框經由您伺服器的 Bedrock 客戶端到 AWS Bedrock 的來回旅程。