載入中
載入中

當您使用 Claude 建構應用程式時,了解完整的請求生命週期有助於您做出更好的架構決策,並更有效地偵錯問題。讓我們逐步了解從使用者在您的聊天介面點擊「傳送」的那一刻,到 Claude 的回應出現在畫面上之間發生的事情。

聊天視窗,顯示一則來自「You」的訊息,內容為「What is quantum computing?」,以及一個空白的輸入框和一個傳送按鈕。

五步驟請求流程

與 Claude 的每一次互動都遵循一個可預測的模式,包含五個不同的階段:請求到伺服器、請求到 Anthropic API、模型處理、回應到伺服器,以及回應到客戶端。

步驟 1,請求到伺服器:網頁或行動應用程式將「What is quantum computing?」作為請求傳送到您的伺服器。

為什麼您需要伺服器

您絕不應該直接從客戶端程式碼向 Anthropic API 發出請求。原因如下:

  • API 請求需要一個秘密的 API 金鑰進行身份驗證
  • 在客戶端程式碼中暴露此金鑰會造成嚴重的安全漏洞
  • 任何人都可能擷取該金鑰並發出未經授權的請求

相反地,您的網頁或行動應用程式會將請求傳送到您自己的伺服器,然後由伺服器使用安全儲存的金鑰與 Anthropic API 通訊。

發出 API 請求

當您的伺服器連絡 Anthropic API 時,您可以使用官方 SDK,也可以發出純 HTTP 請求。Anthropic 提供 Python、TypeScript、JavaScript、Go 和 Ruby 的 SDK。

請求到 Anthropic API 步驟:輸入文字被放入一則「user」訊息中,然後該訊息被放入訊息列表中。

每個請求都必須包含以下必要欄位:

  • API 金鑰 - 向 Anthropic 識別您的請求
  • 模型 - 要使用的模型名稱(例如「claude-haiku-4-5」)
  • 訊息 - 包含使用者輸入文字的列表
  • 最大 token 數 - 限制 Claude 可以生成的 token 數量

Claude 處理的內部流程

一旦 Anthropic 收到您的請求,Claude 會透過四個主要階段來處理它:分詞(tokenization)、嵌入(embedding)、上下文化(contextualization)和生成(generation)。

分詞:使用者輸入「What is quantum computing?」被拆分為 token「What」、「is」、「quantum」、「computing」和「?」。

分詞

Claude 首先將您的輸入文字分解成稱為 token 的較小區塊。這些可以是完整的單詞、單詞的一部分、空格或符號。為簡化起見,可以將每個單詞視為一個 token。

嵌入

每個 token 都會被轉換成一個嵌入(embedding)——一長串代表該單詞所有可能含義的數字。可以將嵌入視為捕捉語義關係的數值定義。

圖表顯示「quantum」分支出下方列出的四種含義,以及其拉丁字根「quantus」,意思是「多少」。

單詞通常有多重含義。例如,「quantum」可能指:

  • 物理量的離散單位(物理學)
  • 量子力學或量子物理概念
  • 極其微小或亞原子的事物
  • 量子計算應用

上下文化

Claude 根據周圍的單詞來細化每個嵌入,以確定該單詞在上下文中最可能的含義。這個過程會調整數值表示,以凸顯適當的定義。

Anthropic API 的上下文化階段,連接到五欄小數,例如 -0.34 和 0.87,以弧線連結。

生成

經過上下文化的嵌入會通過一個輸出層,該層會計算每個可能的下一個單詞的機率。Claude 並不總是選擇機率最高的單詞——它會混合使用機率和受控的隨機性,以創造自然且多樣的回應。

來自輸出層的下一個單詞機率:30%「Quantum」、23%「Great」、19%「Are」、10%「What」、10%「This」、8%「To」。

選定每個單詞後,Claude 會將其加入序列中,並對下一個單詞重複整個過程。

Claude 何時停止生成

每個 token 之後,Claude 會檢查幾個條件,以決定是否繼續:

輸出 token「Quantum mechanics is a form of computing.」以一個序列結束 token 結尾,下方列出三項停止檢查。

  • 達到最大 token 數 - 是否已達到您指定的限制?
  • 自然結束 - 是否生成了序列結束 token?
  • 停止序列 - 是否遇到了預先定義的停止短語?

API 回應

生成完成後,API 會傳回一個結構化的回應,其中包含:

  • 訊息 - 生成的文字
  • 用量 - 輸入和輸出 token 的計數
  • 停止原因 - 生成結束的原因

回應從 Anthropic API 流回您伺服器上的 Anthropic SDK,輸出文字包含在一則「assistant」訊息中。

您的伺服器接收此回應,並將生成的文字轉發回您的客戶端應用程式,然後顯示在使用者介面中。

聊天應用程式的問題「What is quantum computing?」傳送到您伺服器的 Anthropic SDK,然後傳到 Anthropic API,再傳回來。

重點摘要

了解此流程有助於您:

  • 設計能保護您 API 金鑰的安全架構
  • 為您的使用情境設定適當的 token 限制
  • 在您的應用程式邏輯中處理不同的停止原因
  • 透過了解問題可能發生在流程中的哪個環節來偵錯問題

不必擔心要記住每一個細節——目標是讓您熟悉在使用 Claude API 時會遇到的術語和整體流程。