載入中

完整的 RAG 流程

第 35 課6 分鐘
載入中

現在我們已經介紹了 RAG、文本分塊和嵌入的基礎知識,讓我們逐步走過完整的 RAG 流程。這個範例將向您展示所有這些部分如何協同工作,以檢索相關資訊並生成回應。

步驟 1:分割您的來源文本

首先,我們將來源文件分割成可管理的區塊。在這個範例中,我們將使用兩個簡單的文本區段:

  • 區段 1:醫學研究 —「今年我們對 XDR-47(一種我們以前從未見過的『bug』)的理解取得了重大進展。」
  • 區段 2:軟體工程 —「這個部門投入了大量心力來研究我們分散式系統中的各種感染途徑。」

步驟 2:生成嵌入

接下來,我們使用嵌入模型將每個文本區塊轉換為數值嵌入。為了更容易理解,讓我們假設我們有一個完美的嵌入模型,它總是準確地回傳兩個數字,而且我們知道每個數字代表什麼。

兩個文本區塊通過一個假想的嵌入模型,輸出下方描述的兩數字嵌入。

在我們這個假想模型中:

  • 第一個數字代表文本談論醫學領域的程度
  • 第二個數字代表文本談論軟體工程的程度

對於醫學研究區段,我們可能得到 [0.97, 0.34]——非常偏重醫學,但由於「bug」這個詞而帶有一些軟體元素。對於軟體工程區段,我們得到 [0.30, 0.97]——高度偏重軟體,但由於「infection vectors」而帶有一些醫學色彩。

正規化

嵌入 API 通常會執行一個正規化步驟,將每個向量縮放到大小為 1.0。您不需要擔心這裡的數學運算——這是自動處理的。這會給我們像 [0.944, 0.331] 和 [0.295, 0.955] 這樣的正規化向量。

單位圓,其中醫學研究指向約為醫學的方向,軟體工程指向約為軟體的方向,每個箭頭長度為 1.0。

我們可以在一個單位圓上視覺化這些嵌入,其中每個點代表我們其中一個文本區塊。

嵌入「0.944, 0.331」代表醫學研究,「0.295, 0.955」代表軟體工程,輸入向量資料庫。

步驟 3:儲存在向量資料庫中

我們將這些嵌入儲存在向量資料庫中——這是一種專門優化用於儲存、比較和搜尋像我們的嵌入這樣的長串數字的資料庫。

假想的嵌入模型將使用者的問題嵌入為 0.1 和 0.89,有點與醫學相關,但偏重於軟體。

此時,我們暫停一下。到目前為止所做的所有工作都是提前進行的預處理。現在我們等待使用者提交查詢。

步驟 4:處理使用者查詢

當使用者提出像「我對這家公司很好奇。具體來說,軟體工程部門今年做了什麼?」這樣的問題時,我們會將他們的查詢透過相同的嵌入模型處理。

嵌入使用者查詢並尋找最接近嵌入的階段,指出「公司」有點與醫學相關,但偏重於軟體。

這個查詢會被嵌入為類似 [0.1, 0.89] 的形式——醫學分數低,軟體工程分數高。正規化後,我們得到 [0.112, 0.993]。

步驟 5:尋找相似的嵌入

我們將使用者的查詢嵌入傳送到向量資料庫,並要求它找出最相似的已儲存嵌入。

單位圓,其中使用者查詢向量幾乎與軟體工程向量重疊,而遠離醫學研究向量。

資料庫回傳了軟體工程區段,因為它是與使用者所詢問內容最接近的匹配。

相似度如何運作:餘弦相似度

向量資料庫使用餘弦相似度來確定哪些嵌入最相似。這會測量兩個向量之間夾角的餘弦值。

單位圓,其中角度「a」從使用者查詢到軟體工程,「b」從使用者查詢到醫學研究,並附有餘弦公式。

關於餘弦相似度的要點:

  • 結果範圍從 -1 到 1
  • 接近 1 的值表示高相似度
  • 接近 -1 的值表示非常不同
  • 0 表示垂直(沒有關係)

在我們的範例中,使用者查詢與軟體工程區塊之間的餘弦相似度為 0.983——非常高的相似度。與醫學研究區塊的相似度僅為 0.398——低得多。

餘弦距離

您經常會在向量資料庫文件中看到「餘弦距離」。這只是簡單地計算為 (1 - 餘弦相似度)。使用餘弦距離時:

  • 接近 0 的值表示高相似度
  • 較大的值表示較低的相似度

這種調整在許多情境下使數字更容易解讀。

步驟 6:建立最終提示

最後,我們將使用者的問題和找到的最相關文本區塊組合成一個提示,並傳送給 Claude 以獲取回應。

使用者的問題和檢索到的軟體工程區塊輸入下方引用的提示範本的圖表。

提示可能看起來像這樣:

Answer the user's question about the financial document.

<user_question>
How many bugs did engineers fix this year?
</user_question>

<report>
## Section 2: Software Engineering
This division dedicated significant effort to studying various infection vectors in our distributed systems
</report>

這就是完整的 RAG 流程!系統成功地根據語意相似度檢索到最相關的資訊,並將其作為上下文提供,以生成準確的回應。