載入中
載入中

現在我們已經介紹了 RAG、文字分塊以及嵌入的基礎知識,接下來讓我們一步步走過完整的 RAG 管線。這個詳細的範例將向您確切展示在實際實作中所有元件是如何組合在一起的。

步驟 1:將來源文字分塊

首先,我們將來源文件拆分成可管理的區塊。在這個範例中,我們將使用兩個簡單的文字段落:

  • 第一段:醫學研究 - 「今年在我們對 XDR-47 的理解上取得了重大進展,這是一種我們以前從未見過的『bug』。」
  • 第二段:軟體工程 - 「這個部門投入大量精力研究我們分散式系統中的各種感染媒介」

步驟 2:產生嵌入

接下來,我們將每個文字區塊轉換為數值嵌入。為了更容易理解,假設我們有一個完美的嵌入模型,它總是準確回傳兩個數字,而且我們知道每個數字代表什麼:

兩個文字區塊經過一個想像中的嵌入模型,箭頭標示出醫學和軟體工程的數字。

在我們這個假想的模型中:

  • 第一個數字:該文字談論醫學的程度
  • 第二個數字:該文字談論軟體工程的程度

因此,我們的醫學研究段落得到 [0.97, 0.34]——非常醫學,但因為有「bug」這個詞,所以也有些與軟體相關。軟體工程段落得到 [0.30, 0.97]——非常聚焦於軟體,但「感染媒介」帶有醫學含義。

正規化

在儲存這些嵌入之前,它們會經過正規化過程,將每個向量縮放成大小為 1.0。這通常由您的嵌入 API 自動處理,但了解這個過程發生的事實很重要。

單位圓上有醫學和軟體軸,長度為 1.0 的箭頭指向醫學研究和軟體工程。

正規化之後,我們的嵌入變成 [0.944, 0.331] 和 [0.295, 0.955]。我們可以在單位圓上將這些視覺化,其中兩個點都精確地落在圓的邊緣上。

醫學研究嵌入「0.944, 0.331」和軟體工程嵌入「0.295, 0.955」輸入向量資料庫。

步驟 3:儲存到向量資料庫

正規化後的嵌入會儲存在向量資料庫中——這是一種專門為儲存、比較和搜尋像我們這種長串數字(嵌入)而最佳化的資料庫。

使用者問題經由想像中的嵌入模型嵌入為醫學領域 0.1、軟體工程 0.89。

到這裡,我們先暫停一下。目前為止所做的所有工作都是提前完成的預處理。現在我們等待使用者提交查詢。

步驟 4:處理使用者查詢

當使用者提出像「我對這家公司很好奇。特別是,軟體工程部門今年做了什麼?」這樣的問題時,我們將他們的查詢通過同一個嵌入模型進行處理。

嵌入使用者查詢階段,查詢嵌入標註為「公司有點像醫學相關,但聚焦在軟體上」。

這個查詢被嵌入為 [0.1, 0.89]——醫學分數低,軟體工程分數高。正規化後,它變成 [0.112, 0.993]。

步驟 5:尋找相似的嵌入

現在我們向向量資料庫詢問:「找出與這個使用者查詢嵌入最接近的已儲存嵌入。」資料庫會回傳軟體工程段落,因為它是最相似的。

醫學與軟體的單位圓:使用者查詢向量位於軟體工程旁邊,遠離醫學研究。

但資料庫是如何判斷「最接近」的呢?它使用餘弦相似度。

餘弦相似度

向量資料庫計算向量之間夾角的餘弦值來衡量相似度。這會給我們一個介於 -1 和 1 之間的數字:

餘弦相似度投影片,使用者查詢向量與軟體工程的分數為 0.983,與醫學研究的分數為 0.398。

  • 1.0 = 向量指向完全相同的方向(非常相似)
  • 0.0 = 向量互相垂直(不相關)
  • -1.0 = 向量指向相反的方向(非常不同)

在我們的範例中:

  • 使用者查詢 vs 軟體工程:餘弦相似度 = 0.983(非常相似!)
  • 使用者查詢 vs 醫學研究:餘弦相似度 = 0.398(較不相似)

餘弦距離

您會常常在向量資料庫文件中看到「餘弦距離」。這其實就是 1 - 餘弦相似度,它將量表反轉,使數字越小代表越相似:

  • 0.0 = 非常相似
  • 1.0 = 垂直
  • 2.0 = 完全相反

步驟 6:建構最終提示

最後,我們取出使用者的問題以及最相關的文字區塊(軟體工程段落),並將它們組合成給 Claude 的提示:

問題「今年工程師修復了多少個 bug?」以及軟體工程區塊一起輸入給 Claude 的提示。

Answer the user's question about the financial document.

<user_question>
How many bugs did engineers fix this year?
</user_question>

<report>
## Section 2: Software Engineering
This division dedicated significant effort to studying various infection vectors in our distributed systems
</report>

這就是完整的 RAG 管線!系統成功找到了與使用者軟體工程問題最相關的上下文,並將其提供給 Claude 以產生有根據的回應。

每次使用者提交查詢時,這個過程都會自動發生,讓 Claude 能夠根據您的特定文件而非僅僅依靠其一般訓練知識來回答問題。