載入中
載入中

現在我們已經從概念上理解了 RAG 流程,接下來讓我們透過一個實際的範例逐步實作它。我們將依序完成 RAG 流程的所有五個階段,從文本分塊到為使用者查詢找出相關文件。

設置向量資料庫

在此實作中,我們將使用一個自訂的 VectorIndex 類別,它提供了儲存與搜尋嵌入所需的基本功能。該類別負責處理向量儲存、距離計算(使用餘弦相似度),以及文件檢索。

五步驟 RAG 實作

讓我們逐步了解 RAG 流程的每個步驟:

步驟 1:依章節分塊文本

首先,我們需要將來源文件拆分成易於管理的區塊。我們將使用先前介紹過的以章節為基礎的分塊方法:

python
chunks = chunk_by_section(text)

這會將我們的 report.md 檔案拆分成可以逐一處理的邏輯章節。

步驟 2:為每個區塊產生嵌入

接下來,我們將每個文本區塊轉換為能捕捉其語意的數值嵌入:

python
embeddings = generate_embedding(chunks)

這些嵌入讓我們能夠在不同文本片段之間進行數學上的比較。

步驟 3:將嵌入儲存到向量資料庫中

現在我們建立向量儲存庫,並將我們的嵌入與其相關文本填入其中:

python
store = VectorIndex()

for embedding, chunk in zip(embeddings, chunks):
    store.add_vector(embedding, {"content": chunk})

請注意,我們同時儲存了嵌入與原始文本內容。這一點至關重要,因為之後在檢索相似嵌入時,我們需要存取實際的文本,而不僅僅是數值向量。對我們開發者而言,單獨的嵌入並沒有用處——我們需要它所代表的人類可讀內容。

步驟 4:為使用者查詢產生嵌入

當使用者提出問題時,我們需要將其查詢轉換到與我們儲存的文件相同的嵌入空間中:

python
user_embedding = generate_embedding("What did the software engineering dept do last year?")

步驟 5:搜尋相關文件

最後,我們搜尋向量儲存庫以找出最相關的區塊:

python
results = store.search(user_embedding, 2)

for doc, distance in results:
    print(distance, "\n", doc["content"][0:200], "\n")

這會傳回兩個最相似的區塊,以及它們的餘弦距離分數。

使用者查詢向量「0.1, 0.89」傳送到向量資料庫,資料庫回傳「最接近」的向量「0.295, 0.955」。

上圖說明了向量資料庫如何處理使用者查詢。當我們提出一個問題時,它會被轉換為嵌入向量,接著資料庫會在高維空間中找出與其「最接近」的已儲存向量。

理解結果

當我們使用關於軟體工程部門的查詢來執行這個範例時,會得到兩個相關的章節:

  • 第 2 節:軟體工程 — 鳳凰計畫穩定性強化(距離:0.71)
  • 方法論章節(距離:0.72)

距離分數越低,表示內容與我們的查詢越相似。這兩個結果都與我們關於軟體工程部門完成了哪些工作的問題相關。

為何要將內容與嵌入一併儲存

您可能會好奇,為什麼我們要將原始文本與每個嵌入一起儲存。原因其實很實際:嵌入只是一組數字陣列,對人類而言沒有直接的意義。當我們的搜尋傳回最相似的嵌入時,我們需要實際的文本內容才能理解找到了什麼,並將其用於產生回應。

有些實作方式只儲存指向原始文本的 ID,但為求簡單起見,我們選擇將內容直接與每個向量一起儲存。

接下來

這個實作涵蓋了 RAG 工作流程的核心部分,但仍有一些可以改進之處。在實際應用中,您可能會遇到這種基本方法無法如預期般運作的情況,我們將在接下來的章節中探討這些改進方式。