載入中
載入中

本教學使用一個實際範例,示範完整的 RAG(Retrieval-Augmented Generation,檢索增強生成)實作。我們將從零開始建立一個向量資料庫,並使用一份範例報告文件執行 RAG 工作流程的全部五個步驟。

設定向量資料庫

此實作使用一個自訂的 VectorIndex 類別,負責儲存嵌入向量並執行相似度搜尋。這個類別提供了我們進行向量資料庫操作所需的核心功能。

五步驟的 RAG 實作

步驟 1:依章節分塊文字

首先,我們使用先前介紹的以章節為基礎的分塊方法,載入並分塊我們的來源文件:

python
with open("./report.md", "r") as f:
    text = f.read()

chunks = chunk_by_section(text)

這會將我們的報告拆分成可以獨立處理的邏輯章節。

步驟 2:為每個區塊產生嵌入向量

接著,我們使用列表推導式,為每個區塊建立嵌入向量:

python
embeddings = [generate_embedding(chunk) for chunk in chunks]

這個步驟涉及多次 API 呼叫,因此需要一些時間才能完成。每個區塊都會被轉換成數值向量表示。

步驟 3:將嵌入向量儲存到向量資料庫中

現在我們建立向量儲存空間,並將嵌入向量及其對應的文字一併填入:

python
store = VectorIndex()

for embedding, chunk in zip(embeddings, chunks):
    store.add_vector(embedding, {"content": chunk})

這裡的關鍵重點在於,我們同時儲存了嵌入向量與原始文字。單純取得一串數字並沒有用處——我們需要的是與這些嵌入向量對應的實際文字內容。這項中繼資料可讓我們之後取得有意義的結果。

步驟 4:產生使用者查詢的嵌入向量

當使用者提出問題時,我們會將其轉換成相同的嵌入格式:

python
user_embedding = generate_embedding("What did the software engineering dept do last year?")

這會建立使用者問題的向量表示,可用來與我們儲存的嵌入向量進行比對。

步驟 5:搜尋並檢索相關區塊

最後,我們搜尋向量儲存空間,以找出最相似的內容:

python
results = store.search(user_embedding, 2)

for doc, distance in results:
    print(distance, "\n", doc["content"][0:200], "\n")

這會傳回兩個最相關的區塊,以及它們的餘弦距離分數。距離越小,代表相似度越高。

使用者查詢向量「0.1, 0.89」傳送到向量資料庫,資料庫為軟體工程章節回傳「0.295, 0.955」。

理解結果

搜尋會依相關性排序傳回結果。在我們的範例中,軟體工程章節的距離最小(0.71),因此是最相關的比對結果。方法論章節則以 0.72 的距離排名第二。

距離指標能幫助您了解系統對每個結果相關性的信心程度。距離越接近,代表與使用者查詢的比對結果越好。

為何要將文字與嵌入向量一起儲存

一個關鍵的設計決策,就是將原始文字與每個嵌入向量一起儲存。若不這麼做,您只會取得數字陣列,這對產生回應並無用處。藉由納入來源文字,您便可以立即使用檢索到的區塊,為您的語言模型提供情境脈絡。

至此已完成核心的 RAG 工作流程,不過在實際應用情境中,仍有一些額外的最佳化與改進方式可以提升效能。