加载中
加载中

现在我们已经介绍了RAG、文本分块和嵌入的基础知识,让我们一步步走完整个RAG流程。这个示例将向您展示所有这些部分究竟是如何协同工作,以检索相关信息并生成响应的。

第1步:对源文本进行分块

首先,我们将源文档拆分成可处理的小块。在这个示例中,我们将使用两个简单的文本部分:

  • 第1部分:医学研究 —— "今年我们对XDR-47有了重大进展的理解,这是一种我们以前从未见过的'bug'。"
  • 第2部分:软件工程 —— "该部门投入了大量精力研究我们分布式系统中的各种感染向量"

第2步:生成嵌入

接下来,我们使用嵌入模型将每个文本块转换为数值嵌入。为了便于理解,假设我们有一个完美的嵌入模型,它总是恰好返回两个数字,并且我们知道每个数字代表什么。

这两个文本块通过一个虚构的嵌入模型,该模型输出下面描述的两数字嵌入。

在我们这个虚构的模型中:

  • 第一个数字代表文本谈论医学领域的程度
  • 第二个数字代表文本谈论软件工程的程度

对于医学研究部分,我们可能得到[0.97, 0.34] —— 非常侧重于医学,但由于"bug"这个词也带有一些软件元素。对于软件工程部分,我们得到[0.30, 0.97] —— 严重偏向软件,但由于"感染向量"而带有一些医学色彩。

归一化

嵌入API通常会执行一个归一化步骤,将每个向量缩放为大小为1.0。您不需要担心这里的数学原理——它会自动处理。这样我们就得到了像[0.944, 0.331]和[0.295, 0.955]这样的归一化向量。

单位圆上,医学研究指向大约表示医学的方向,软件工程指向大约表示软件的方向,每个箭头长度均为1.0。

我们可以在单位圆上可视化这些嵌入,其中每个点代表我们的一个文本块。

医学研究的嵌入"0.944, 0.331"和软件工程的嵌入"0.295, 0.955"输入到向量数据库中。

第3步:存储在向量数据库中

我们将这些嵌入存储在向量数据库中——这是一种专门为存储、比较和搜索像我们的嵌入这样的长数字列表而优化的数据库。

虚构的嵌入模型将用户的问题嵌入为0.1和0.89,有点与医学相关但侧重于软件。

到这里,我们暂停一下。到目前为止所做的所有工作都是提前进行的预处理。现在我们等待用户提交查询。

第4步:处理用户查询

当用户提出类似"我对这家公司很感兴趣。特别是,软件工程部门今年做了什么?"这样的问题时,我们将他们的查询通过同一个嵌入模型处理。

嵌入用户查询并查找最接近的嵌入的阶段,注意到"公司"有点与医学相关但侧重于软件。

这个查询被嵌入为类似[0.1, 0.89]的内容——医学得分低,软件工程得分高。归一化后,我们得到[0.112, 0.993]。

第5步:查找相似的嵌入

我们将用户查询的嵌入发送到向量数据库,并要求它找到最相似的已存储嵌入。

单位圆上,用户查询向量几乎与软件工程向量重合,而与医学研究相距甚远。

数据库返回了软件工程部分,因为它与用户所询问的内容最为匹配。

相似度是如何计算的:余弦相似度

向量数据库使用余弦相似度来确定哪些嵌入最为相似。这衡量的是两个向量之间夹角的余弦值。

单位圆上,角"a"是从用户查询到软件工程的夹角,"b"是到医学研究的夹角,外加余弦公式。

关于余弦相似度的关键点:

  • 结果范围在-1到1之间
  • 接近1的值意味着高相似度
  • 接近-1的值意味着非常不同
  • 0表示垂直(没有关系)

在我们的示例中,用户查询与软件工程块之间的余弦相似度为0.983——非常高的相似度。与医学研究块的相似度只有0.398——低得多。

余弦距离

您经常会在向量数据库文档中看到"余弦距离"。这只是简单地计算为(1 - 余弦相似度)。使用余弦距离时:

  • 接近0的值意味着高相似度
  • 较大的值意味着相似度较低

这种调整使得这些数字在很多情境下更容易解读。

第6步:创建最终提示

最后,我们将用户的问题与我们找到的最相关的文本块结合成一个提示,并将其发送给Claude以获得响应。

用户问题和检索到的软件工程文本块输入到下面引用的提示模板的示意图。

该提示可能如下所示:

Answer the user's question about the financial document.

<user_question>
How many bugs did engineers fix this year?
</user_question>

<report>
## Section 2: Software Engineering
This division dedicated significant effort to studying various infection vectors in our distributed systems
</report>

这就是完整的RAG流程!该系统成功地基于语义相似度检索到了最相关的信息,并将其作为上下文提供,以生成准确的响应。