加载中
加载中

检索增强生成(Retrieval Augmented Generation,RAG)是一种在使用Claude时帮助您处理大型文档的技术。与其将整份800页的财务报告塞进单个提示中,RAG让您能够智能地查找并仅包含与每个问题最相关的部分。

大型文档带来的问题

假设您有一份庞大的财务文档,想就其内容向Claude提出具体问题,例如"这家公司有哪些风险因素?"您面临一个根本性的挑战:如何将文档中正确的信息传递给Claude,以便它能有效地回答您的问题?

一份私密的800多页财务报告,包含执行摘要、风险因素和未来展望等章节。

方案一:将所有内容放入提示中

第一种方法看似简单——从文档中提取所有文本,并将其与用户的问题一起直接塞进提示中。

提示内容为"回答用户关于该财务文档的问题。",整份报告都包含在financial_document标签中。

这种方法存在几个问题:

  • Claude能处理的文本量存在硬性限制——您的文档可能过长
  • 提示过长时,Claude的效果会变差
  • 更大的提示成本更高,处理时间也更长

方案二:将文档拆分成块

第二种方法更为精细。您在预处理步骤中将文档拆分成较小的块,然后针对每个用户问题,查找并仅包含相关的块。

财务报告被拆分为六个块,例如"审计师报告"、"关键绩效指标"和"市场数据"。

具体做法是:当用户问"这家公司面临哪些风险?"时,您在各个块中进行搜索,找到关于"风险因素"的那一块,并仅将该部分内容包含在发送给Claude的提示中。

用户的问题以及六个块中仅相关的那一块,被放入带有user_question和financial_document标签的提示中。

分块方法的优势

  • Claude可以只专注于最相关的内容
  • 可扩展到非常大的文档
  • 适用于多份文档
  • 更小的提示成本更低,运行更快

分块方法面临的挑战

  • 需要一个预处理步骤来拆分文档
  • 需要一种搜索机制来查找"相关"的块
  • 所包含的块可能无法包含Claude所需的全部上下文
  • 文本分块方式众多——哪种方法最佳?

举例来说,如果您只包含"风险因素"这一部分,您可能会遗漏"战略展望"部分中关于公司如何应对这些风险的重要上下文信息。

这就是RAG

方案二就是检索增强生成。尽管存在一定复杂性,RAG在处理大型文档时仍能带来显著优势,但它也伴随着需要仔细考量的技术挑战。

RAG的关键组成部分包括:

  • 文档预处理和分块
  • 用于查找相关块的搜索机制
  • 智能选择哪些块应纳入提示中

在为您的应用考虑使用RAG时,您需要评估其带来的优势,是否能够抵消针对您特定使用场景所增加的复杂性。在处理需要精确、具有上下文的答案的大型文档集合时,这项技术的优势会得以彰显,但与简单地将整份文档包含在提示中相比,它需要更多前期的工程投入。