AI工程学院：2.9句窗口检索增强生成（RAG）

引言

基于句窗口的检索增强生成（Retrieval-Augmented Generation，简称 RAG）方法是 RAG 框架的高级实现，旨在增强 AI 生成回答的上下文感知能力和连贯性。该方法结合了大语言模型的强大功能和高效的信息检索技术，提供了一种可靠的解决方案，用于生成高质量且具上下文丰富性的回答。

https://github.com/adithya-s-k/AI-Engineering.academy/tree/main/RAG/04_Sentence_Window_RAG

动机

传统的 RAG 系统通常难以在较大的上下文中保持连贯性，或者在处理跨多个文本块的信息时表现不足。基于句窗口的检索增强生成方法通过在索引过程中保留文本块之间的上下文关系，并在检索和生成过程中利用这些信息，解决了这一局限性。

方法详情

文档预处理与向量存储创建

1. 文档分割：将输入文档拆分为句子。
2. 文本块创建：将句子分组为可管理的文本块。
3. 嵌入表示：通过嵌入模型对每个文本块进行处理，生成向量表示。
4. 向量数据库索引：存储文本块的 ID、文本内容和嵌入向量到向量数据库中，以便进行高效的相似性搜索。
5. 文档结构索引：使用单独的数据库存储文本块之间的关系，包括每个文本块对前后 k 个文本块的引用。

检索增强生成工作流程

1. 查询处理：使用与文本块相同的嵌入模型对用户查询进行嵌入表示。
2. 相似性搜索：使用查询嵌入向量，在向量数据库中检索最相关的文本块。
3. 上下文扩展：对于每个检索到的文本块，从文档结构数据库获取前后 k 个文本块以进行上下文扩展。
4. 上下文组合：将检索到的文本块及其扩展上下文与原始查询组合。
5. 生成响应：将扩展的上下文与查询传递给大语言模型，以生成最终的回答。

RAG 的核心特性

• 高效检索：通过向量相似性搜索实现快速且准确的信息检索。
• 上下文保留：在索引阶段保持文档结构和文本块之间的关系。
• 灵活的上下文窗口：允许在检索阶段调整上下文窗口的大小。
• 可扩展性：能够处理大规模文档集合以及多样化的查询类型。

该方法的优点

1. 增强连贯性：通过引入周围的文本块，上下文信息得以增强，从而生成更具连贯性且上下文更准确的回答。
2. 减少幻觉现象：通过访问扩展上下文，使模型能够基于检索信息生成回答，减少生成虚假或无关内容的概率。
3. 存储高效性：仅存储必要的信息到向量数据库中，优化存储空间。
4. 可调整的上下文窗口：根据不同查询或应用的需求，动态调整上下文窗口的大小。
5. 保留文档结构：保持原文档的结构和流程，使 AI 对文档的理解和生成更加细致入微。

总结

基于句窗口的检索增强生成（RAG）方法为提升 AI 生成回答的质量和上下文相关性提供了强有力的解决方案。通过保留文档结构并支持灵活的上下文扩展，该方法有效解决了传统 RAG 系统的一些关键局限性。它为构建先进的问答系统、文档分析和内容生成应用提供了可靠的框架。

普通人的AI入门指南

帮助你以低成本、零基础学会如何利用AI工具。AI就像办公软件一样，是每个人的必备技能。 掌握AI会让你在求职中占据优势，在未来的工作和学习中事半功倍。

查看详情>