AI工程学院：2.8混合 RAG（同2.9）

基于句子窗口的检索器 RAG 方法

引言

基于句子窗口的检索器 RAG（Retrieval-Augmented Generation）方法是 RAG 框架的高级实现，旨在增强 AI 生成回复的上下文意识和连贯性。该方法结合了大型语言模型与高效信息检索技术的优势，提供了一种强大的解决方案，用于生成高质量、上下文丰富的回复。

https://github.com/adithya-s-k/AI-Engineering.academy/tree/main/RAG/03_Hybrid_RAG

动机

传统的 RAG 系统经常难以在更大上下文范围内保持连贯性，或者处理跨多个文本块的信息时遇到困难。基于句子窗口的检索器方法通过在索引过程中保留文本块之间的上下文关系，并在检索和生成时利用这些信息，解决了这一局限性。

方法细节

文档预处理和向量存储索引创建

1. 文档分割：将输入文档分割成句子。
2. 文本块创建：将句子分组为可管理的文本块。
3. 嵌入：通过嵌入模型处理每个文本块，生成向量表示。
4. 向量数据库索引：存储文本块的 ID、文本内容和嵌入向量到向量数据库，以便高效的相似性搜索。
5. 文档结构索引：单独存储文本块之间的关系，包括每个文本块与前后 k 个文本块之间的引用信息。

检索增强生成工作流程

1. 查询处理：使用与文本块相同的嵌入模型对用户查询进行嵌入。
2. 相似性搜索：使用查询嵌入在向量数据库中查找最相关的文本块。
3. 上下文扩展：对于每个检索到的文本块，系统通过文档结构数据库获取其前后 k 个相邻文本块。
4. 上下文形成：将检索到的文本块及其扩展上下文与原始查询结合。
5. 生成：将扩展上下文与查询传递给大型语言模型，以生成回复。

流程图

以下流程图展示了基于句子窗口的检索器 RAG 方法：

RAG 的关键特性

• 高效检索：利用向量相似性搜索，实现快速且准确的信息检索。
• 上下文保持：在索引过程中保留文档结构和文本块之间的关系。
• 灵活的上下文窗口：支持在检索时动态调整上下文窗口的大小。
• 可扩展性：能够处理大规模文档集合和多样化查询类型。

本方法的优势

1. 提高连贯性：通过包含相邻文本块，生成更加连贯和上下文准确的回复。
2. 减少幻觉现象：通过检索到的上下文信息，降低生成错误或无关内容的概率。
3. 高效存储：仅存储必要的信息到向量数据库，优化存储空间。
4. 可调整上下文窗口：根据不同查询或应用需求动态调整上下文窗口大小。
5. 保留文档结构：保留文档原有的结构和信息流，使生成更具语义理解能力。

结论

基于句子窗口的检索器 RAG 方法为提升 AI 生成回复的质量和上下文相关性提供了强大的解决方案。通过保留文档结构并支持灵活的上下文扩展，该方法解决了传统 RAG 系统的关键局限性，为构建先进的问答系统、文档分析和内容生成应用提供了可靠框架。

普通人的AI入门指南

帮助你以低成本、零基础学会如何利用AI工具。AI就像办公软件一样，是每个人的必备技能。 掌握AI会让你在求职中占据优势，在未来的工作和学习中事半功倍。

查看详情>