Instituto de Ingeniería de la IA: 2.9 Ventana de frases Generación aumentada de recuperación (RAG)

introducción

基于句窗口的检索增强生成（Retrieval-Augmented Generation，简称 RAG）方法是 RAG 框架的高级实现，旨在增强 AI 生成回答的上下文感知能力和连贯性。该方法结合了大语言模型的强大功能和高效的信息检索技术，提供了一种可靠的解决方案，用于生成高质量且具上下文丰富性的回答。

https://github.com/adithya-s-k/AI-Engineering.academy/tree/main/RAG/04_Sentence_Window_RAG

locomotora

传统的 RAG 系统通常难以在较大的上下文中保持连贯性，或者在处理跨多个文本块的信息时表现不足。基于句窗口的检索增强生成方法通过在索引过程中保留文本块之间的上下文关系，并在检索和生成过程中利用这些信息，解决了这一局限性。

Detalles metodológicos

文档预处理与向量存储创建

1. División de documentos：将输入文档拆分为句子。
2. Creación de bloques de texto: Agrupa frases en trozos de texto manejables.
3. 嵌入表示：通过嵌入模型对每个文本块进行处理，生成向量表示。
4. Índice de la base de datos vectorial：存储文本块的 ID、文本内容和嵌入向量到向量数据库中，以便进行高效的相似性搜索。
5. Índice de la estructura del documento：使用单独的数据库存储文本块之间的关系，包括每个文本块对前后 k 个文本块的引用。

Flujo de trabajo de generación de mejoras de recuperación

1. procesamiento de consultas：使用与文本块相同的嵌入模型对用户查询进行嵌入表示。
2. Búsqueda por similitud：使用查询嵌入向量，在向量数据库中检索最相关的文本块。
3. ampliación del contexto (informática)：对于每个检索到的文本块，从文档结构数据库获取前后 k 个文本块以进行上下文扩展。
4. 上下文组合：将检索到的文本块及其扩展上下文与原始查询组合。
5. Generar una respuesta：将扩展的上下文与查询传递给大语言模型，以生成最终的回答。

RAG 的核心特性

• Recuperación eficaz：通过向量相似性搜索实现快速且准确的信息检索。
• 上下文保留：在索引阶段保持文档结构和文本块之间的关系。
• Ventana contextual flexible：允许在检索阶段调整上下文窗口的大小。
• escalabilidad：能够处理大规模文档集合以及多样化的查询类型。

该方法的优点

1. 增强连贯性：通过引入周围的文本块，上下文信息得以增强，从而生成更具连贯性且上下文更准确的回答。
2. Reducción de las alucinaciones：通过访问扩展上下文，使模型能够基于检索信息生成回答，减少生成虚假或无关内容的概率。
3. 存储高效性：仅存储必要的信息到向量数据库中，优化存储空间。
4. 可调整的上下文窗口：根据不同查询或应用的需求，动态调整上下文窗口的大小。
5. Conservar la estructura del documento：保持原文档的结构和流程，使 AI 对文档的理解和生成更加细致入微。

resúmenes

基于句窗口的检索增强生成（RAG）方法为提升 AI 生成回答的质量和上下文相关性提供了强有力的解决方案。通过保留文档结构并支持灵活的上下文扩展，该方法有效解决了传统 RAG 系统的一些关键局限性。它为构建先进的问答系统、文档分析和内容生成应用提供了可靠的框架。