AI College of Engineering: 2.11 Procesamiento avanzado de consultas (Manual del usuario de conversión de consultas)

presentar (a algn. para un trabajo, etc.)

El Manual del usuario de la transformación de consultas muestra el uso de la transformación de consultas en la recuperación de la generación mejorada (RAG) Múltiples técnicas de transformación y descomposición antes de ejecutar las consultas de los usuarios en motores de consulta, inteligencias u otros procesos. Estas transformaciones pueden mejorar la calidad y pertinencia de las respuestas en las aplicaciones de IA.

https://github.com/adithya-s-k/AI-Engineering.academy/tree/main/RAG/06_Query_Transformation_RAG

Tecnología de conversión de consultas

1. Enrutamiento

El enrutamiento consiste en identificar un subconjunto de herramientas pertinentes para una consulta determinada.

diagrama de flujo LR A[Consulta del usuario] --> B[Selector] B --> C[Herramienta 1] B --> D[Herramienta 2] B --> E[Herramienta N] C & D & E --> F[Herramienta seleccionada].

Método de realización:

• utilizar LLMSingleSelector tal vez LLMMultiSelector Hacer una selección basada en un gran modelo lingüístico
• utilizar PydanticSingleSelector tal vez PydanticMultiSelector Realizar selecciones basadas en llamadas a funciones
• utilizar ToolMetadata Definición de opciones de herramientas

2. Reescritura de consultas

La reescritura de consultas consiste en generar múltiples variantes de la consulta original para mejorar los resultados de recuperación.

Método de realización:

• utilizar PromptTemplate y el Large Language Model (LLM) para implementaciones personalizadas.
• utilizar HyDEQueryTransform Realizar consultas hipotéticas de incrustación de documentos

3. Generación de subconsultas

Esta técnica descompone una consulta compleja en varias subconsultas, cada una de ellas orientada a una herramienta específica.

Método de realización:

• utilizar OpenAIQuestionGenerator tal vez LLMQuestionGenerator
• utilizar ToolMetadata Definición de opciones de herramientas

4. Selección de herramientas corporales inteligentes ReAct

Este método utiliza ReAct El marco determina la herramienta que debe utilizarse y las consultas que deben ejecutarse en ella.

Método de realización:

• utilizar ReActChatFormatter Formatear la entrada
• utilizar ReActOutputParser Análisis sintáctico de modelos lingüísticos de gran tamaño
• utilizar FunctionTool Herramientas de definición

utilizar

Cada una de las técnicas de transformación de consultas puede utilizarse como componente modular en un sistema más amplio. Los siguientes son ejemplos de uso básico de la reescritura de consultas:

from llama_index.core import PromptTemplate  
from llama_index.llms.openai import OpenAI  
query_gen_prompt = PromptTemplate("你的提示模板在这里")  
llm = OpenAI(model="gpt-3.5-turbo")  
def generate_queries(query: str, llm, num_queries: int = 4):  
response = llm.predict(query_gen_prompt, num_queries=num_queries, query=query)  
queries = response.split("\n")  
return queries  
queries = generate_queries("你的查询内容在这里", llm)

resúmenes

El Manual del Usuario de Transformación de Consultas proporciona un conjunto completo de técnicas para ayudar a los desarrolladores a mejorar el procesamiento de consultas en aplicaciones de IA. Aprovechando estas técnicas de transformación, los desarrolladores pueden crear sistemas de recuperación de información y de preguntas y respuestas más potentes y precisos.

Para obtener más información sobre la implementación detallada y la integración con un motor de consulta o recuperador específico, consulte la documentación de LlamaIndex.

Este LÉEME proporciona una visión general del Manual del Usuario de Transformación de Consultas, incluyendo breves descripciones y gráficos Mermaid para cada técnica de transformación de consultas, cubriendo las cuatro técnicas principales de transformación de consultas: Enrutamiento, Reescritura de Consultas, Generación de Subconsultas y Selección de Herramientas del Cuerpo Inteligente ReAct.

Cada sección incluye la visualización de un diagrama de flujo, una breve descripción de la tecnología y detalles básicos de implementación. Además, este LÉAME incluye un sencillo ejemplo de uso de la reescritura de consultas para proporcionar a los usuarios un punto de partida.

¿Qué parte de este LÉAME desea que amplíe o modifique en detalle?