AI 공과대학: 2.11 고급 쿼리 처리(쿼리 변환 사용 설명서)

선물(직업 등)

쿼리 변환 사용 설명서에서는 향상된 세대의 검색에서 쿼리 변환을 사용하는 방법을 보여줍니다(RAG) 쿼리 엔진, 인텔리전스 또는 기타 프로세스에서 사용자 쿼리를 실행하기 전에 변환 및 분해하는 여러 기술. 이러한 변환을 통해 AI 애플리케이션에서 응답의 품질과 관련성을 향상시킬 수 있습니다.

https://github.com/adithya-s-k/AI-Engineering.academy/tree/main/RAG/06_Query_Transformation_RAG

쿼리 변환 기술

1. 라우팅

라우팅에는 주어진 쿼리와 관련된 도구의 하위 집합을 식별하는 작업이 포함됩니다.

순서도 LR A[사용자 쿼리] --> B[선택기] B --> C[도구 1] B --> D[도구 2] B --> E[도구 N] C & D & E --> F[선택된 도구]

실현 방법:

활용 LLMSingleSelector 어쩌면 LLMMultiSelector 대규모 언어 모델을 기반으로 선택하기
활용 PydanticSingleSelector 어쩌면 PydanticMultiSelector 함수 호출 기반 선택
활용 ToolMetadata 도구 옵션 정의

2. 쿼리 재작성

쿼리 재작성에는 검색 결과를 개선하기 위해 원래 쿼리의 여러 변형을 생성하는 작업이 포함됩니다.

실현 방법:

활용 PromptTemplate 및 사용자 정의 구현을 위한 대규모 언어 모델(LLM)
활용 HyDEQueryTransform 가상의 문서 임베딩 쿼리 수행

3. 하위 쿼리 생성

이 기술은 복잡한 쿼리를 여러 개의 하위 쿼리로 분해하며, 각 쿼리는 특정 도구를 지향합니다.

실현 방법:

활용 OpenAIQuestionGenerator 어쩌면 LLMQuestionGenerator
활용 ToolMetadata 도구 옵션 정의

4. 리액트 지능형 바디 도구 선택

이 방법은 다음을 사용합니다. ReAct 프레임워크는 사용할 도구와 해당 도구에서 실행할 쿼리를 결정합니다.

실현 방법:

활용 ReActChatFormatter 입력 서식 지정 수행
활용 ReActOutputParser 대규모 언어 모델 출력 구문 분석
활용 FunctionTool 정의 도구

활용

각 쿼리 변환 기술은 더 큰 시스템에서 모듈식 구성 요소로 사용할 수 있습니다. 다음은 쿼리 재작성의 기본 사용 예시입니다:

from llama_index.core import PromptTemplate  
from llama_index.llms.openai import OpenAI  
query_gen_prompt = PromptTemplate("你的提示模板在这里")  
llm = OpenAI(model="gpt-3.5-turbo")  
def generate_queries(query: str, llm, num_queries: int = 4):  
response = llm.predict(query_gen_prompt, num_queries=num_queries, query=query)  
queries = response.split("\n")  
return queries  
queries = generate_queries("你的查询内容在这里", llm)