지능형 에이전트 검색 강화 세대: 에이전트 RAG 기술 개요

초록

OpenAI의 GPT-4, Google의 PaLM, Meta의 LLaMA와 같은 대규모 언어 모델(LLM)은 사람과 유사한 텍스트 생성 및 자연어 이해를 가능하게 함으로써 인공 지능(AI)을 획기적으로 변화시켰습니다. 하지만 정적 학습 데이터에 의존하기 때문에 동적인 실시간 쿼리에 대응하는 능력이 제한되어 오래되거나 부정확한 결과를 초래할 수 있습니다. 실시간 데이터 검색을 통합하여 상황에 맞는 시의적절한 응답을 제공함으로써 LLM을 보강하는 솔루션으로 검색 증강 생성(RAG)이 등장했습니다. RAG의 잠재력에도 불구하고 기존의 RAG 시스템은 정적인 워크플로우와 다단계 추론 및 복잡한 작업 관리에 필요한 유연성이 부족하다는 점에서 한계가 있습니다.

에이전트 검색 증강 생성(에이전트 RAG)은 자율 AI 에이전트를 RAG 프로세스에 포함시킴으로써 이러한 한계를 극복합니다. 이러한 에이전트는 에이전트 설계 패턴(반영, 계획, 도구 사용, 다중 에이전트 협업)을 활용하여 검색 전략을 동적으로 관리하고, 문맥 이해를 반복적으로 개선하며, 복잡한 작업의 요구 사항을 충족하도록 워크플로우를 조정합니다. 이러한 통합을 통해 에이전틱 RAG 시스템은 다양한 애플리케이션에 걸쳐 탁월한 유연성, 확장성 및 상황 인식 기능을 제공할 수 있습니다.

이 리뷰에서는 기본 원칙과 RAG 패러다임의 진화부터 시작하여 에이전틱 RAG를 포괄적으로 살펴봅니다. 에이전틱 RAG 아키텍처의 분류를 자세히 설명하고, 의료, 금융, 교육 등의 산업에서 에이전틱 RAG의 주요 적용 사례를 강조하며, 실질적인 구현 전략을 살펴봅니다. 또한 이러한 시스템을 확장하고 윤리적 의사결정을 보장하며 실제 애플리케이션의 성능을 최적화하는 데 따르는 어려움에 대해 논의하고 에이전틱 RAG 구현을 위한 프레임워크와 도구에 대한 자세한 인사이트를 제공합니다.

키워드. 대규모 언어 모델(LLM) - 인공 지능(AI) - 자연어 이해 - 검색 증강 생성(RAG) - 에이전트 RAG - 자율 AI 에이전트 - 반영 - 계획 - 도구 사용 - 다중 에이전트 협업 - 에이전트 패턴 - 문맥 이해 - 동적 적응 - 확장성 - 실시간 데이터 검색 - 에이전트 RAG 분류 - 헬스케어 애플리케이션 - 금융 애플리케이션 - 교육 애플리케이션 - 윤리적 AI 의사 결정 - 성능 최적화 - 다단계 추론

 

1 소개

OpenAI의 GPT-4, Google의 PaLM, Meta의 LLaMA와 같은 대규모 언어 모델(LLM)[1, 2][3]은 사람과 유사한 텍스트를 생성하고 복잡한 자연어 처리 작업을 수행함으로써 인공 지능(AI)을 획기적으로 변화시켰습니다. 이러한 모델은 대화형 에이전트, 자동화된 콘텐츠 제작, 실시간 번역 등 대화 분야[4]에서 혁신을 주도해 왔습니다. 최근의 발전으로 텍스트 대 이미지 및 텍스트 대 비디오 생성[5]과 같은 멀티모달 작업으로 기능이 확장되어 세부 프롬프트[6]를 기반으로 비디오와 이미지를 생성하고 편집할 수 있어 생성형 AI의 잠재적 응용 범위가 넓어졌습니다.

이러한 발전에도 불구하고 LLM은 정적인 사전 학습 데이터에 의존하기 때문에 여전히 상당한 한계에 직면해 있습니다. 이러한 의존성은 일반적으로 오래된 정보, 유령 반응[7], 동적인 실제 시나리오에 적응하지 못하는 결과를 초래합니다. 이러한 과제는 실시간 데이터를 통합하고 동적으로 응답을 개선하여 상황별 관련성과 정확성을 유지할 수 있는 시스템의 필요성을 강조합니다.

검색 강화 생성(RAG)[8, 9]이 이러한 과제에 대한 유망한 해결책으로 부상했습니다. RAG는 LLM의 생성 기능과 외부 검색 메커니즘을 결합하여 응답의 관련성과 적시성을 향상시킵니다[10]. 이러한 시스템은 지식 기반[11], API 또는 웹과 같은 소스에서 실시간 정보를 검색하여 정적 학습 데이터와 동적 애플리케이션 요구 사항 간의 격차를 효과적으로 해소합니다. 그러나 기존의 RAG 워크플로는 여전히 선형적이고 정적인 설계로 인해 복잡한 다단계 추론을 수행하고, 심층적인 맥락 이해를 통합하며, 반복적으로 응답을 개선하는 데 한계가 있습니다.

에이전트[12]의 진화는 AI 시스템의 기능을 더욱 향상시켰습니다. LLM 기반 및 모바일 에이전트[13]를 포함한 최신 에이전트는 자율적으로 인지하고 추론하며 작업을 수행할 수 있는 지능적인 개체입니다. 이러한 에이전트는 반영[14], 계획[15], 도구 사용 및 다중 에이전트 협업[16]과 같은 에이전트 기반 워크플로 패턴을 활용하여 동적 워크플로를 관리하고 복잡한 문제를 해결할 수 있습니다.

RAG와 에이전트 인텔리전스의 융합으로 에이전트를 RAG 프로세스에 통합하는 패러다임인 에이전트 검색 증강 생성(Agentic RAG)[17]이 탄생했으며, 에이전트 RAG는 동적 검색 전략, 문맥 이해, 반복적인 정제[18]를 구현하여 적응적이고 효율적인 정보 처리를 가능하게 합니다. 기존 RAG와 달리 에이전틱 RAG는 자율 에이전트를 사용하여 검색을 조율하고 관련 정보를 필터링하며 응답을 구체화하며 정확성과 적응성이 필요한 시나리오에서 탁월한 성능을 발휘합니다.

이 리뷰에서는 에이전틱 RAG의 기본 원칙, 분류 및 적용에 대해 살펴봅니다. 단순 RAG, 모듈형 RAG, 그래프 RAG[19]와 같은 RAG 패러다임과 에이전틱 RAG 시스템으로의 진화에 대한 포괄적인 개요를 제공합니다. 주요 기여 사항으로는 에이전틱 RAG 프레임워크의 상세한 분류, 의료[20, 21], 금융, 교육[22] 등의 영역에서의 적용, 구현 전략, 벤치마킹, 윤리적 고려사항에 대한 인사이트가 있습니다.

이 백서는 다음과 같이 구성되어 있습니다. 섹션 2에서는 기존 접근 방식의 한계를 강조하면서 RAG와 그 진화에 대해 소개합니다. 섹션 3에서는 에이전트 인텔리전스와 에이전트 모델의 원리를 자세히 설명합니다. 섹션 4에서는 단일 에이전트, 다중 에이전트, 그래프 기반 프레임워크 등 에이전트 RAG 시스템의 분류에 대해 설명합니다. 섹션 5에서는 에이전틱 RAG의 적용 사례를 살펴보고, 섹션 6에서는 구현 도구와 프레임워크에 대해 설명합니다. 섹션 7에서는 벤치마크와 데이터 세트에 초점을 맞추고, 섹션 8에서는 에이전틱 RAG 시스템의 향후 방향에 대해 마무리합니다.

 

2 검색 개선 사항 생성의 근거

2.1 검색 증강 생성(RAG) 개요

검색 증강 생성(RAG)은 대규모 언어 모델(LLM)의 생성 능력과 실시간 데이터 검색을 결합한 인공 지능 분야의 주요 발전입니다. LLM은 자연어 처리에서 탁월한 능력을 보여 왔지만 정적인 사전 학습 데이터에 의존하기 때문에 종종 오래되거나 불완전한 응답이 나오기도 하는데, RAG는 외부 소스에서 관련 정보를 동적으로 검색하여 생성 과정에 통합함으로써 이러한 한계를 해결하여 상황에 맞는 정확하고 반응이 빠른 결과물을 적시에 생성할 수 있게 해줍니다.

2.2 RAG의 핵심 구성 요소

RAG 시스템의 아키텍처는 세 가지 주요 구성 요소를 통합합니다(그림 1 참조):

• 검색(데이터)지식 베이스, API 또는 벡터 데이터베이스와 같은 외부 데이터 소스 쿼리를 담당합니다. 고급 검색기는 고밀도 벡터 검색과 Transformer 기반 모델을 활용하여 검색 정확도와 의미론적 관련성을 개선합니다.
• 강화검색된 데이터를 처리하여 쿼리 컨텍스트와 가장 관련성이 높은 정보를 추출하고 요약합니다.
• 생성검색된 정보를 미리 학습된 LLM 지식과 결합하여 일관성 있고 상황에 맞는 답변을 생성합니다.

2.3 RAG 패러다임의 진화

검색 증강 생성(RAG) 분야는 문맥 정확성, 확장성, 다단계 추론이 중요한 실제 애플리케이션의 복잡성 증가에 대응하기 위해 상당한 발전을 이루었습니다. 단순한 키워드 기반 검색에서 시작하여 다양한 데이터 소스와 자율적인 의사 결정 프로세스를 통합할 수 있는 복잡하고 모듈화된 적응형 시스템으로 변모했습니다. 이러한 진화는 복잡한 쿼리를 효율적이고 효과적으로 처리하기 위한 RAG 시스템의 필요성이 점점 더 커지고 있음을 강조합니다.

이 섹션에서는 RAG 패러다임의 진화 과정을 살펴보고, 주요 개발 단계인 단순 RAG, 고급 RAG, 모듈형 RAG, 그래프 RAG, 에이전트 기반 RAG의 특징, 강점, 한계에 대해 설명합니다. 이러한 패러다임의 진화를 이해함으로써 독자들은 검색 및 생성 기능의 발전과 다양한 영역에서의 적용을 이해할 수 있습니다.

2.3.1 간단한 걸레

Simple RAG [23]는 검색 강화 생성의 기본 구현을 나타냅니다. 그림 2는 키워드 기반 검색과 정적 데이터 세트에 초점을 맞춘 간단한 검색-읽기 워크플로우를 위한 간단한 RAG를 보여줍니다. 이러한 시스템은 TF-IDF 및 BM25와 같은 간단한 키워드 기반 검색 기술을 사용해 정적 데이터 세트에서 문서를 검색합니다. 그런 다음 검색된 문서를 사용하여 언어 모델 생성을 향상시킵니다.

Simple RAG는 단순하고 구현이 쉬운 것이 특징이며, 문맥적 복잡성을 최소화한 사실 기반 쿼리와 관련된 작업에 적합합니다. 하지만 몇 가지 제한 사항이 있습니다:

• 상황 인식 부족검색된 문서는 의미론적 이해보다는 어휘 매칭에 의존하기 때문에 쿼리의 의미론적 뉘앙스를 포착하지 못하는 경우가 많습니다.
• 출력 조각화고급 사전 처리 또는 컨텍스트 통합이 부족하면 일관성이 없거나 지나치게 일반적인 응답이 발생하는 경우가 많습니다.
• 확장성 문제키워드 기반 검색 기술은 대용량 데이터 세트를 처리할 때 성능이 저하되는 경향이 있으며 일반적으로 가장 관련성이 높은 정보를 식별하지 못합니다.

이러한 한계에도 불구하고, 간단한 RAG 시스템은 검색과 생성을 결합하는 데 중요한 개념 증명을 제공하여 더 복잡한 패러다임의 토대를 마련합니다.

2.3.2 고급 RAG

고급 RAG[23] 시스템은 의미론적 이해와 향상된 검색 기술을 통합하여 단순 RAG의 한계를 극복합니다. 그림 3은 검색에서 고급 RAG의 시맨틱 향상과 반복적인 문맥 인식 프로세스를 강조합니다. 이러한 시스템은 검색 정확도를 향상시키기 위해 밀도 높은 단락 검색(DPR) 및 신경 순위 알고리즘과 같은 밀도 높은 검색 모델을 활용합니다.

Advanced RAG의 주요 기능은 다음과 같습니다:

• 고밀도 벡터 검색쿼리와 문서가 높은 수준의 벡터 공간으로 표현되어 사용자 쿼리와 검색된 문서 간의 의미론적 정렬이 개선됩니다.
• 컨텍스트 재정렬신경 모델이 검색된 문서를 재순서화하여 문맥상 가장 관련성이 높은 정보에 우선순위를 부여합니다.
• 반복 검색고급 RAG는 여러 문서에 걸쳐 복잡한 쿼리를 추론할 수 있는 멀티홉 검색 메커니즘을 도입합니다.

이러한 발전으로 인해 고급 RAG는 연구 합성 및 개인화된 추천과 같이 높은 정밀도와 미묘한 이해가 필요한 애플리케이션에 적합합니다. 하지만, 특히 대규모 데이터 세트나 다단계 쿼리를 처리할 때 계산 오버헤드와 제한된 확장성 문제는 여전히 남아 있습니다.

2.3.3 모듈형 RAG

모듈형 RAG[23]는 유연성과 사용자 정의에 중점을 둔 RAG 패러다임의 최신 발전입니다. 이러한 시스템은 검색 및 생성 프로세스를 재사용 가능한 별도의 구성 요소로 분해하여 도메인별 최적화와 작업 적응성을 가능하게 합니다. 그림 4는 하이브리드 검색 전략, 구성 가능한 프로세스, 외부 도구 통합을 보여주는 모듈식 아키텍처를 보여줍니다.

모듈형 RAG의 주요 혁신은 다음과 같습니다:

• 하이브리드 검색 전략희소 검색 방법(예: 희소 인코더 - BM25)과 고밀도 검색 기술(예: DPR - 고밀도 단락 검색)을 결합하여 다양한 쿼리 유형에 대한 정확도를 최대화합니다.
• 도구 통합실시간 데이터 분석이나 도메인별 계산과 같은 특정 작업을 처리하기 위해 외부 API, 데이터베이스 또는 계산 도구를 통합합니다.
• 컴포저블 프로세스모듈형 RAG를 사용하면 리트리버, 제너레이터 및 기타 구성 요소를 독립적으로 교체, 보강 또는 재구성할 수 있어 특정 사용 사례에 맞게 고도로 조정할 수 있습니다.

예를 들어, 재무 분석을 위해 설계된 모듈형 RAG 시스템은 API를 통해 실시간 주가를 검색하고, 집중 검색을 통해 과거 추세를 분석하며, 사용자 정의 언어 모델을 통해 실행 가능한 투자 인사이트를 생성할 수 있습니다. 이러한 모듈성과 사용자 정의 덕분에 모듈형 RAG는 복잡하고 다양한 분야의 작업에 적합하며 확장성과 정확성을 모두 제공합니다.

2.3.4 그림 RAG

그래프 RAG[19]는 그림 5와 같이 그래프 기반 데이터 구조를 통합하여 기존의 검색 향상 생성 시스템을 확장합니다. 이러한 시스템은 그래프 데이터의 관계와 계층 구조를 활용하여 멀티홉 추론과 문맥 향상을 향상시킵니다. 그래프 기반 검색을 통합함으로써 그래프 RAG는 특히 관계적 이해가 필요한 작업에 대해 더 풍부하고 정확한 결과물을 생성할 수 있습니다.

Figure RAG는 다음과 같은 기능이 특징입니다:

• 노드 연결개체 간의 관계를 파악하고 추론합니다.
• 계층적 지식 관리그래프 계층 구조를 통한 정형 및 비정형 데이터 처리.
• 상황에 맞는그래프 경로를 사용하여 관계적 이해를 더하세요.

하지만 그래프 RAG에는 몇 가지 한계가 있습니다:

• 제한된 확장성그래프 구조에 의존하면 특히 광범위한 데이터 소스의 경우 확장성이 제한될 수 있습니다.
• 데이터 종속성고품질 그래프 데이터는 의미 있는 출력을 위해 필수적이지만, 구조화되지 않거나 주석이 제대로 달리지 않은 데이터 세트에는 적용이 제한됩니다.
• 통합 복잡성그래프 데이터를 비정형 검색 시스템과 통합하면 설계 및 구현의 복잡성이 증가합니다.

그래프 RAG는 구조화된 관계에 대한 추론이 중요한 의료 진단 및 법률 연구와 같은 분야에 적합합니다.

2.3.5 프록시 RAG

에이전트 기반 RAG는 동적 의사 결정과 워크플로우 최적화가 가능한 자율 에이전트를 도입함으로써 패러다임의 전환을 의미합니다. 정적 시스템과 달리 에이전트 기반 RAG는 복잡한 실시간 및 다중 도메인 쿼리에 대처하기 위해 반복적인 정제 및 적응형 검색 전략을 사용합니다. 이 패러다임은 검색 및 생성 프로세스의 모듈성을 활용하는 동시에 에이전트 기반의 자율성을 도입합니다.

에이전트 기반 RAG의 주요 기능은 다음과 같습니다:

• 자기 결정쿼리 복잡도에 따라 에이전트가 독립적으로 검색 전략을 평가하고 관리합니다.
• 반복적 개선피드백 루프를 통합하여 검색 정확도와 응답 관련성을 개선하세요.
• 워크플로 최적화실시간 애플리케이션의 효율성을 높이기 위해 동적으로 작업을 예약합니다.

이러한 발전에도 불구하고 에이전트 기반 RAG는 여러 가지 문제에 직면해 있습니다:

• 조정 복잡성상담원 간의 상호작용을 관리하려면 복잡한 조정 메커니즘이 필요합니다.
• 계산 오버헤드여러 에이전트를 사용하면 복잡한 워크플로우에 필요한 리소스가 증가합니다.
• 확장성 제약 조건확장 가능하지만 시스템의 동적 특성으로 인해 쿼리량이 많을 경우 부담이 될 수 있습니다.

에이전트 기반 RAG는 동적 적응성과 상황별 정확성이 중요한 고객 지원, 재무 분석 및 적응형 학습 플랫폼과 같은 분야에서 탁월한 성능을 발휘했습니다.

2.4 기존 RAG 시스템의 문제점과 한계

기존의 검색 증강 생성(RAG) 시스템은 실시간 데이터 검색을 통합하여 대규모 언어 모델(LLM)의 기능을 크게 확장해 왔습니다. 그러나 이러한 시스템은 여전히 복잡한 실제 애플리케이션에서 그 효율성을 저해하는 여러 가지 주요 과제에 직면해 있습니다. 가장 눈에 띄는 한계는 문맥 통합, 다단계 추론, 확장성 및 지연 시간 문제입니다.

2.4.1 컨텍스트 통합

RAG 시스템이 관련 정보를 성공적으로 검색하더라도 해당 정보를 생성된 응답에 원활하게 통합하는 데 어려움을 겪는 경우가 많습니다. 검색 프로세스의 정적 특성과 제한된 컨텍스트 인식으로 인해 단편적이고 일관성이 없거나 지나치게 일반적인 결과물이 생성됩니다.

예: "알츠하이머병 연구의 최근 발전과 조기 치료에 대한 시사점"과 같은 쿼리는 관련 과학 논문과 의료 가이드라인을 생성할 수 있습니다. 하지만 기존의 RAG 시스템은 이러한 연구 결과를 새로운 치료법과 특정 환자 시나리오를 연결하는 일관된 설명으로 종합하지 못하는 경우가 많습니다. 마찬가지로 "건조한 지역의 소규모 농업에 가장 적합한 지속 가능한 관행은 무엇인가요?"와 같은 쿼리의 경우, 기존 시스템은 일반적인 농업 방법에 대한 논문을 검색하지만 건조한 환경에서 매우 중요한 지속 가능한 관행은 누락될 수 있습니다.

표 1. RAG 패러다임의 비교 분석

패러다임	주요 기능	강점
Naïve RAG	- 키워드 기반 검색 (예: TF-IDF. BM25)	- 간단하고 구현하기 쉬움 - 사실 기반 쿼리에 적합
고급 RAG	- 고밀도 검색 모델(예: DPR) - 뉴럴 랭킹 및 재랭킹 - 멀티홉 검색	- 고정밀 검색 - 향상된 문맥 검색 관련성
모듈형 RAG	- 하이브리드 검색(스파스 및 고밀도) - 도구 및 API 통합 - 구성 가능한 도메인별 파이프라인	- 높은 유연성 및 사용자 지정 - 다양한 애플리케이션에 적합 - 확장 가능
그래프 RAG	- 그래프 기반 구조의 통합 - 멀티홉 추론 - 노드를 통한 컨텍스트 강화	- 관계형 추론 기능 - 환상을 완화 - 구조화된 데이터 작업에 이상적
에이전트 RAG	- 자율 에이전트 - 동적 의사 결정 - 반복적 개선 및 워크플로 최적화	- 실시간 변화에 적응 가능 - 다중 도메인 작업에 맞게 확장 가능 - 높은 정확도

2.4.2 다단계 추론

많은 실제 쿼리에는 여러 단계에서 정보를 검색하고 종합하는 반복 또는 멀티홉 추론이 필요합니다. 기존의 RAG 시스템은 중간 인사이트나 사용자 피드백을 기반으로 검색을 세분화할 준비가 되어 있지 않아 불완전하거나 일관성 없는 응답을 초래하는 경우가 많습니다.

예: "유럽의 재생 에너지 정책에서 개발도상국에 적용할 수 있는 교훈은 무엇이며 잠재적인 경제적 영향은 무엇인가요?"와 같은 복잡한 쿼리 정책 데이터, 개발도상국에 대한 맥락화, 경제 분석 등 여러 가지 정보를 조정해야 합니다. 기존의 RAG 시스템은 이러한 이질적인 요소들을 일관된 대응으로 연결하지 못하는 경우가 많습니다.

2.4.3 확장성 및 지연 시간 문제

외부 데이터 소스의 수가 증가함에 따라 대규모 데이터 집합을 쿼리하고 순위를 매기는 작업은 점점 더 계산 집약적으로 변하고 있습니다. 이는 상당한 지연 시간으로 이어져 실시간 애플리케이션에서 적시에 응답을 제공하는 시스템의 능력을 약화시킵니다.

예: 재무 분석이나 실시간 고객 지원과 같이 시간에 민감한 환경에서는 여러 데이터베이스 쿼리나 대용량 문서 작업으로 인한 지연으로 인해 시스템의 전반적인 효용성이 떨어질 수 있습니다. 예를 들어, 고빈도 거래에서 시장 동향을 검색하는 데 지연이 발생하면 기회를 놓칠 수 있습니다.

2.5 에이전트 기반 RAG: 패러다임의 전환

정적인 워크플로우와 제한된 적응성을 가진 기존의 RAG 시스템은 동적인 다단계 추론과 복잡한 실제 작업을 처리하는 데 어려움을 겪는 경우가 많습니다. 이러한 한계로 인해 에이전트 인텔리전스가 통합되어 에이전트 기반 RAG가 탄생했으며, 동적 의사 결정, 반복 추론, 적응형 검색 전략이 가능한 자율 에이전트를 통합함으로써 에이전트 기반 RAG는 이전 패러다임의 모듈성을 유지하면서 내재된 한계를 극복할 수 있게 되었습니다. 이러한 진화를 통해 보다 복잡한 다중 도메인 작업을 향상된 정밀도와 문맥 이해로 해결할 수 있게 되었으며, 에이전트 기반 RAG는 차세대 AI 애플리케이션의 기반으로 자리 잡았습니다. 특히 에이전트 기반 RAG 시스템은 최적화된 워크플로우를 통해 지연 시간을 줄이고 출력을 점진적으로 개선하여 기존 RAG의 확장성과 효율성을 오랫동안 저해했던 문제를 해결합니다.

 

상담원 인텔리전스의 3가지 핵심 원칙과 맥락

에이전트 인텔리전스는 에이전트 기반 검색 증강 생성(RAG) 시스템의 기초를 형성하여 기존 RAG의 정적이고 반응적인 특성을 뛰어넘을 수 있게 해줍니다. 동적 의사 결정, 반복 추론, 협업 워크플로우를 수행할 수 있는 자율 에이전트를 통합함으로써 에이전트 기반 RAG 시스템은 적응력과 정확성이 향상됩니다. 이 섹션에서는 에이전트 인텔리전스를 뒷받침하는 핵심 원칙에 대해 살펴봅니다.

AI 에이전트의 구성 요소. 기본적으로 AI 에이전트는 다음과 같이 구성됩니다(그림 6 참조):

• LLM(정의된 역할 및 작업 포함)상담원의 기본 추론 엔진 및 대화 인터페이스 역할을 합니다. 사용자 쿼리를 해석하고, 응답을 생성하며, 일관성을 유지합니다.
• 메모리(단기 및 장기)대화 중 컨텍스트와 관련 데이터를 캡처합니다. 단기 기억[25]은 즉각적인 대화 상태를 추적하고, 장기 기억[25]은 축적된 지식과 상담원 경험을 저장합니다.
• 계획(성찰 및 자기 비판)성찰, 쿼리 라우팅 또는 자기 비판[26]을 통해 에이전트의 반복적 추론 과정을 안내하면 복잡한 작업을 효과적으로 분해할 수 있습니다[15].
• 도구(벡터 검색, 웹 검색, API 등)텍스트 생성을 넘어 외부 리소스, 실시간 데이터 또는 전문 컴퓨팅에 액세스할 수 있도록 상담원의 기능을 확장합니다.

3.1 프록시 모델

에이전트 패턴[27, 28]은 에이전트 기반 검색 증강 생성(RAG) 시스템에서 에이전트의 동작을 안내하는 구조화된 방법을 제공합니다. 이러한 패턴은 에이전트가 동적으로 적응하고 계획하고 협업할 수 있도록 하여 시스템이 복잡한 실제 작업을 정확하고 확장 가능하게 처리할 수 있도록 합니다. 네 가지 주요 패턴이 상담원 워크플로우의 기본을 형성합니다:

3.1.1 리플렉션

리플렉션은 에이전트가 반복적으로 결과물을 평가하고 개선할 수 있도록 하는 에이전트 워크플로우의 기본 디자인 패턴입니다. 셀프 피드백 메커니즘을 통합함으로써 에이전트는 오류, 불일치 및 개선이 필요한 영역을 식별하고 해결하여 코드 생성, 텍스트 생성 및 Q&A와 같은 작업의 성능을 개선할 수 있습니다(그림 7 참조). 실제로는 에이전트에게 정확성, 스타일 및 효율성 측면에서 결과물을 비평하도록 유도한 다음 이 피드백을 후속 반복 작업에 통합하는 것이 반영에 포함됩니다. 단위 테스트나 웹 검색과 같은 외부 도구는 결과를 검증하고 부족한 부분을 강조함으로써 이 프로세스를 더욱 향상시킬 수 있습니다.

다중 상담원 시스템에서는 한 상담원이 결과물을 생성하는 동안 다른 상담원이 이를 비평하는 등 다양한 역할이 반영될 수 있으므로 협업 개선이 용이합니다. 예를 들어 법률 연구에서 에이전트는 검색된 판례를 재평가하여 정확성과 포괄성을 보장하기 위해 반복적으로 응답을 다듬을 수 있습니다. 리플렉션은 Self-Refine [29], Reflexion [30], CRITIC [26]과 같은 연구에서 상당한 성과 향상을 보여주었습니다.

3.1.2 계획

계획[15]은 에이전트가 복잡한 작업을 더 작고 관리하기 쉬운 하위 작업으로 자율적으로 분해할 수 있도록 하는 에이전트 워크플로우의 핵심 설계 패턴입니다. 이 기능은 역동적이고 불확실한 시나리오에서 멀티홉 추론과 반복적인 문제 해결에 매우 중요합니다(그림 8 참조).

상담원은 계획을 활용하여 더 큰 목표를 달성하는 데 필요한 단계의 순서를 동적으로 결정할 수 있습니다. 이러한 적응력을 통해 상담원은 미리 정의할 수 없는 작업도 처리할 수 있어 의사 결정의 유연성을 확보할 수 있습니다. 계획은 강력하지만 반영과 같은 결정론적 워크플로우에 비해 예측 가능한 결과가 나오지 않을 수 있습니다. 계획은 특히 사전 정의된 워크플로로는 충분하지 않은 동적 적응이 필요한 작업에 적합합니다. 기술이 성숙해짐에 따라 여러 영역에서 혁신적인 애플리케이션을 추진할 수 있는 잠재력은 계속 커질 것입니다.

3.1.3 도구 사용

도구 사용을 통해 상담원은 그림 9와 같이 외부 도구, API 또는 계산 리소스와 상호 작용하여 자신의 역량을 확장할 수 있습니다. 이 모델을 통해 상담원은 사전 학습된 지식을 넘어 정보를 수집하고, 계산을 수행하고, 데이터를 조작할 수 있습니다. 툴을 워크플로에 동적으로 통합함으로써 상담원은 복잡한 작업에 적응하고 보다 정확하고 상황에 맞는 결과물을 제공할 수 있습니다.

최신 상담원 워크플로는 정보 검색, 계산 추론, 외부 시스템과의 인터페이스 등 다양한 애플리케이션에 툴 사용을 통합합니다. 이 모델의 구현은 GPT-4의 기능 호출 기능과 수많은 툴에 대한 액세스를 관리할 수 있는 시스템의 개발과 함께 크게 발전했습니다. 이러한 발전은 상담원이 주어진 작업에 가장 적합한 도구를 자율적으로 선택하고 실행할 수 있는 복잡한 상담원 워크플로우를 촉진했습니다.

툴 사용으로 상담원 워크플로가 크게 개선되었지만, 특히 사용 가능한 옵션이 많은 경우 툴 선택을 최적화하는 데는 여전히 어려움이 있습니다. 이 문제를 해결하기 위해 휴리스틱 기반 선택과 같은 검색 강화 생성(RAG)에서 영감을 얻은 기법이 제안되었습니다.

3.1.4 멀티 에이전트

다중 에이전트 협업[16]은 작업 전문화와 병렬 처리를 가능하게 하는 에이전트 워크플로우의 핵심 디자인 패턴입니다. 에이전트는 서로 소통하고 중간 결과를 공유하여 전체 워크플로우가 효율적이고 일관된 상태를 유지할 수 있도록 합니다. 이 패턴은 전문화된 에이전트에게 하위 작업을 할당함으로써 복잡한 워크플로우의 확장성과 적응성을 향상시킵니다. 멀티 에이전트 시스템을 사용하면 개발자가 복잡한 작업을 더 작고 관리하기 쉬운 하위 작업으로 세분화하여 여러 상담원에게 할당할 수 있습니다. 이 접근 방식은 작업 성능을 향상시킬 뿐만 아니라 복잡한 상호작용을 관리하기 위한 강력한 프레임워크도 제공합니다. 각 에이전트에는 도구 사용, 반영 또는 계획을 포함한 자체 메모리와 워크플로우가 있어 역동적이고 협업적인 문제 해결이 가능합니다(그림 10 참조).

멀티 에이전트 협업은 큰 잠재력을 제공하지만, 리플렉션 및 도구 사용과 같은 보다 성숙한 워크플로에 비해 예측하기 어려운 디자인 패러다임입니다. 하지만 AutoGen, Crew AI, LangGraph와 같은 새로운 프레임워크가 효과적인 멀티 에이전트 솔루션을 구현할 수 있는 새로운 방법을 제공하고 있습니다.

이러한 패턴은 에이전트 기반 RAG 시스템의 성공의 초석으로, 검색 및 생성 워크플로우를 동적으로 조정하여 다양하고 역동적인 환경의 요구 사항을 충족할 수 있게 해줍니다. 이러한 패턴을 활용함으로써 에이전트는 기존 RAG 시스템의 기능을 뛰어넘는 반복적인 컨텍스트 인식 작업을 처리할 수 있습니다.

 

4 에이전트 기반 RAG 시스템의 분류

에이전트 기반 검색 증강 생성(RAG) 시스템은 복잡성과 설계 원칙에 따라 여러 가지 아키텍처 프레임워크로 분류할 수 있습니다. 여기에는 단일 에이전트 아키텍처, 다중 에이전트 시스템, 계층적 에이전트 아키텍처가 포함됩니다. 각 프레임워크는 특정 문제를 해결하고 다양한 애플리케이션에서 성능을 최적화하는 것을 목표로 합니다. 이 섹션에서는 이러한 아키텍처를 자세히 분류하여 각 아키텍처의 특징, 장점 및 한계를 강조합니다.

4.1 단일 에이전트 프록시 RAG: 라우터

단일 에이전트 기반 RAG[31]는 하나의 에이전트가 검색, 라우팅 및 정보 통합을 관리하는 중앙 집중식 의사 결정 시스템 역할을 합니다(그림 11 참조). 이 아키텍처는 이러한 작업을 하나의 통합 에이전트로 결합하여 시스템을 단순화하므로 도구나 데이터 소스 수가 제한된 환경에 특히 적합합니다.

워크플로

1. 문의 제출 및 평가사용자가 쿼리를 제출하면 프로세스가 시작됩니다. 조정 에이전트(또는 마스터 검색 에이전트)가 쿼리를 수신하고 이를 분석하여 가장 적합한 정보 소스를 결정합니다.
2. 지식 소스 선택: 쿼리 유형에 따라 코디네이터가 다양한 검색 옵션 중에서 선택합니다:
   • 구조화된 데이터베이스표 형식 데이터에 액세스해야 하는 쿼리의 경우, 시스템은 PostgreSQL 또는 MySQL과 같은 데이터베이스와 상호 작용하는 Text-to-SQL 엔진을 사용할 수 있습니다.
   • 시맨틱 검색비정형 정보를 다룰 때 벡터 기반 검색을 사용하여 관련 문서(예: PDF, 서적, 조직 기록)를 검색합니다.
   • 인터넷 검색실시간 또는 광범위한 맥락 정보를 위해 시스템은 웹 검색 도구를 사용하여 최신 온라인 데이터에 액세스합니다.
   • 추천 시스템개인화 또는 문맥에 맞는 쿼리의 경우 시스템은 추천 엔진을 사용하여 맞춤형 제안을 제공합니다.
3. 데이터 통합 및 LLM 합성선택한 소스에서 관련 데이터가 검색되면 수집된 정보를 모아 여러 소스의 인사이트를 일관성 있고 맥락에 맞는 응답으로 통합하는 대규모 언어 모델(LLM)로 전달됩니다.
4. 출력 생성마지막으로 시스템이 원래 쿼리에 대한 포괄적이고 사용자 지향적인 답변을 생성합니다. 답변은 실행 가능하고 간결한 형식으로 제공되며, 선택적으로 사용된 출처에 대한 참조 또는 인용이 포함됩니다.

주요 기능 및 장점

• 중앙 집중식 단순성단일 에이전트가 모든 검색 및 라우팅 작업을 처리하므로 아키텍처를 쉽게 설계, 구현 및 유지 관리할 수 있습니다.
• 효율성 및 리소스 최적화더 적은 수의 에이전트와 더 간단한 조정을 통해 시스템은 더 적은 컴퓨팅 리소스를 필요로 하며 쿼리를 더 빠르게 처리할 수 있습니다.
• 동적 라우팅상담원이 각 쿼리를 실시간으로 평가하여 가장 적합한 지식 소스(예: 구조화된 데이터베이스, 시맨틱 검색, 웹 검색)를 선택합니다.
• 교차 도구 활용성여러 데이터 소스 및 외부 API를 지원하여 정형 및 비정형 워크플로우를 모두 지원합니다.
• 간단한 시스템에 적합잘 정의된 작업 또는 제한된 통합 요구 사항(예: 파일 검색, SQL 기반 워크플로)이 있는 애플리케이션에 적합합니다.

사용 사례: 고객 지원

STH에 주목하세요.주문의 배송 상태를 알려주실 수 있나요?

시스템 프로세스(단일 상담원 워크플로우)::

1. 문의 제출 및 평가::
   • 사용자가 쿼리를 제출하면 코디네이션 에이전트가 이를 수신합니다.
   • 상담원과 협력하여 쿼리를 분석하고 가장 적절한 정보 출처를 파악하세요.
2. 지식 소스 선택::
   • 주문 관리 데이터베이스에서 추적 세부 정보를 검색합니다.
   • 배송업체의 API에서 실시간 업데이트를 받아보세요.
   • 선택 사항으로 웹 검색을 수행하여 날씨나 물류 지연 등 배송에 영향을 미치는 현지 상황을 파악할 수 있습니다.
3. 데이터 통합 및 LLM 합성::
   • 관련 데이터를 LLM에 전달하여 정보를 일관된 응답으로 통합합니다.
4. 출력 생성::
   • 이 시스템은 업데이트와 가능한 대안을 실시간으로 추적하는 실행 가능하고 간결한 응답을 생성합니다.

반응형::

통합 대응현재 배송 중이며 내일 저녁에 도착할 것으로 예상됩니다.UPS의 실시간 추적 결과 지역 물류 센터에 있는 것으로 확인되었습니다.

4.2 멀티 에이전트 RAG 시스템

다중 에이전트 RAG[31]는 단일 에이전트 아키텍처의 모듈식 확장형 진화로, 여러 전문 에이전트를 활용하여 복잡한 프로세스와 다양한 쿼리 유형을 처리하는 것을 목표로 합니다(그림 12 참조). 추론, 검색, 응답 생성 등 모든 작업을 단일 에이전트에 의존하여 관리하는 것과 달리, 이 시스템은 각각 특정 역할이나 데이터 소스에 최적화된 여러 에이전트에 책임을 할당합니다.

워크플로

1. 문의 제출프로세스는 코디네이팅 에이전트 또는 마스터 검색 에이전트가 수신한 사용자 쿼리로 시작됩니다. 이 에이전트는 중앙 코디네이터 역할을 하며 쿼리의 요구 사항에 따라 전문 검색 에이전트에게 쿼리를 위임합니다.

2. 전문 검색 에이전트쿼리는 각각 특정 유형의 데이터 소스 또는 작업에 초점을 맞춘 여러 검색 에이전트에 할당됩니다. 예시:
   • 에이전트 1구조화된 쿼리를 처리합니다(예: PostgreSQL 또는 MySQL과 같은 SQL 기반 데이터베이스와 상호 작용).
   • 에이전트 2시맨틱 검색을 관리하여 PDF, 도서 또는 내부 기록과 같은 소스에서 비정형 데이터를 검색할 수 있습니다.
   • 에이전트 3웹 검색 또는 API에서 실시간 공개 정보를 검색하는 데 중점을 둡니다.
   • 에이전트 4사용자 행동이나 프로필을 기반으로 상황에 맞는 추천을 제공하는 추천 시스템 전문 기업입니다.
3. 도구 액세스 및 데이터 검색예를 들어 각 에이전트는 쿼리를 해당 도메인 내의 적절한 도구나 데이터 소스로 라우팅합니다:
   • 벡터 검색를 사용하여 의미적 연관성을 확인합니다.
   • 텍스트를 SQL로 변환: 구조화된 데이터의 경우.
   • 인터넷 검색: 실시간 공개 정보입니다.
   • API외부 서비스 또는 독점 시스템에 액세스하는 경우.

검색 프로세스는 병렬로 실행되므로 다양한 쿼리 유형을 효율적으로 처리할 수 있습니다.

4. 데이터 통합 및 LLM 합성검색이 완료되면 에이전트의 모든 데이터가 LLM(대규모 언어 모델)으로 전달되어 검색된 정보를 여러 소스의 인사이트를 원활하게 통합하는 일관성 있고 맥락에 맞는 응답으로 통합합니다.
5. 출력 생성시스템은 실행 가능하고 간결한 형식으로 사용자에게 다시 전달되는 포괄적인 응답을 생성합니다.

주요 기능 및 장점

• 모듈화각 에이전트는 독립적으로 작동하므로 시스템 요구 사항에 따라 에이전트를 원활하게 추가하거나 제거할 수 있습니다.
• 확장성여러 에이전트의 병렬 처리를 통해 많은 양의 쿼리를 효율적으로 처리할 수 있습니다.
• 업무 전문화각 에이전트는 특정 유형의 쿼리 또는 데이터 소스에 최적화되어 정확도와 검색 관련성을 향상시킵니다.
• 효율성전담 상담원에게 작업을 할당함으로써 병목 현상을 최소화하고 복잡한 워크플로우의 성능을 향상시킵니다.
• 다용도성연구, 분석, 의사 결정, 고객 지원 등 여러 영역의 애플리케이션에 적합합니다.

도전

• 조정 복잡성상담원 간 커뮤니케이션 및 작업 위임을 관리하려면 복잡한 조정 메커니즘이 필요합니다.
• 계산 오버헤드여러 에이전트를 병렬 처리하면 리소스 사용량이 증가할 수 있습니다.
• 데이터 통합서로 다른 소스의 출력을 일관된 응답으로 통합하는 것은 쉽지 않으며 고급 LLM 기능이 필요합니다.

사용 사례: 다학제 연구 조교

STH에 주목하세요.유럽에서 재생 에너지 도입이 경제 및 환경에 미치는 영향은 무엇인가요?

시스템 프로세스(멀티 에이전트 워크플로)::

• 에이전트 1SQL 쿼리를 사용하여 경제 데이터베이스에서 통계 데이터를 검색합니다.
• 에이전트 2시맨틱 검색 도구를 사용하여 관련 학술 논문을 검색합니다.
• 에이전트 3재생 에너지에 관한 최신 뉴스와 정책 업데이트를 웹 검색으로 확인하세요.
• 에이전트 4추천 시스템을 참조하여 보고서나 전문가 해설 등 관련 콘텐츠를 추천하세요.

반응형::

통합 대응:: "EU 정책 보고서에 따르면 유럽에서 재생 에너지를 채택한 결과 지난 10년간 온실가스 배출량이 20% 감소했습니다. 경제적 측면에서도 재생에너지 투자는 약 120만 개의 일자리를 창출했으며, 특히 태양광과 풍력 부문에서 상당한 성장을 이루었습니다. 최근의 학술 연구에서도 그리드 안정성과 에너지 저장 비용 측면에서 잠재적인 트레이드오프가 있음을 강조했습니다."

4.3 계층적 에이전트 기반 RAG 시스템

계층적 에이전트 기반 RAG[17] 시스템은 정보 검색 및 처리에 구조화된 다단계 접근 방식을 사용하여 효율성과 전략적 의사 결정을 개선합니다(그림 13 참조). 에이전트는 계층적 구조로 구성되어 상위 에이전트가 하위 에이전트를 감독하고 안내합니다. 이 구조는 다단계 의사 결정을 가능하게 하고 가장 적절한 리소스가 쿼리를 처리하도록 보장합니다.

워크플로

1. 문의 접수사용자가 쿼리를 제출하면 초기 평가 및 커미셔닝을 담당하는 최상위 상담원이 이를 수신합니다.
2. 전략적 의사 결정최상위 에이전트는 쿼리의 복잡성을 평가하고 우선순위를 정할 하위 에이전트나 데이터 소스를 결정합니다. 쿼리의 도메인에 따라 특정 데이터베이스, API 또는 검색 도구가 더 안정적이거나 관련성이 높은 것으로 간주될 수 있습니다.
3. 부하 직원에게 위임최상위 상담원은 특정 검색 방법(예: SQL 데이터베이스, 웹 검색 또는 독점 시스템)을 전문으로 하는 하위 상담원에게 작업을 배정합니다. 이러한 에이전트는 할당된 작업을 독립적으로 수행합니다.
4. 중합 및 합성상위 상담원은 하위 상담원의 결과를 수집하고 통합하여 일관된 대응으로 정보를 통합합니다.
5. 응답 전달최종적으로 합성된 답변이 사용자에게 반환되어 포괄적이고 맥락에 맞는 답변이 제공되도록 합니다.

주요 기능 및 장점

• 전략적 우선순위 지정최상위 상담원은 쿼리 복잡성, 안정성 또는 컨텍스트에 따라 데이터 원본이나 작업의 우선 순위를 지정할 수 있습니다.
• 확장성여러 상담원 레벨에 작업을 할당하면 매우 복잡하거나 다면적인 쿼리를 처리할 수 있습니다.
• 의사 결정 능력 향상:: 고위급 상담원은 전반적인 대응의 정확성과 일관성을 높이기 위해 전략적 감독을 적용합니다.

도전

• 조정 복잡성여러 레벨에 걸쳐 에이전트 간 커뮤니케이션을 강력하게 유지하면 조정 오버헤드가 증가할 수 있습니다.
• 리소스 할당병목 현상을 피하면서 각 레벨 간에 작업을 효율적으로 분배하는 것은 쉽지 않습니다.

사용 사례: 재무 분석 시스템

STH에 주목하세요.현재 시장 동향에 따른 재생 에너지 투자 옵션은 무엇인가요?

시스템 프로세스(계층적 에이전트 워크플로)::

1. 에이전트를 계층 구조의 맨 위에 배치합니다.쿼리의 복잡성을 평가하고 덜 검증된 데이터 소스보다 신뢰할 수 있는 재무 데이터베이스와 경제 지표의 우선 순위를 정합니다.
2. 중간급 상담원독점 API 및 구조화된 SQL 데이터베이스에서 실시간 시장 데이터(예: 주가, 업계 실적)를 검색합니다.
3. 낮은 수준의 에이전트최근 발표 및 정책에 대한 웹 검색을 수행하고, 추천 시스템을 참조하여 전문가 의견 및 뉴스 분석을 추적합니다.
4. 중합 및 합성정량적 데이터와 정책 인사이트를 통합하는 최상위 프록시 집계 결과입니다.

반응형::

통합 대응"현재 시장 데이터에 따르면 지난 분기 동안 재생 에너지의 주가는 정부 지원 정책과 투자자들의 높은 관심에 힘입어 151조 3,000억 달러 증가했습니다. 분석가들은 풍력 및 태양광 부문이 계속해서 모멘텀을 확보할 것으로 보고 있으며, 그린 수소와 같은 신흥 기술은 위험은 다소 있지만 높은 수익을 제공할 수 있을 것으로 예상합니다."

4.4 프록시 수정 RAG

Corrective RAG [32] [33]는 검색 결과를 스스로 수정하는 기능을 도입하여 문서 활용도를 높이고 응답 생성의 품질을 개선합니다(그림 14 참조). 지능형 에이전트를 워크플로우에 내장함으로써 Corrective RAG [32] [33]는 문맥에 맞는 문서와 응답을 반복적으로 개선하여 오류를 최소화하고 관련성을 극대화합니다.

RAG의 핵심 아이디어 수정하기수정 RAG의 핵심 원칙은 검색된 문서를 동적으로 평가하고, 수정 작업을 수행하고, 쿼리를 세분화하여 생성된 응답의 품질을 개선하는 기능에 있습니다. Corrective RAG는 다음과 같이 방법론을 조정합니다:

• 문서 관련성 평가검색된 문서는 관련성 평가 에이전트에 의해 평가됩니다. 관련성 임계값에 미달하는 문서는 수정 단계를 트리거합니다.
• 문의 개선 및 향상더 나은 결과를 위해 검색을 최적화하기 위해 의미 이해를 사용하는 쿼리 정제 에이전트에 의해 쿼리가 정제됩니다.
• 외부 소스에서 동적 검색컨텍스트가 불충분한 경우 외부 지식 검색 에이전트가 웹 검색을 수행하거나 대체 데이터 소스에 액세스하여 검색된 문서를 보완합니다.
• 응답 합성최종 응답 생성을 위해 검증되고 정제된 모든 정보가 응답 합성 에이전트로 전달됩니다.

워크플로수정 RAG 시스템은 5가지 핵심 에이전트를 기반으로 합니다:

1. 문맥 검색 에이전트벡터 데이터베이스에서 초기 컨텍스트 문서를 검색하는 역할을 담당합니다.
2. 관련성 평가 에이전트검색된 문서의 관련성을 평가하고 관련성이 없거나 모호한 문서에 플래그를 지정하여 수정 조치를 취합니다.
3. 문의 개선 에이전트검색 효율성을 개선하기 위해 쿼리를 다시 작성하고 의미 이해를 사용하여 결과를 최적화합니다.
4. 외부 지식 검색 에이전트컨텍스트 문서가 충분하지 않은 경우 웹 검색을 수행하거나 대체 데이터 소스에 액세스합니다.
5. 응답 합성 에이전트모든 검증된 정보를 일관성 있고 정확한 응답으로 통합합니다.

주요 기능 및 장점

• 반복 보정관련성이 없거나 모호한 검색 결과를 동적으로 식별하고 수정하여 높은 응답 정확도를 보장합니다.
• 동적 적응실시간 웹 검색과 쿼리 세분화를 통합하여 검색 정확도를 개선합니다.
• 프록시 모듈식각 상담원은 효율적이고 확장 가능한 운영을 보장하기 위해 전문화된 작업을 수행합니다.
• 사실 보증RAG를 수정하면 검색 및 생성된 모든 콘텐츠의 유효성을 검사하여 환각이나 잘못된 정보의 위험을 최소화할 수 있습니다.

사용 사례: 학술 연구 조교

STH에 주목하세요.제너레이티브 AI 연구의 최신 연구 결과는 무엇인가요?

시스템 프로세스(RAG 워크플로 수정)::

1. 문의 제출사용자가 시스템에 쿼리를 제출합니다.
2. 문맥 검색::
   • 문맥 검색 에이전트제너레이티브 AI에 관해 발표된 논문 데이터베이스에서 초기 문서를 검색합니다.
   • 검색된 문서는 평가를 위해 다음 단계로 넘어갑니다.
3. 관련성 평가:
   • 관련성 평가 에이전트문서와 쿼리 간의 일치 여부를 평가합니다.
   • 문서를 관련성 있음, 모호함 또는 관련성 없음으로 분류합니다. 관련성이 없는 문서는 수정 조치를 위해 플래그가 지정됩니다.
4. 시정 조치(필요한 경우):
   • 문의 개선 에이전트쿼리 재작성을 통해 구체성을 개선합니다.
   • 외부 지식 검색 에이전트웹 검색을 수행하여 외부 출처에서 추가 논문 및 보고서를 확보하세요.
5. 응답 합성.
   • 응답 합성 에이전트검증된 문서를 포괄적이고 상세한 요약본으로 통합하세요.

응답.

통합 대응"최근의 생성 AI 연구 결과에는 확산 모델, 텍스트-비디오 작업에서의 강화 학습, 대규모 모델 학습을 위한 최적화 기술의 발전이 포함됩니다. 자세한 내용은 NeurIPS 2024 및 AAAI 2025에서 발표된 연구를 참조하세요."

4.5 적응형 에이전트 기반 RAG

적응형 검색 증강 생성(Adaptive RAG)[34]은 들어오는 쿼리의 복잡성에 따라 쿼리 처리 전략을 동적으로 조정하여 대규모 언어 모델(LLM)의 유연성과 효율성을 향상시킵니다. 정적 검색 워크플로우와 달리, 적응형 RAG[35]는 분류기를 사용하여 쿼리 복잡도를 분석하고 그림 15와 같이 단일 단계 검색에서 다단계 추론에 이르기까지 가장 적절한 접근 방식을 결정하거나 간단한 쿼리의 경우 검색을 아예 생략할 수도 있습니다.

적응형 RAG의 핵심 아이디어 적응형 RAG의 핵심 원리는 쿼리의 복잡성에 따라 검색 전략을 동적으로 조정하는 기능에 있습니다. 적응형 RAG는 다음과 같이 그 방법을 조정합니다:

• 간단한 쿼리:: 추가 검색이 필요한 사실에 관한 질문(예: "물의 끓는점은 얼마인가요?") 추가 검색이 필요한 사실 질문(예: "물의 끓는점은 얼마인가요?")의 경우, 시스템이 기존 지식을 사용하여 직접 답변을 생성합니다.
• 간단한 쿼리:: 최소한의 컨텍스트가 필요한 중간 정도의 복잡한 작업(예: "최근 전기 요금 현황은 어떻게 되나요?")의 경우 를 입력하면 시스템이 한 단계 검색을 수행하여 관련 세부 정보를 가져옵니다.
• 복잡한 쿼리:: 반복적인 추론이 필요한 다단계 쿼리(예: "지난 10년간 도시 X의 인구는 어떻게 변화했으며, 그 요인은 무엇인가요?")의 경우 의 경우, 시스템은 다단계 검색을 사용하여 점진적으로 중간 결과를 구체화하여 포괄적인 답변을 제공합니다.

워크플로적응형 RAG 시스템은 세 가지 주요 구성 요소를 기반으로 합니다:

1. 분류기 역할.
   • 더 작은 언어 모델은 쿼리를 분석하여 복잡성을 예측합니다.
   • 분류기는 과거 모델 결과와 쿼리 패턴에서 파생된 자동 레이블이 지정된 데이터 세트를 사용하여 학습됩니다.
2. 동적 전략 선택.
   • 간단한 쿼리의 경우 시스템은 불필요한 검색을 피하고 LLM을 사용하여 직접 응답을 생성합니다.
   • 간단한 쿼리의 경우 단일 단계 검색 프로세스를 사용하여 관련 컨텍스트를 가져옵니다.
   • 복잡한 쿼리의 경우 다단계 검색을 활성화하여 반복적인 세분화와 향상된 추론을 보장합니다.
3. LLM 통합.
   • LLM은 검색된 정보를 일관된 응답으로 통합합니다.
   • LLM과 분류기 간의 반복적인 상호 작용을 통해 복잡한 쿼리를 세분화할 수 있습니다.

주요 기능 및 이점

• 동적 적응:: 쿼리 복잡성에 맞게 검색 전략을 조정하여 계산 효율성과 응답 정확도를 최적화합니다.
• 리소스 효율성:: 간단한 쿼리의 경우 불필요한 오버헤드를 최소화하고 복잡한 쿼리는 철저하게 처리할 수 있습니다.
• 정확성 향상:: 반복적인 세분화를 통해 복잡한 쿼리를 높은 정확도로 해결할 수 있습니다.
• 손재주도메인별 도구 또는 외부 API와 같은 추가 경로를 통합하도록 확장할 수 있습니다.

사용 사례. 고객 지원 도우미

팁. 소포가 지연되는 이유는 무엇이며 어떤 옵션이 있나요?

시스템 프로세스(적응형 RAG 워크플로).

1. 문의 카테고리.
   • 분류기는 쿼리를 분석하여 다단계 추론이 필요한 복잡한 쿼리인지 판단합니다.
2. 동적 전략 선택.
   • 시스템은 복잡성 분류에 따라 다단계 검색 프로세스를 활성화합니다.
3. 다단계 검색.
   • 주문 데이터베이스에서 추적 세부 정보를 검색합니다.
   • 택배 API에서 실시간 상태 업데이트를 받으세요.
   • 웹 검색을 통해 기상 조건이나 지역적 장애와 같은 외부 요인을 찾아보세요.
4. 응답 합성.
   • LLM은 검색된 모든 정보를 종합적이고 실행 가능한 대응으로 통합합니다.

응답.

통합 대응"해당 지역의 악천후로 인해 소포가 지연되었습니다. 현재 현지 물류 센터에 있으며 2일 이내에 도착할 것으로 예상됩니다. 또는 시설에서 직접 수령하실 수도 있습니다."

4.6 그래프 기반 에이전트 기반 RAG

4.6.1 Agent-G: 그래프 RAG를 위한 에이전트 기반 프레임워크

Agent-G[8]는 그래프 지식 기반과 비정형 문서 검색을 결합한 혁신적인 에이전트 기반 아키텍처를 도입합니다. 이 프레임워크는 정형 및 비정형 데이터 소스를 결합함으로써 검색 증강 생성(RAG) 시스템의 추론 및 검색 정확도를 향상시킵니다. 그림 16과 같이 모듈식 검색 라이브러리, 동적 에이전트 상호 작용, 피드백 루프를 사용하여 고품질의 결과물을 보장합니다.

에이전트-G의 핵심 아이디어 에이전트-G의 핵심 원리는 그래프 지식 기반과 텍스트 파일을 활용하여 검색 작업을 전문 에이전트에게 동적으로 할당하는 기능에 있으며, 에이전트-G는 다음과 같이 검색 전략을 조정합니다:

• 그래픽 지식 기반구조화된 데이터를 사용하여 관계, 계층 구조 및 연관성을 추출합니다(예: 의료 영역에서 질병과 증상 간 매핑).
• 비정형 문서:: 기존의 텍스트 검색 시스템은 그래프 데이터를 보완하기 위해 문맥 정보를 제공합니다.
• 비평 모듈:: 검색된 정보의 관련성 및 품질을 평가하여 쿼리와 일치하는지 확인합니다.
• 피드백 루프:: 반복적인 유효성 검사 및 재질의를 통해 검색 및 합성을 개선합니다.

워크플로Agent-G 시스템은 네 가지 주요 구성 요소를 기반으로 합니다:

1. 리트리버 라이브러리.
   • 모듈형 에이전트 세트는 그래프 기반 또는 비정형 데이터 검색에 특화되어 있습니다.
   • 상담원은 쿼리의 요구 사항에 따라 관련 소스를 동적으로 선택합니다.
2. 비평 모듈.
   • 검색된 데이터의 관련성과 품질을 검증합니다.
   • 신뢰도가 낮은 결과를 다시 검색하거나 구체화하기 위해 플래그를 지정합니다.
3. 동적 에이전트 상호 작용.
   • 작업별 에이전트가 협업하여 다양한 유형의 데이터를 통합합니다.
   • 그림과 텍스트 소스 간의 조율된 검색 및 합성을 보장합니다.
4. LLM 통합.
   • 검증된 데이터를 일관된 응답으로 합성합니다.
   • 비판 모듈의 반복적인 피드백은 쿼리 의도와 일치하도록 보장합니다.

주요 기능 및 이점

• 향상된 추론다이어그램의 구조화된 관계를 비정형 문서의 컨텍스트 정보와 결합합니다.
• 동적 적응:: 쿼리 요구 사항에 맞게 검색 전략을 동적으로 조정합니다.
• 정확도 향상비판 모듈은 응답에서 관련성이 없거나 품질이 낮은 데이터의 위험을 줄여줍니다.
• 확장 가능한 모듈성:: 확장성을 높이기 위해 전문화된 작업을 수행할 새 상담원을 추가할 수 있도록 지원합니다.

사용 사례: 의료 진단

팁. 제2형 당뇨병의 일반적인 증상은 무엇이며 심장병과 어떤 관련이 있나요?

시스템 프로세스(에이전트-G 워크플로).

1. 쿼리 수신 및 배포:: 시스템은 쿼리를 수신하고 질문에 대한 완전한 답변을 위해 그래프 구조화 데이터와 비정형 데이터를 모두 사용해야 할 필요성을 파악합니다.
2. 차트 찾기.
   • 의료 지식 그래프에서 제2형 당뇨병과 심장 질환의 관계를 추출합니다.
   • 그래프 계층 구조와 관계를 탐색하여 비만, 고혈압과 같은 일반적인 위험 요소를 파악하세요.
3. 문서 검색기.
   • 의학 문헌에서 제2형 당뇨병 증상(예: 갈증 증가, 잦은 배뇨, 피로)에 대한 설명을 검색합니다.
   • 그래프 기반 인사이트를 보완하기 위해 컨텍스트 정보를 추가하세요.
4. 비평 모듈.
   • 검색된 그래프 데이터와 문서 데이터의 관련성 및 품질을 평가합니다.
   • 신뢰도가 낮은 결과에 플래그를 지정하여 구체화하거나 다시 쿼리합니다.
5. 응답 합성:: LLM은 그래프 검색기와 문서 검색기의 유효성 검사 데이터를 일관된 응답으로 통합하여 쿼리 의도와 일치하도록 보장합니다.

응답.

통합 대응"제2형 당뇨병의 증상으로는 갈증 증가, 잦은 배뇨, 피로감 등이 있습니다. 연구에 따르면 당뇨병과 심장병은 주로 비만과 고혈압과 같은 공통 위험 요인을 통해 50%의 상관관계가 있는 것으로 나타났습니다."

4.6.2 GeAR: 검색 증강 생성을 위한 그래프 증강 에이전트

GeAR[36]은 그래프 기반 검색 메커니즘을 통합하여 기존의 검색 증강 생성(RAG) 시스템을 향상시키는 에이전트 기반 프레임워크를 도입합니다. 그래프 확장 기술과 에이전트 기반 아키텍처를 활용하여 그림 17과 같이 GeAR은 멀티홉 검색 시나리오의 문제를 해결하고 복잡한 쿼리를 처리하는 시스템의 능력을 향상시킵니다.

GeAR의 핵심 아이디어 GeAR는 두 가지 주요 혁신을 통해 RAG 성능을 개선합니다:

• 그래픽 확장검색 프로세스를 그래프 구조의 데이터를 포함하도록 확장하여 기존 기준 검색기(예: BM25)를 개선하여 시스템이 개체 간의 복잡한 관계와 종속성을 포착할 수 있도록 합니다.
• 프록시 프레임워크검색 작업을 보다 효율적으로 관리하기 위해 그래프 확장을 활용하는 에이전트 기반 아키텍처를 통합하여 검색 프로세스 중에 동적이고 자율적인 의사 결정을 내릴 수 있습니다.

워크플로: GeAR 시스템은 다음 구성 요소를 통해 작동합니다:

1. 그림 확장 모듈.
   • 그래프 기반 데이터를 검색 프로세스에 통합하면 검색 프로세스 중에 시스템에서 개체 간의 관계를 고려할 수 있습니다.
   • 연결된 엔터티를 포함하도록 검색 공간을 확장하여 기준 검색기가 멀티홉 쿼리를 처리하는 기능을 향상시킵니다.
2. 에이전트 기반 검색.
   • 에이전트 프레임워크는 검색 프로세스를 관리하는 데 사용되며, 에이전트는 쿼리의 복잡성에 따라 검색 전략을 동적으로 선택하고 결합할 수 있습니다.
   • 상담원은 그래프 확장을 사용하여 검색 경로를 자율적으로 결정하여 검색된 정보의 관련성과 정확성을 향상시킬 수 있습니다.
3. LLM 통합.
   • 검색된 정보를 그래프 확장의 장점과 대규모 언어 모델링(LLM)의 기능을 결합하여 일관성 있고 맥락에 맞는 응답을 생성할 수 있습니다.
   • 이러한 통합을 통해 비정형 문서와 정형 그래프 데이터 모두에서 영감을 받아 생성 프로세스를 진행할 수 있습니다.

주요 기능 및 이점

• 향상된 멀티홉 검색:: GeAR의 그래프 확장을 통해 시스템은 상호 관련된 여러 정보에 대한 추론이 필요한 복잡한 쿼리를 처리할 수 있습니다.
• 대리 의사 결정프록시 프레임워크를 사용하면 검색 전략을 동적이고 자율적으로 선택할 수 있어 효율성과 관련성이 향상됩니다.
• 정확도 향상:: 구조화된 그래프 데이터를 통합함으로써 GeAR은 검색된 정보의 정확도를 향상시켜 보다 정확하고 상황에 적합한 응답을 생성합니다.
• 확장성에이전트 프레임워크의 모듈식 특성 덕분에 필요에 따라 추가 검색 전략과 데이터 소스를 통합할 수 있습니다.

사용 사례: 멀티홉 퀴즈

팁. J.K. 롤링의 멘토는 누구에게 영향을 받았나요?

시스템 프로세스(GeAR 워크플로).

1. 에이전트를 계층 구조의 맨 위에 배치합니다.쿼리의 멀티홉 특성을 평가하고 질문에 답하기 위해 그래프 확장과 문서 검색을 결합할 필요성을 결정합니다.
2. 그림 확장 모듈.
   • 쿼리의 핵심 엔터티로 J.K. Rowling의 멘토를 식별합니다.
   • 문학 관계 지도 구조에서 데이터를 탐색하여 멘토의 문학적 영향을 추적합니다.
3. 에이전트 기반 검색.
   • 상담원이 자율적으로 그래프로 확장된 검색 경로를 선택하여 멘토의 영향력에 대한 관련 정보를 수집합니다.
   • 텍스트 데이터 소스를 쿼리하여 멘토와 멘토의 영향력에 대한 구조화되지 않은 세부 정보에 대한 추가 컨텍스트를 통합하세요.
4. 응답 합성LLM을 사용하여 그래프와 문서 검색 프로세스에서 얻은 인사이트를 결합하여 쿼리의 복잡한 관계를 정확하게 반영하는 응답을 생성합니다.

응답.

통합 대응"[유명 작품 또는 장르]로 유명한 [작가 이름]의 멘토인 [멘토 이름]은 J.K. 롤링의 영향을 많이 받았고, [작가 이름]은 [유명 작품 또는 장르]로 유명한 [작가 이름]의 영향을 많이 받았습니다. 이러한 연결은 영향력 있는 아이디어가 여러 세대의 작가를 거쳐 전달되는 문학사에서 연쇄적인 관계를 강조합니다."

4.7 에이전트 기반 RAG의 에이전트 기반 문서 워크플로

에이전트 문서 워크플로(ADW)[37]은 엔드투엔드 지식 작업을 자동화함으로써 기존의 검색 증강 생성(RAG) 패러다임을 확장합니다. 이러한 워크플로는 문서 구문 분석, 검색, 추론, 구조화된 출력을 지능형 에이전트와 통합하는 복잡한 문서 중심 프로세스를 조율합니다(그림 18 참조).ADW 시스템은 상태를 유지하고, 다단계 워크플로를 조율하고, 도메인별 로직을 문서에 적용함으로써 지능형 문서 처리(IDP) 및 RAG의 한계를 해결합니다.

워크플로

1. 문서 구문 분석 및 정보 구조화::
   • 엔터프라이즈급 도구(예: LlamaParse)를 사용하여 문서를 구문 분석하여 송장 번호, 날짜, 공급업체 정보, 항목, 결제 조건 등 관련 데이터 필드를 추출합니다.
   • 후속 처리를 위해 구조화된 데이터를 정리하세요.
2. 교차 프로세스 상태 유지 관리::
   • 이 시스템은 해당 문서 컨텍스트의 상태를 유지하여 여러 단계의 워크플로에서 일관성과 관련성을 보장합니다.
   • 다양한 처리 단계를 통해 문서의 진행 상황을 추적하세요.
3. 지식 검색::
   • 외부 지식 베이스(예: LlamaCloud) 또는 벡터 인덱스에서 관련 참조를 검색합니다.
   • 향상된 의사 결정을 위해 도메인별 실시간 가이드를 검색하세요.
4. 상담원 기반 스케줄링::
   • 지능형 에이전트는 비즈니스 규칙을 적용하고, 멀티홉 추론을 수행하고, 실행 가능한 권장 사항을 생성합니다.
   • 파서, 검색기, 외부 API와 같은 구성 요소를 오케스트레이션하여 원활하게 통합할 수 있습니다.
5. 실행 가능한 출력 생성::
   • 출력은 특정 사용 사례에 맞게 구조화된 형식으로 제공됩니다.
   • 권장 사항과 추출된 인사이트를 간결하고 실행 가능한 보고서로 종합하세요.

사용 사례: 송장 결제 워크플로

STH에 주목하세요.제출된 인보이스와 관련 벤더 계약 조건을 기반으로 결제 조언 보고서를 생성합니다.

시스템 프로세스(ADW 워크플로)::

1. 송장 구문 분석을 통해 송장 번호, 날짜, 공급업체 정보, 항목 및 결제 조건과 같은 주요 세부 정보를 추출합니다.
2. 적절한 벤더 계약서를 검색하여 결제 조건을 확인하고 적용 가능한 할인 또는 규정 준수 요건을 파악하세요.
3. 원래 납부해야 할 금액, 가능한 조기 납부 할인, 예산 영향 분석 및 전략적 납부 조치를 포함하는 납부 권장 보고서를 생성합니다.

반응형통합 응답: "$15,000.00 금액의 송장 INV-2025-045가 처리되었습니다. 2025-04-10까지 결제하면 2%의 조기 결제 할인이 적용되어 $14,700.00으로 금액이 감소하며, 소계가 $10,000.00을 초과하므로 5%의 대량 주문 할인이 적용되었습니다. 2%를 절약하고 향후 프로젝트 단계에 자금을 적시에 할당하기 위해 조기 지급을 승인하는 것이 좋습니다."

주요 기능 및 장점

• 상태 유지 관리문서 컨텍스트 및 워크플로 단계를 추적하여 프로세스 전반의 일관성을 보장합니다.
• 다단계 프로그래밍여러 구성 요소와 외부 도구가 포함된 복잡한 워크플로우를 처리합니다.
• 도메인별 인텔리전스정확한 조언을 위해 맞춤형 비즈니스 규칙과 가이드라인을 적용하세요.
• 확장성모듈식 및 동적 에이전트 통합을 통해 대규모 문서 처리를 지원합니다.
• 생산성 향상반복적인 작업을 자동화하는 동시에 의사 결정에 대한 인간의 전문성을 강화합니다.

4.8 에이전트 기반 RAG 프레임워크 비교 분석

표 2는 기존 RAG, 에이전트 기반 RAG, 에이전트 기반 문서 워크플로우(ADW)의 세 가지 아키텍처 프레임워크에 대한 종합적인 비교 분석을 제공합니다. 이 분석은 각각의 강점, 약점 및 가장 적합한 시나리오를 강조하여 다양한 사용 사례에 적용할 수 있는 귀중한 통찰력을 제공합니다.

표 2: 비교 분석: 기존 RAG 대 에이전트 기반 RAG 대 에이전트 기반 문서 워크플로우(ADW)

특성화	전통적인 RAG	프록시 RAG	에이전트 기반 문서 워크플로(ADW)
재검표(예: 선거 결과)	격리된 검색 및 생성 작업	멀티 에이전트 협업 및 추론	문서 중심의 엔드투엔드 워크플로
컨텍스트 유지 관리	제약 조건	메모리 모듈을 통한 구현	다단계 워크플로에서 상태 유지 관리하기
동적 적응	최소	귀하의(경칭)	문서 워크플로우에 맞춘 맞춤형 서비스
워크플로 구성	hiatus	멀티 에이전트 작업 오케스트레이션	통합 다단계 문서 처리
외부 도구/API 사용	기본 통합(예: 검색 도구)	도구를 통한 확장(예: API 및 지식창고)	비즈니스 규칙 및 도메인별 도구와의 긴밀한 통합
확장성	소규모 데이터 집합 또는 쿼리로 제한	확장 가능한 멀티 에이전트 시스템	확장 가능한 다분야 엔터프라이즈 워크플로
복잡한 추론	기본(예: 간단한 퀴즈)	에이전트를 사용한 다단계 추론	문서 전반의 구조화된 추론
주요 애플리케이션	Q&A 시스템, 지식 검색	다학제적 지식과 추론 능력	계약 검토, 송장 처리, 청구 분석
최첨단	간단하고 빠른 설정	높은 정확도, 협업 추론	엔드투엔드 자동화, 도메인별 인텔리전스
도전	문맥 이해 부족	조정 복잡성	리소스 오버헤드, 현장 표준화

이 비교 분석은 기존 RAG에서 에이전트 기반 RAG, 에이전트 기반 문서 워크플로우(ADW)로의 진화 궤적을 강조합니다. 기존 RAG는 기본 작업에 대한 단순성과 배포 용이성이라는 이점을 제공하는 반면, 에이전트 기반 RAG는 다중 에이전트 협업을 통해 향상된 추론 기능과 확장성을 제공하며, ADW는 엔드투엔드 자동화와 도메인별 프로세스와의 통합을 용이하게 하는 강력한 문서 중심 워크플로를 제공함으로써 이러한 발전을 기반으로 구축됩니다. 특정 애플리케이션 요구사항과 운영 요구사항에 가장 적합한 아키텍처를 선택하려면 각 프레임워크의 강점과 한계를 이해하는 것이 중요합니다.

5 프록시 RAG 적용

에이전트 기반 검색 증강 생성(RAG) 시스템은 다양한 영역에서 혁신적인 잠재력을 보여줍니다. 이러한 시스템은 실시간 데이터 검색, 생성 기능, 자율적 의사 결정을 결합하여 복잡하고 동적이며 복합적인 문제를 해결합니다. 이 섹션에서는 고객 지원, 의료, 금융, 교육, 법률 워크플로우, 창조 산업 등의 분야에서 에이전트 기반 RAG의 주요 애플리케이션을 살펴보고 이러한 시스템이 어떻게 변화하고 있는지 자세히 설명합니다.

5.1 고객 지원 및 가상 도우미

상담원 기반 RAG 시스템은 실시간 상황 인식 쿼리 해결을 통해 고객 지원에 혁신을 일으키고 있습니다. 기존의 챗봇과 가상 비서는 정적인 지식 기반에 의존하기 때문에 일반적이거나 오래된 응답을 제공하는 경우가 많습니다. 이와는 대조적으로 상담원 기반 RAG 시스템은 가장 관련성이 높은 정보를 동적으로 검색하고 사용자의 상황에 맞게 조정하며 개인화된 답변을 생성합니다.

사용 사례: Twitch 광고 매출 향상 [38]

예를 들어, Twitch는 광고 판매를 간소화하기 위해 아마존 베드락의 RAG와 함께 에이전시 스타일의 워크플로우를 활용하고 있습니다. 이 시스템은 광고주 데이터, 과거 캠페인 실적, 시청자 통계를 동적으로 검색하여 상세한 광고 제안을 생성함으로써 운영 효율성을 크게 개선합니다.

주요 혜택:

• 응답 품질 개선상황에 맞는 개인화된 응답으로 사용자 참여도를 높입니다.
• 운영 효율성복잡한 쿼리를 자동화하여 수동 지원 상담원의 업무량을 줄여줍니다.
• 실시간 적응성실시간 서비스 중단 또는 가격 업데이트와 같이 변화하는 데이터를 동적으로 통합합니다.

5.2 의료 서비스 및 개인 맞춤형 의약품

의료 분야에서 환자별 데이터와 최신 의학 연구를 결합하는 것은 정보에 입각한 의사 결정을 내리는 데 매우 중요합니다. 에이전트 기반 RAG 시스템은 실시간 임상 지침, 의학 문헌, 환자 이력을 검색하여 임상의의 진단 및 치료 계획을 지원함으로써 이를 가능하게 합니다.

사용 사례: 환자 사례 요약 [39]

에이전트 기반 RAG 시스템은 환자 사례 요약을 생성하는 데 적용되었습니다. 예를 들어, 이 시스템은 전자 건강 기록(EHR)과 최신 의학 문헌을 통합하여 임상의가 보다 신속하고 정보에 입각한 결정을 내릴 수 있도록 종합적인 요약을 생성합니다.

주요 혜택:

• 개인 맞춤형 관리개별 환자의 필요에 맞게 권장 사항을 조정합니다.
• 시간 효율성관련 연구 검색을 간소화하고 의료진의 소중한 시간을 절약하세요.
• 정확성권장 사항이 최신 근거와 환자별 매개변수를 기반으로 하는지 확인합니다.

5.3 법률 및 계약 분석

에이전트 기반 RAG 시스템은 신속한 문서 분석 및 의사 결정을 위한 도구를 제공하여 법률 워크플로우를 실행하는 방식을 재정의하고 있습니다.

사용 사례: 계약서 검토 [40]

법률 대리인 스타일의 RAG 시스템은 계약을 분석하고 핵심 조항을 추출하며 잠재적 위험을 식별합니다. 시맨틱 검색 기능과 법률 지식 매핑을 결합하여 번거로운 계약서 검토 프로세스를 자동화함으로써 규정 준수를 보장하고 리스크를 완화합니다.

주요 혜택:

• 위험 식별표준 절에서 벗어난 절에 자동으로 플래그를 지정합니다.
• 효율성계약 검토 프로세스에 소요되는 시간을 단축하세요.
• 확장성: 동시에 많은 수의 계약을 처리합니다.

5.4 재무 및 위험 분석

에이전트 기반 RAG 시스템은 투자 결정, 시장 분석, 리스크 관리를 위한 실시간 인사이트를 제공함으로써 금융 산업을 혁신하고 있습니다. 이러한 시스템은 실시간 데이터 스트림, 과거 추세, 예측 모델링을 통합하여 실행 가능한 결과물을 생성합니다.

사용 사례: 자동차 보험 청구 처리 [41]

자동차 보험에서 에이전트 기반 RAG는 보험금 청구 처리를 자동화합니다. 예를 들어, 보험 세부 정보를 검색하고 이를 사고 데이터와 결합하여 규정 요건을 준수하면서 보험금 청구에 대한 조언을 생성합니다.

주요 혜택:

• 실시간 분석실시간 시장 데이터를 기반으로 인사이트를 제공합니다.
• 위험 완화예측 분석 및 다단계 추론을 사용하여 잠재적 위험을 식별합니다.
• 의사 결정 능력 향상과거 데이터와 실시간 데이터를 결합하여 종합적인 전략을 개발하세요.

5.5 교육

교육은 에이전트 기반 RAG 시스템이 상당한 진전을 이룬 또 다른 분야입니다. 이러한 시스템은 학습자의 진행 상황과 선호도에 맞는 설명, 학습 자료 및 피드백을 생성하여 적응형 학습을 가능하게 합니다.

사용 사례: 연구 논문 생성 [42]

고등 교육 분야에서 에이전트 기반 RAG는 여러 출처의 주요 결과를 종합하여 연구자를 지원하는 데 사용되어 왔습니다. 예를 들어, "양자 컴퓨팅의 최신 발전은 무엇인가요?"라고 질문하는 연구자에게는 라고 질문하는 연구자는 참고 문헌이 포함된 간결한 요약을 받아 작업의 품질과 효율성을 개선할 수 있습니다.

주요 혜택:

• 맞춤형 학습 경로개별 학생의 요구와 수행 수준에 맞게 콘텐츠를 조정합니다.
• 매력적인 상호 작용대화형 설명과 개인화된 피드백을 제공합니다.
• 확장성다양한 교육 환경을 위한 대규모 배포를 지원합니다.

5.6 멀티모달 워크플로우의 그래프 향상 애플리케이션

그래프 강화 에이전트 기반 RAG(GEAR)는 그래프 구조와 검색 메커니즘을 결합한 것으로, 상호 연결된 데이터 소스가 중요한 멀티모달 워크플로우에서 특히 효과적입니다.

사용 사례: 시장 조사 생성

GEAR는 마케팅 캠페인에 사용할 수 있도록 텍스트, 이미지, 동영상을 합성할 수 있습니다. 예를 들어 "친환경 제품의 새로운 트렌드는 무엇인가요?"라는 쿼리를 입력하면 는 고객 선호도, 경쟁사 분석 및 멀티미디어 콘텐츠가 포함된 상세한 보고서를 생성합니다.

주요 혜택:

• 멀티모달 기능텍스트, 이미지, 동영상 데이터를 통합하여 포괄적인 출력을 제공합니다.
• 창의력 향상마케팅 및 엔터테인먼트를 위한 혁신적인 아이디어와 솔루션을 생성합니다.
• 동적 적응변화하는 시장 트렌드와 고객의 니즈에 적응하세요.

에이전트 기반 RAG 시스템은 다양한 애플리케이션에서 사용되며 그 다재다능함과 혁신적 잠재력을 입증하고 있습니다. 개인화된 고객 지원부터 적응형 교육 및 그래프 강화 멀티모달 워크플로우에 이르기까지 이러한 시스템은 복잡하고 역동적이며 지식 집약적인 문제를 해결합니다. 검색, 생성 및 에이전트 인텔리전스를 통합함으로써 에이전트 기반 RAG 시스템은 차세대 AI 애플리케이션을 위한 기반을 마련하고 있습니다.

 

6 에이전트 기반 RAG를 위한 도구 및 프레임워크

에이전트 기반 검색 강화 생성(RAG) 시스템은 검색, 생성 및 에이전트 인텔리전스를 결합하는 데 있어 중요한 진화를 의미합니다. 이러한 시스템은 의사 결정, 쿼리 재구성 및 적응형 워크플로우를 통합하여 기존 RAG의 기능을 확장합니다. 다음 도구와 프레임워크는 실제 애플리케이션의 복잡한 요구 사항을 해결하는 에이전트 기반 RAG 시스템 개발을 위한 강력한 지원을 제공합니다.

주요 도구 및 프레임워크:

• 랭체인과 랭그래프LangChain[43]은 검색기, 생성기, 외부 도구를 원활하게 통합하는 RAG 파이프라인 구축을 위한 모듈식 구성 요소를 제공하며, LangGraph는 루프, 상태 지속성, 인간-컴퓨터 상호작용을 지원하는 그래프 기반 프로세스를 도입하여 이를 보완하고 에이전트 시스템에서 정교한 오케스트레이션과 자체 수정 메커니즘을 가능하게 합니다.
• LlamaIndex라마인덱스의 [44] 에이전트 기반 문서 워크플로우(ADW)는 문서 처리, 검색 및 구조화된 추론의 엔드투엔드 자동화를 지원합니다. 하위 에이전트가 소규모 문서 세트를 관리하고 규정 준수 분석 및 컨텍스트 이해와 같은 작업은 최상위 에이전트를 통해 조정되는 메타 에이전트 아키텍처를 도입합니다.
• 허깅 페이스 트랜스포머와 큐드런트허깅 페이스[45]는 임베딩 및 생성 작업을 위해 사전 학습된 모델을 제공하며, 큐드런트[46]는 적응형 벡터 검색 기능으로 검색 워크플로우를 개선하여 에이전트가 희소 벡터와 고밀도 벡터 방식 간에 동적으로 전환하여 성능을 최적화할 수 있도록 지원합니다.
• CrewAI 및 AutoGen이러한 프레임워크는 멀티 에이전트 아키텍처를 강조합니다. crewAI[47]는 계층적 및 순차적 프로세스, 강력한 메모리 시스템 및 도구 통합을 지원합니다. ag2[48](이전의 AutoGen[49, 50])는 고급 코드 생성, 도구 실행 및 의사 결정 지원을 통해 멀티 에이전트 협업에 탁월한 성능을 발휘합니다.
• OpenAI 스웜 프레임워크에이전트의 자율성과 구조화된 협업에 중점을 두고 인체공학적이고 가벼운 멀티 에이전트 오케스트레이션[51]을 지원하도록 설계된 교육 프레임워크입니다.
• 버텍스 AI를 사용한 에이전트 기반 RAGGoogle에서 개발한 Vertex AI[52]는 에이전트 기반 검색 증강 생성(RAG)과 원활하게 통합되어 머신러닝 모델을 구축, 배포 및 확장하는 플랫폼을 제공하는 동시에 강력한 상황 인식 검색 및 의사 결정 워크플로우를 위한 고급 AI 기능을 활용합니다.
• 에이전트 기반 RAG를 위한 아마존 베드락Amazon Bedrock[38]은 에이전트 기반 검색 강화 생성(RAG) 워크플로우를 구현하기 위한 강력한 플랫폼을 제공합니다.
• IBM 왓슨 및 에이전트 기반 RAGIBM의 watsonx.ai[53]는 복잡한 쿼리에 대한 답변과 외부 정보 통합을 통한 응답 정확도 향상을 위해 Granite-3-8B-Instruct 모델을 사용하는 등 에이전트 기반 RAG 시스템 구축을 지원합니다.
• Neo4j 및 벡터 데이터베이스잘 알려진 오픈 소스 그래프 데이터베이스인 Neo4j는 복잡한 관계형 및 시맨틱 쿼리를 처리하는 데 탁월합니다. Neo4j 외에도 Weaviate, Pinecone, Milvus, Qdrant와 같은 벡터 데이터베이스는 효율적인 유사도 검색 및 검색 기능을 제공하며 고성능 에이전트 기반 검색 증강 생성(RAG) 워크플로우의 근간을 형성합니다.

 

7 벤치마크 및 데이터 세트

현재 벤치마크와 데이터 세트는 에이전트 기반 및 그래프 증강을 포함한 검색 증강 생성(RAG) 시스템을 평가하는 데 유용한 인사이트를 제공합니다. 일부는 RAG를 위해 특별히 설계되었지만, 다른 일부는 다양한 시나리오에서 검색, 추론 및 생성 기능을 테스트하기 위해 조정되었습니다. 데이터 세트는 RAG 시스템의 검색, 추론 및 생성 구성 요소를 테스트하는 데 매우 중요합니다. 표 3에서는 다운스트림 작업을 기반으로 RAG 평가를 위한 몇 가지 주요 데이터 세트에 대해 설명합니다.

벤치마크는 구조화된 작업과 지표를 제공함으로써 RAG 시스템의 평가를 표준화하는 데 중요한 역할을 합니다. 다음 벤치마크가 특히 적합합니다:

• BEIR(정보 검색을 위한 벤치마킹)다양한 정보 검색 작업에서 임베디드 모델의 성능을 평가하도록 설계된 다목적 벤치마크로, 생물 정보학, 금융 및 Q&A 영역에 걸쳐 17개의 데이터 세트를 포괄합니다[54].
• MS MARCO(Microsoft 기계 독해)단락 순위와 Q&A에 중점을 둔 이 벤치마크는 RAG 시스템에서 집중적인 검색 작업에 널리 사용됩니다[55].
• TREC(텍스트 검색 컨퍼런스, 딥러닝 트랙)검색 파이프라인에서 순위 모델의 품질을 강조하면서 단락 및 문서 검색을 위한 데이터 세트를 제공합니다[56].
• MuSiQue(멀티홉 순차 질문)여러 문서에 걸친 멀티 홉 추론의 벤치마크로, 개별적인 컨텍스트에서 정보를 검색하고 종합하는 것의 중요성을 강조합니다[57].
• 2위키멀티홉QA여러 출처의 지식을 연결하는 기능에 중점을 두고 두 개의 Wikipedia 문서에 걸친 멀티홉 QA 작업을 위해 설계된 데이터 세트[58].
• AgentG(지식 융합을 위한 에이전트 기반 RAG)여러 지식 기반에서 동적 정보 합성을 평가하는 에이전트 기반 RAG 작업에 특별히 맞춤화된 벤치마크[8].
• 핫팟QA상호 연관된 컨텍스트에서 검색 및 추론이 필요한 멀티홉 QA 벤치마크로, 복잡한 RAG 워크플로우를 평가하는 데 적합합니다[59].
• RAGBench실행 가능한 RAG 메트릭을 위한 TRACe 평가 프레임워크와 함께 산업 부문 전반에 걸쳐 100,000개의 사례가 포함된 해석 가능한 대규모 벤치마크 [60].
• BERGEN(검색 개선 생성 벤치마킹)표준화된 실험을 통해 RAG 시스템을 체계적으로 벤치마킹할 수 있는 라이브러리 [61].
• 플래시래그 툴킷는 12가지 RAG 방법을 구현하고 32개의 벤치마크 데이터 세트를 포함하여 효율적이고 표준화된 RAG 평가를 지원합니다[62].
• GNN-RAG이 벤치마크는 노드 수준 및 에지 수준 예측 작업에서 그래프 기반 RAG 시스템의 성능을 평가하며, 지식 그래프 퀴즈(KGQA)의 검색 품질과 추론 성능에 중점을 둡니다[63].

표 3: RAG가 평가한 다운스트림 작업 및 데이터 세트([23]에서 수정)

양식	미션 유형	데이터 집합 및 참조
질문 및 답변(QA)	싱글 점프 QA	자연 질문(NQ) [64], TriviaQA [65], SQuAD [66], 웹 질문(WebQ) [67], PopQA [68], MS MARCO [55].
	멀티홉 QA	핫팟큐에이[59], 2위키멀티홉큐에이[58], 뮤시큐[57]
	긴 답변	ELI5 [69], NarrativeQA(NQA) [70], ASQA [71], QMSum [72]
	도메인별 QA	Qasper [73], COVID-QA [74], CMB/MMCU Medical [75]
	객관식 QA	품질 [76], ARC(참조 없음), CommonSenseQA [77]
	그림 QA	GraphQA [78]
그래프 기반 Q&A	이벤트 이론 메타 추출	위키이벤트[79], RAMS[80]
	개방형 도메인 대화	위키피디아의 마법사(와우)[81][81]
대화	개인화된 대화	KBP [82], 둘레몬 [83]
	작업 중심 대화	캠레스트[84]
	개인화된 콘텐츠	아마존 데이터셋(장난감, 스포츠, 뷰티) [85] [85]
권장 추론		헬라스웨그 [86], 커먼센스QA [77].
상식적인 추론	CoT 추론	CoT 추론 [87], CSQA [88]
나머지	복잡한 추론	MMLU (참조 없음), WikiText-103[64]
	언어 이해
	사실 확인/검증	FEVER [89], PubHealth [90]
초록	전략 QA 텍스트 요약	StrategyQA [91]
	텍스트 요약	WikiASP [92], XSum [93]
텍스트 생성	긴 초록	내러티브QA(NQA) [70], QMSum [72]
텍스트 분류	스토리	전기 데이터 세트(참조 없음), SST-2 [94] [94]
	감정 분석의 일반적인 분류
코드 검색	프로그래밍 검색	바이오렌즈 [95], TREC [56], 코드서치넷 [96]
견고성	검색 견고성	노미라클 [97]
	언어 모델링 견고성	WikiText-103 [98]
수학	수학적 추론	GSM8K [99]
기계 번역	번역 작업	JRC-Acquis [100]

 

8 결론

에이전트 기반 검색 증강 생성(RAG)은 자율 에이전트를 통합하여 기존 RAG 시스템의 한계를 극복하는 인공지능의 혁신적 발전을 의미합니다. 이러한 시스템은 에이전트 인텔리전스를 활용하여 동적 의사 결정, 반복 추론 및 협업 워크플로우 기능을 도입함으로써 복잡한 실제 작업을 보다 정확하고 적응력 있게 해결할 수 있도록 지원합니다.

이 리뷰에서는 초기 구현부터 모듈형 RAG와 같은 고급 패러다임에 이르기까지 RAG 시스템의 진화를 살펴보며 각 패러다임의 기여와 한계를 강조합니다. 에이전트를 RAG 프로세스에 통합하는 것이 핵심적인 발전으로 자리 잡으면서 정적인 워크플로우와 제한된 상황 적응성을 극복하는 에이전트 기반 RAG 시스템이 등장하게 되었습니다. 의료, 금융, 교육 및 크리에이티브 산업 전반의 애플리케이션은 이러한 시스템의 혁신적 잠재력을 보여주며 개인화된 실시간 상황 인식 솔루션을 제공할 수 있는 능력을 입증하고 있습니다.

에이전트 기반 RAG 시스템은 그 잠재력에도 불구하고 더 많은 연구와 혁신이 필요한 과제에 직면해 있습니다. 멀티 에이전트 아키텍처의 조정 복잡성, 확장성 및 지연 시간 문제와 윤리적 고려 사항을 해결해야 강력하고 책임감 있는 배포를 보장할 수 있습니다. 또한 상담원 역량을 평가하기 위해 특별히 고안된 벤치마크와 데이터 세트가 부족하다는 점도 큰 장벽이 되고 있습니다. 다중 에이전트 협업 및 동적 적응성과 같은 에이전트 기반 RAG의 고유한 측면을 포착할 수 있는 평가 방법의 개발은 이 분야를 발전시키는 데 매우 중요합니다.

앞으로 검색 강화 세대와 에이전트 인텔리전스의 융합은 역동적이고 복잡한 환경에서 AI의 역할을 재정의할 수 있는 잠재력을 가지고 있습니다. 연구자와 실무자는 이러한 과제를 해결하고 미래의 방향을 모색함으로써 에이전트 기반 RAG 시스템의 잠재력을 최대한 발휘하여 산업과 도메인 전반에 걸쳐 혁신적인 애플리케이션을 위한 기반을 마련할 수 있습니다. AI 시스템이 계속 진화함에 따라 에이전트 기반 RAG는 빠르게 변화하는 세상의 요구를 충족하는 적응형, 상황 인식, 영향력 있는 솔루션을 개발하는 초석 역할을 합니다.

 

참고 문헌

[1] 셰빈 미나에, 토마스 미콜로프, 나르제스 니자드, 메이삼 체나글루, 리차드 소처, 자비에 아마트리아인, 그리고
가오 지안펑. 대규모 언어 모델: 설문조사, 2024.
[2] 아디티 싱, 언어 모델 탐색: 종합적인 조사 및 분석. 2023년 국제 연구 방법론 컨퍼런스에서. 지식 관리, 인공 지능 및 통신.
엔지니어링(RMKMATE), 1-4페이지, 2023.
3] 웨인 신 자오, 쿤 저우, 준이 리, 톈이 탕, 샤오레이 왕, 유펑 허우, 잉첸 민, 베이첸 장. [3] 웨인 신 자오, 쿤 저우, 준이 리, 톈이 탕, 샤오레이 왕, 유펑 허우, 잉첸 민, 베이첸 장.
장준지, 지칸 동, 이판 두, 첸 양, 유슈오 첸, 지펑 첸, 장진하오, 루이양 렌.
이판 리, 신유 탕, 지캉 류, 페이유 류, 지안윈 니에, 지롱 웬. 대규모 언어 설문조사
모델, 2024.
[4] 수밋 쿠마르 담, 홍충선, 유차오, 차오닝 장. LLM 기반 AI에 대한 전체 설문조사
챗봇, 2024.
[5] 아디티 싱, 인공지능 텍스트-이미지 및 인공지능 텍스트-비디오 생성기 조사. 2023년 제4회 국제 컨퍼런스에서
인공지능, 로봇 공학 및 제어(AIRC), 32-36쪽, 2023년.
[6] 아디티 싱, 아불 에흐테샴, 가우라브 쿠마르 굽타, 니킬 쿠마르 차타, 사켓 쿠마르, 탈라 탈래이 코에이.
신속한 엔지니어링 살펴보기: 스왓 분석을 통한 체계적인 검토, 2024.
[7] 레이 황, 웨이장 유, 웨이타오 마, 웨이홍 종, 장인 펑, 하오톈 왕, 첸 치앙롱, 웨이화
펭, 샤오청 펭, 빙 친, 팅 리우. 대규모 언어 모델에서의 환각에 대한 설문 조사: 원리,
분류법, 과제 및 미해결 질문. ACM 정보 시스템 거래, 2024년 11월.
[8] 멍치 리, 치 주, 코스타스 마브로마티스, 젠 한, 소지 아데시나, 바실리스 이오아니디스, 후제파 랑왈라.
2024년, 그래프 검색 증강 생성을 위한 에이전트 프레임워크, 에이전트-g.
[9] 펜하오 자오, 장하린 장, 친한 유, 정렌 왕, 윤텡 겅, 팡청 푸, 링 양, 웬타오
장, 지에 장, 빈 쿠이. 인공지능이 생성한 콘텐츠를 위한 검색 증강 생성: 설문조사, 2024.
[10] Zhengbao Jiang, Frank F. Xu, Luyu Gao, Zhiqing Sun, Qian Liu, Jane Dwivedi-Yu, Yiming Yang, Jamie Callan.
활성 검색 증강 세대, 2023년.
[11] 한이쿤, 류춘장, 왕펑페이. 벡터 데이터베이스에 대한 종합적인 조사: 저장 및 검색
기술, 도전, 2023.
[12] 레이 왕, 첸 마, 쉬양 펑, 제유 장, 하오 양, 징센 장, 지위안 첸, 지아카이 탕. [12] 레이 왕, 첸 마, 쉬양 펑, 제유 장, 하오 양, 징센 장, 지위안 첸, 지아카이 탕.
쉬 첸, 얀카이 린, 웨인 신 자오, 제웨이 웨이, 지롱 웬. 대규모 언어 모델 기반에 대한 설문 조사
프론티어 컴퓨터 과학, 18(6), 2024년 3월.
[아디티 싱, 사켓 쿠마르, 아불 에흐테샴, 탈라 탈래이 코에이, 딥시카 바티. 대규모 언어 모델 기반 몰입형 에이전트. 2024 IEEE 세계 AI IoT 콩그레스(AIIoT), 2024년 0619-0624페이지.
[14] 매튜 렌제, 에르한 구벤, LLM 에이전트의 자기 성찰: 문제 해결 성과에 미치는 영향, 2024.
[15] 쉬 황, 웨이웬 류, 샤오롱 첸, 싱메이 왕, 하오 왕, 데푸 리안, 야셍 왕, 루이밍 탕. [15] 쉬 황, 웨이웬 류, 샤오롱 첸, 싱메이 왕, 하오 왕, 데푸 리안, 야셍 왕, 루이밍 탕.
LM 에이전트의 계획에 대한 이해: 설문조사, 2024.
[16] 타이청 구오, 시우잉 첸, 야치 왕, 루이디 창, 시차오 페이, 니테시 V. 차울라, 올라프 위스트, 그리고
샹량 장. 대규모 언어 모델 기반 다중 에이전트: 진행 상황과 과제에 대한 조사, 2024.
[17] 치닥쉬 라부루, 사가르 스리니바스 사키나나, 벤카타라마나 룬카나. 에이전트 검색 증강
시계열 분석을 위한 세대, 2024년.
[18] 지 황과 케빈 첸-추안 창. 대규모 언어 모델에서의 추론을 향해: 설문조사, 2023.
[19] 보시 펭, 윤 주, 용차오 리우, 샤오허 보, 하이저우 시, 춘타오 홍, 얀 장, 실리앙 탕. [20] 보시 펭, 윤 주, 용차오 리우, 샤오허 보, 하이저우 시, 춘타오 홍, 얀 장, 실리앙 탕.
그래프 검색 증강 세대: 설문조사, 2024.
[20] 아디티 싱, 아불 에흐테샴, 사이푸딘 마흐무드, 김종훈. 정신 건강 관리의 혁신
랭체인을 통한 여정: 대규모 언어 모델과의 여정 2024년 IEEE 제14회 연례 컴퓨팅 및
커뮤니케이션 워크샵 및 컨퍼런스(CCWC), 0073-0078, 2024페이지.
[21] 가우라브 쿠마르 굽타, 아디티 싱, 시조 발라야카드 마니칸단, 아불 에흐테샴. 디지털 진단.
일반적인 질병의 증상을 인식하는 데 있어 대규모 언어 모델의 잠재력, 2024년.
[22] 아디티 싱, 아불 에흐테샴, 사켓 쿠마르, 가우라브 쿠마르 굽타, 탈라 탈래이 코에이. 책임감 있는 행동 장려
교육에서 제너레이티브 AI 사용: 보상 기반 학습 접근 방식. Tim Schlippe, Eric C. K. Cheng, 및
교육 기술의 인공 지능: 새로운 개발과 혁신, Tianchong Wang, 편집자
관행, 404-413페이지, 싱가포르, 2025. 스프링거 네이처 싱가포르.
[23] 윤판 가오, 윤 시옹, 신유 가오, 강샹 지아, 진리우 판, 유시 비, 이 다이, 지아웨이 선, 멩 왕
왕하오펀 왕. 대규모 언어 모델을 위한 검색 증강 세대: 설문조사, 2024.
[24] 블라디미르 카르푸킨, 바라스 오구즈, 민세원, 패트릭 루이스, 레델 우, 세르게이 에두노프, 단치 첸, 웬 ˘
타우 이. 오픈 도메인 질문 답변을 위한 고밀도 구절 검색, 2020.
[25] 장제유, 샤오허 보, 첸 마, 루이 리, 쉬 첸, 콴유 다이, 지에밍 주, 젠화 동, 지롱
Wen. 대규모 언어 모델 기반 에이전트의 메모리 메커니즘에 대한 조사, 2024.
[26] 지빈 고우, 지홍 샤오, 예윈 공, 예롱 셴, 유지우 양, 난 두안, 웨이주 첸. 비평가: 대형
언어 모델은 도구 대화형 비평으로 스스로 수정할 수 있습니다(2024년).
[27] 아디티 싱, 아불 에흐테샴, 사켓 쿠마르, 탈라 탈래이 코에이 에이전트 워크플로우로 AI 시스템 강화하기
대규모 언어 모델의 패턴. 2024 IEEE 세계 AI IoT 학회(AIIoT), 527-532쪽, 2024년.
[28] DeepLearning.AI. 상담원이 llm 성능을 개선하는 방법. https://www.deeplearning.ai/the-batch/
어떻게 에이전트가 LLM 성능을 향상시킬 수 있는지/?ref=dl-staging-website.ghost.io, 2024. 액세스: 2025-01-13.
[29] 아만 마단, 니켓 탄돈, 프라카 굽타, 스카일러 할리난, 루유 가오, 사라 위그레프, 유리 알론, 누하
디지리, 쉬리마이 프라부모예, 이밍 양, 샤샨크 굽타, 보디삿와 프라사드 마줌더, 캐서린 헤르만.
션 웰렉, 아미르 야즈단바흐쉬, 피터 클라크 자기 개선: 자기 피드백을 통한 반복적 개선, 2023.
[30] 노아 신, 페데리코 카사노, 에드워드 버먼, 애쉬윈 고피나스, 카틱 나라심한, 슌유 야오.
Reflexion: 언어 강화 학습 기능을 갖춘 언어 에이전트, 2023년.
[31] 위비게이트 블로그. 에이전트 래그란 무엇인가요? https://weaviate.io/blog/what-is-agentic-rag#:~:text=is%
20Agentic%20RAG%3F-,%E2%80%8B,of%20the%20non%2Dagentic%20pipeline. Accessed: 2025-01-14.
[32] 시치 옌, 지아첸 구, 윤 주, 젠화 링. 수정 검색 증강 세대, 2024년.
[33] LangGraph CRAG 튜토리얼. langgraph crag: 문맥 검색 증강 생성 튜토리얼. https.
//langchain-ai.github.io/langgraph/tutorials/rag/langgraph_crag/. 액세스: 2025-01-14.
[34] 정소영, 백진헌, 조석민, 황성주, 박종 씨. 적응형 걸레: 적응하는 법 배우기
질문 복잡도를 통한 검색 증강 대규모 언어 모델, 2024년.
[35] LangGraph 적응형 RAG 튜토리얼. langgraph adaptive rag: 적응형 검색 증강 생성 튜토리얼. https://langchain-ai.github.io /langgraph/tutorials/rag/langgraph_adaptive_rag/.
액세스: 2025-01-14.
[36] 질리 셴, 첸신 디아오, 파블로스 부기우클리스, 파스칼 메리타, 슈리람 피라마나야감, 데미안 그라우스, 단단
Tu, Zeren Jiang, Ruofei Lai, Yang Ren, Jeff Z. Pan. Gear: 검색 증강을 위한 그래프 강화 에이전트
세대, 2024년.
[37] 라마인덱스. 에이전트 문서 워크플로우 소개. https://www.llamaindex.ai/blog/
에이전트 문서 워크플로우 소개, 2025. 액세스: 2025-01-13.
[38] AWS 머신 러닝 블로그. 아마존에서 래그와 함께 에이전트 워크플로우를 사용한 Twitch의 사용 방법
광고 매출 증대를 위한 기반입니다. https://aws.amazon.com/blogs/machine-learning/
어떻게-트위치를-사용하는-에이전트-워크플로우-위드-아마존-베드락-광고-판매를-강화하는-방법/,
2025. 액세스: 2025-01-13.
[39] 라마클라우드 데모 리포지토리. 환자 사례 요약 워크플로우를 사용한 라마클라우드. https.
//github.com/run-llama/llamacloud-demo/blob/main/exples/document_workflows/
환자_사례_요약/환자_사례_요약.ipynb, 2025. 액세스: 2025-01-13.
[40] 라마클라우드 데모 리포지토리. 라마클라우드를 사용한 계약 검토 워크플로. https://github.com/
run-llama/llamacloud-demo/blob/main/exples/document_workflows/contract_review/
계약_리뷰.ipynb, 2025. 액세스: 2025-01-13.
[41] LlamaCloud 데모 리포지토리. 자동차 보험 청구 워크플로우를 사용한 자동차 보험 청구 워크플로.
//github.com/run-llama/llamacloud-demo/blob/main/exples/document_workflows/auto_
보험금 청구/자동 보험금 청구.ipynb, 2025. 액세스: 2025-01-13.
[42] 라마클라우드 데모 리포지토리. 라마클라우드를 사용한 연구 논문 보고서 생성 워크플로.
https://github.com/run-llama/llamacloud-demo/blob/main/examples/report_generation/
연구_논문_보고서_세대.ipynb, 2025. 액세스: 2025-01-13.
[43] LangGraph 에이전틱 RAG 튜토리얼. langgraph 에이전틱 래그: 노드 및 에지 튜토리얼. https://langchain-ai.
github.io/langgraph/tutorials/rag/langgraph_agentic_rag/#nodes-and-edges에 액세스했습니다.
2025-01-14.
[44] 라마아인덱스 블로그. https://www.llamaindex.ai/blog/
agentic-rag-with-llamaindex-2721b8a49ff6. Accessed: 2025-01-14.
[에이전트 래그: 쿼리 재구성 및 자체 쿼리로 검색 증강 세대를 터보차지하세요. https:// Huggingface.co/learn/cookbook/en/agent_rag. 액세스: 2025-01-14.
[46] 큐드런트 블로그. 에이전트 래그: 향상된 정보 검색을 위해 래그와 에이전트를 결합한 것. https://qdrant.
tech/articles/agentic-rag/. 액세스: 2025-01-14.
[47] crewAI 크루아이: 인공지능 프로젝트를 위한 깃허브 리포지토리. https://github.com/crewAIInc/crewAI, 2025.
액세스: 2025-01-15.
[48] AG2AI 기여자. Ag2: 고급 생성 AI 연구를 위한 깃허브 저장소. https://github.com/
AG2AI/AG2, 2025. 액세스: 2025-01-15.
[49] 우칭윈, 가간 반살, 장지에유, 우이란, 베이빈 리, 어캉 주, 리장, 샤오윈 장, 샤오쿤
장, 지알레 리우, 아메드 하산 아와달라, 라이언 W 화이트, 더그 버거, 치 왕이 그 주인공입니다. Autogen: 사용
멀티 에이전트 대화 프레임워크를 통한 차세대 LLM 애플리케이션 2023.
[50] 장샤오쿤, 장지에유, 지알레 리우, 송린신, 치왕, 란제이 크리슈나, 우칭윈.
언어 모델을 수정하지 않고도 언어 모델 에이전트를 사용할 수 있습니다. ICML'24, 2024.
[51] OpenAI. 스웜경량 멀티 에이전트 오케스트레이션 프레임워크. https://github.com/openai/swarm.
액세스: 2025-01-14.
[52] 라마인덱스 문서. 버텍스 AI를 사용한 에이전트 래그. https://docs.llamaindex.ai/en/stable/
examples/agent/agentic_rag_using_vertex_ai/. 액세스: 2025-01-14.
[53] IBM 그래니트 커뮤니티. 에이전트 래그: IBM 그래니트 모델을 사용하는 인공지능 에이전트. https://github.com/
ibm-granite-community/granite-snack-cookbook/blob/main/recipes/AI-Agents/Agentic_
RAG.ipynb. 액세스: 2025-01-14.
[54] 난단 타쿠르, 닐스 라이머스, 안드레아스 뤼클레, 아비셰크 스리바스타바, 이리나 구레비치. 베이어: 이질적인
정보 검색 모델의 제로 샷 평가를 위한 벤치마크, 2021.
[55] 페이랄 바지즈, 다니엘 캄포스, 닉 크래스웰, 리 덩, 지안펑 가오, 샤오동 리우, 랑간 마줌더, 앤드류
맥나마라, 바스카르 미트라, 트리 응우옌, 미르 로젠버그, 샤 송, 알리나 스토이카, 사우라브 티와리, 통
왕. MS MARCO: 사람이 생성한 기계 독해 데이터 세트, 2018.
[56] 닉 크래스웰, 바스카 미트라, 에민 일마즈, 다니엘 캄포스, 지미 린, 엘렌 M. 부어히스, 이안 소보로프.
TREC 2022 딥 러닝 트랙 개요. 텍스트 검색 컨퍼런스(TREC)에서. NIST, TREC, 2023년 3월.
[57] 하쉬 트리베디, 니란잔 발라수브라마니안, 투샤르 코트, 아시시 사바르왈. 음악: 멀티 홉 문제
단일 홉 문제 구성을 통해 2022년.
[58] 잔 호, 안 코아 응우옌, 스가와라 사쿠, 아이자와 아키코. 멀티홉 QA 데이터세트 구축하기
추론 단계에 대한 종합적인 평가를 위해 2020.
[59] 양지린, 펭 치, 사이정 장, 요슈아 벤지오, 윌리엄 W. 코헨, 루슬란 살라쿠트디노프, 크리스토퍼 D. 매닝. 핫팟카: 다양하고 설명 가능한 다양하고 설명 가능한 멀티홉 질문 답변을 위한 데이터 세트, 2018.
[60] 로버트 프리엘, 마샤 벨리, 아틴드리요 산얄. 래그벤치: 검색 증강을 위한 설명 가능한 벤치마크.
세대별 시스템, 2024년.
[61] 데이비드 라우, 에르베 데장, 나데즈다 치르코바, 티보 포멀, 슈아이 왕, 바실리나 니쿨리나, 스테판
클린찬트: 검색 증강 세대를 위한 벤치마킹 라이브러리, 2024년.
[62] 지아지에 진, 유타오 주, 신유 양, 청하오 장, 지청 두. 플래시드래그: 효율적
검색 증강 세대 연구, 2024.
[63] 코스타스 마브로마티스, 조지 카리스. Gnn-rag: 대규모 언어 모델 추론을 위한 그래프 신경망 검색.
2024.
[64] 톰 퀴트코프스키, 제니마리아 팔로마키, 올리비아 레드필드, 마이클 콜린스, 안쿠르 파리크, 크리스 알베르티, 다니엘
엡스타인, 일리아 폴로수킨, 제이콥 데블린, 켄튼 리, 크리스티나 투타노바, 라이온 존스, 매튜 켈시, 밍웨이
장, 앤드류 M. 다이, 야콥 우스코라이트, 쿠옥 레, 슬라브 페트로프. 자연스러운 질문: 질문의 벤치마크
응답 연구. 전산 언어학 협회 거래, 7:452-466, 2019.
[65] 만다르 조시, 최은솔, 다니엘 S. 웰드, 루크 제틀모이어. 트리비아카: 대규모 원거리 감독
독해력 챌린지 데이터 세트, 2017.
[66] 프라나브 라즈푸르카르, 지안 장, 콘스탄틴 로피레프, 퍼시 리앙. 스쿼드: 기계에 대한 100,000개 이상의 질문
텍스트의 이해, 2016.
[67] 조나단 베란트, 앤드류 K. 추, 로이 프로스틱, 퍼시 리앙. 질문-답변 쌍으로부터 프리베이스의 의미론적 구문 분석. 자연어 처리의 방법, 2013.
[68] 알렉스 말렌, 아카리 아사이, 빅터 종, 라자르시 다스, 다니엘 카샤비, 한나네 하지시르지. 하지 말아야 할 경우
신뢰 언어 모델: 매개변수적 기억과 비모수적 기억의 효과 조사. 작성자: Anna Rogers,
조던 보이드-그래버, 나오아키 오카자키, 편집자, 제61회 협회 연례 회의 논문집(Proceedings of the 61st Annual Meeting of the Association for
전산 언어학(1권: 장편 논문), 9802-9822페이지, 캐나다 토론토, 2023년 7월.
컴퓨터 언어학의 경우
[69] 안젤라 팬, 야신 저나이트, 에단 페레즈, 데이비드 그랜지어, 제이슨 웨스턴, 마이클 아울리. Eli5: 긴 형식
질문 답변, 2019.
[70] 토마스 코키스키, 조나단 슈바르츠, 필 블런섬, 크리스 다이어, 칼 모리츠 헤르만, 가보르 멜리스, 에드워드 ˇ
그레펜슈테트. 내러티브QA 독해력 챌린지. 2017.
[71] 이반 스텔마크, 이 루안, 부완 딩라, 밍웨이 창. 아스카: 팩토이드 질문과 긴 형식의 만남
답변, 2023.
[72] 밍 종, 다 인, 타오 유, 아마드 자이디, 무테티아 무투마, 라훌 자, 아흐메드 하산 아와달라, 아슬리
셀리킬마즈, 양 리우, 시펭 치우, 드라고미르 라데프. QMSum: 쿼리 기반에 대한 새로운 벤치마크
다중 도메인 미팅 요약. 5905-5921페이지, 2021년 6월.
[73] 프라딥 다시기, 카일 로, 이즈 벨타기, 아르만 코한, 노아 스미스, 매트 가드너. 연구 논문. 크리스티나 투타노바, 안나 럼시스키, 루크
제틀모이어, 딜렉 하카니-투르, 이즈 벨타기, 스티븐 베타드, 라이언 코터렐, 탄모이 차크라보르티, 이차오
Zhou, 편집자, 2021 북미 지부 협회 회의록, 2021 북미 지부 회의록
컴퓨터 언어학: 인간 언어 기술, 4599-4610페이지, 온라인, 2021년 6월.
컴퓨터 언어학의 경우
[74] 티모 묄러, 안토니 레이나, 라가반 자야쿠마르, 말테 피에치. COVID-QA: 질문과 답변
코로나19에 대한 데이터 세트. ACL 2020 코로나19 자연어 처리 워크숍(NLP-COVID)에서.
2020.
75] 왕시동, 귀밍 하디 첸, 딩지에 송, 지이 장, 지홍 첸, 칭잉 샤오, 펑 장. [75] 왕시동, 귀밍 하디 첸, 딩지에 송, 지이 장, 지홍 첸, 칭잉 샤오, 펑 장.
리젠취안, 시앙완, 왕벤유, 리하이저우. Cmb: 중국어로 된 종합 의료 벤치마크.
2024.
[76] 리차드 위안제 팡, 알리시아 패리쉬, 니티쉬 조시, 니키타 난지아, 제이슨 팡, 안젤리카 첸, 비샤크
품질: 질문에 대한 답변
긴 입력 텍스트, 예!, 2022.
[77] 알론 탈모어, 조나단 헤르직, 니콜라스 루리, 조나단 베란트. 커먼센스QA: 질문 답변
상식적인 지식을 목표로 하는 도전. 질 버스타인, 크리스티 도란, 타마르 솔로리오, 편집자.
2019년 미국 계산학회 북미 지부 컨퍼런스 자료집
언어학: 인간 언어 기술, 1권(장편 및 단편 논문), 4149-4158페이지, 미국 미니애폴리스.
미네소타, 2019년 6월. 계산 언어학 협회.
[78] 샤오신 허, 이쥔 티안, 이페이 선, 니테시 V. 차울라, 토마스 로랑, 얀 르쿤, 자비에 브레송, 브라이언
후이. g-retriever: 텍스트 그래프 이해 및 질문 답변을 위한 검색 증강 생성.
2024.
[79] 샤 리, 헝 지, 지아 웨이 한. 조건부 생성을 통한 문서 수준 이벤트 인수 추출, 2021.
[80] 세스 에브너, 패트릭 시아, 라이언 컬킨, 카일 롤린스, 벤자민 반 더름. 여러 문장으로 이루어진 주장
링크, 2020.
[81] 에밀리 디난, 스티븐 롤러, 커트 슈스터, 안젤라 팬, 마이클 아울리, 제이슨 웨스턴 위키백과 마법사.
지식 기반 대화형 에이전트, 2019.
82] 왕홍루, 민다 후, 양덩, 루이 왕, 페이 미, 웨이차오 왕, 야셍 왕, 웨이충 콴. [82] 왕홍루, 민다 후, 양덩, 루이 왕, 페이 미, 웨이차오 왕, 야셍 왕, 웨이충 콴.
어윈 킹, 캄파이 웡. 개인화된 지식 기반 맞춤형 소스 플래너로서의 대규모 언어 모델
대화, 2023.
[83] 쉬신차오, 지빈 구, 웬취안 우, 정유 니우, 화 우, 하이펑 왕, 시항 왕. 오래전부터
장기 페르소나 메모리를 사용한 오픈 도메인 대화, 2022.
[84] Tsung-Hsien Wen, Milica Gašic, Nikola Mrkši´ c, Lina M. Rojas-Barahona, Pei-Hao Su, Stefan Ultes, David ´.
신경 대화 시스템의 조건부 생성 및 스냅샷 학습.
2016 자연어 처리의 경험적 방법에 관한 컨퍼런스, 2153-2162쪽, , 에서 2016 자연어 처리의 경험적 방법에 관한 컨퍼런스 논문집.
2016년 11월, 텍사스 주 오스틴. 전산 언어학 협회.
[85] 루킹 허와 줄리안 맥컬리. 기복: 원클래스로 패션 트렌드의 시각적 진화 모델링하기
협업 필터링. 제25회 월드와이드웹 국제 컨퍼런스, WWW '16의 논문집, 페이지
507-517, 제네바 공화국 및 주, 스위스, 2016. 국제 월드 와이드 웹 컨퍼런스 운영
위원회.
[86] 로완 젤러스, 아리 홀츠만, 요나탄 비스크, 알리 파르하디, 최예진. HellaSwag: 기계가 정말?
안나 코호넨, 데이비드 트라움, 루이스 마르케스, 편집자, 제57차 유엔 인권위원회 회의록에서.
컴퓨터 언어학 협회 연례 회의, 4791-4800페이지, 이탈리아 피렌체, 2019년 7월.
컴퓨터 언어학 협회.
[87] 김승원, 주세준, 김도영, 장조엘, 예성현, 신재민, 서민준.
코트 컬렉션: 생각의 사슬 미세 조정을 통해 언어 모델의 제로 샷 및 소수 샷 학습을 개선합니다,
2023.
[88] 암리타 사하, 바르단 파후자, 미테시 M. 카프라, 카틱 산카라나라야난, 사라트 찬다르, 복합.
순차적 질문 답변: 지식과 연결된 질문 답변 쌍을 통해 대화하는 학습을 지향합니다.
그래프. 2018.
[89] 제임스 손, 안드레아스 블라초스, 크리스토스 크리스토둘로풀로스, 아르핏 미탈. FEVER: 대규모 데이터 세트.
사실 추출 및 검증. 마릴린 워커, 헝 지, 아만다 스텐트, 편집자, 2018년도 논문집, 2018
컴퓨터 언어학 협회 북미 지부 컨퍼런스: 인간의 언어
기술, 1권(장편 논문), 809-819페이지, 루이지애나주 뉴올리언스, 2018년 6월.
전산 언어학.
[90] 니마 코토냐와 프란체스카 토니 공중 보건 청구에 대한 설명 가능한 자동화된 사실 확인, 2020.
[91] 모 게바, 다니엘 카샤비, 엘라드 세갈, 투샤르 코트, 댄 로스, 조나단 베란트 아리스토텔레스는 노트북을 사용했나요?
암시적 추론 전략을 사용한 질문 답변 벤치마크, 2021.
[92] 히로아키 하야시, 프라샨트 부다니아, 펭 왕, 크리스 애커슨, 라즈 니어반난, 그레이엄 뉴빅 위키아스크.
다중 도메인 측면 기반 요약용 데이터 세트, 2020.
[93] 샤시 나라얀, 샤이 B. 코헨, 미렐라 라파타 자세한 내용은 알려주지 말고 요약만 알려주세요! 주제 인식형
극단적 요약화를 위한 컨볼루션 신경망, 2018.
[94] 리처드 소처, 알렉스 페렐리긴, 진 우, 제이슨 추앙, 크리스토퍼 D. 매닝, 앤드류 응, 크리스토퍼
감정 트리뱅크에 대한 의미 구성성을 위한 재귀적 심층 모델,
티모시 볼드윈, 안나 코호넨, 카렌 리브스쿠, 스티븐 베타드, 편집자, 2013 프로시딩 오브 더 2013
자연어 처리의 경험적 방법에 관한 컨퍼런스, 1631-1642페이지, 워싱턴 주 시애틀.
미국, 2013년 10월. 전산 언어학 협회.
[95] 수라브 사하, 자헤둘 알람 주나드, 마리암 살레키, 아납 센 샤르마, 모하마드 라시두자만 리파트.
모하메드 라호티, 사이드 이시티아크 아메드, 나빌 모하메드, 모하마드 루훌 아민. 바이오 렌즈: 소설
다양한 형태의 공동 폭력 및 그 평가로 이어지는 주석이 달린 소셜 네트워크 게시물의 데이터 세트입니다.
Firoj Alam, Sudipta Kar, Shammur Absar Chowdhury, Farig Sadeque 및 Ruhul Amin, 편집자, Proceedings
방글라데시 언어 처리에 관한 첫 번째 워크숍(BLP-2023), 72-84페이지, 싱가포르, 2023년 12월.
컴퓨터 언어학 협회.
[96] 하멜 후사인, 호시앙 우, 티페렛 가짓, 밀티아디스 알라마니스, 마크 브록슈미트. 코드서치넷
도전 과제: 시맨틱 코드 검색 상태 평가, 2020.
[97] 난단 타쿠르, 루이스 보니파시오, 신유 장, 오두나요 오군데포, 에산 카말루, 데이비드 알폰소-에르멜로.
리샤오광, 쿤 리우, 복싱 첸, 메흐디 레자홀리자데, 지미 린. "모를 때 알기".
강력한 검색 증강 세대를 위한 다국어 관련성 평가 데이터 세트, 2024년.
[98] 스티븐 메리티, 카이밍 시옹, 제임스 브래드버리, 리처드 소처 포인터 센티널 혼합 모델, 2016.
[99] 칼 코베, 비닛 코사라주, 모하마드 바바리안, 마크 첸, 전희우, 루카스 카이저, 마티아스 플래퍼트.
제리 트워렉, 제이콥 힐튼, 레이이치로 나카노, 크리스토퍼 헤세, 존 슐만. 검증자를 다음과 같이 교육합니다.
수학 단어 문제 풀기, 2021.
[100] 랄프 슈타인베르거, 브루노 풀리켄, 안나 위디거, 카멜리아 이그나트, 토마즈 에르자벡, 댄 투피에스, 다니엘 바르가.
JRC-Acquis: 20개 이상의 언어가 포함된 다국어 정렬 병렬 말뭉치. 니콜레타 칼졸라리, 칼리드
추크리, 알도 강게미, 벤테 마에가드, 조셉 마리아니, 얀 오디크, 다니엘 타피아스, 편집자, Proceedings of the
2006년 5월 이탈리아 제노바에서 열린 제5회 언어 자원 및 평가에 관한 국제 컨퍼런스(LREC'06)에 참석했습니다.
유럽 언어 자원 협회(ELRA).