UltraRAG: 데이터 구축 및 모델 미세 조정을 간소화하는 원스톱 RAG 시스템 솔루션

일반 소개

UltraRAG는 칭화대학교의 THUNLP 그룹, 노스이스턴대학교의 NEUIR 그룹, Modelbest.Inc, 9#AISoft 팀이 공동으로 제안한 RAG(검색 증강 세대) 시스템 솔루션입니다. 이 프레임워크는 민첩한 배포와 모듈식 구성을 기반으로 데이터 구축, 모델 미세 조정, 추론 평가 기법의 자동화된 시스템을 제공하며, 데이터 구축부터 모델 미세 조정까지 전 과정을 획기적으로 간소화하여 연구자와 개발자가 복잡한 작업에 효율적으로 대응할 수 있도록 지원합니다. 코드가 필요 없는 프로그래밍 웹 UI는 사용자가 멀티모달 RAG 솔루션인 VisRAG를 포함한 전체 설정 및 최적화 프로세스를 쉽게 조작할 수 있도록 지원합니다.

기능 목록

• 코드 없는 프로그래밍 WebUI 지원사용자가 프로그래밍 경험 없이도 전체 링크 설정 및 최적화 프로세스를 운영할 수 있습니다.
• 원클릭 합성 및 미세 조정 솔루션KBAlign 및 RAG-DDR과 같은 독자적인 방법을 기반으로 원클릭으로 체계적인 데이터 구축 및 검색, 다양한 모델 미세 조정 전략을 통한 성능 최적화를 지원합니다.
• 다차원, 다단계의 강력한 평가핵심 RAGEval 방법론은 다단계 평가 접근 방식과 결합되어 '모델 평가'의 견고성을 크게 향상시킵니다.
• 연구 친화적인 탐색 작업 통합지속적인 모듈 수준의 탐색 및 개발을 지원하기 위해 THUNLP-RAG 그룹의 독점적인 방법론과 기타 최첨단 RAG 방법을 포함합니다.
• 신속한 배포Docker 및 Conda를 통한 빠른 배포를 지원하여 사용자가 쉽게 빠르게 시작할 수 있습니다.

도움말 사용

환경 종속성

• CUDA 버전 12.2 이상이 필요합니다.
• Python 버전은 3.10 이상이어야 합니다.

신속한 배포

Docker를 통한 배포

1. 다음 명령을 실행합니다:

   docker-compose up --build -d

2. 브라우저에서 액세스http://localhost:8843.

Conda를 통한 배포

1. Conda 환경을 만듭니다:

   conda create -n ultrarag python=3.10

2. Conda 환경을 활성화합니다:

   conda activate ultrarag

3. 관련 종속성을 설치합니다:

   pip install -r requirements.txt

4. 다음 스크립트를 실행하여 모델을 다운로드합니다(기본 다운로드 위치는resources/models(카탈로그):

   python scripts/download_models.py

5. 데모 페이지를 실행합니다:

   streamlit run ultrarag/webui/webui.py --server.fileWatcherType none

주요 기능

코드 없는 프로그래밍 WebUI

1. WebUI 페이지로 이동하여 원하는 RAG 솔루션(예: VisRAG)을 선택합니다.
2. 데이터 구축, 모델 미세 조정 및 프롬프트에 따른 추론 평가를 위한 설정.
3. '원클릭 합성 및 미세 조정' 버튼을 클릭하면 시스템이 자동으로 데이터 구축 및 모델 미세 조정을 완료합니다.

다차원, 다단계의 강력한 평가

1. 웹UI에서 RAGEval 평가 방법을 선택합니다.
2. 평가 매개변수를 설정하고 '평가 시작' 버튼을 클릭합니다.
3. 시스템이 자동으로 다단계 평가를 수행하고 평가 보고서를 생성합니다.

연구 친화적인 탐색 작업 통합

1. 웹UI에서 원하는 RAG 방법을 선택합니다(예: THUNLP-RAG).
2. 모듈 수준 탐색 및 개발을 위한 프롬프트를 따르세요.
3. '탐색 시작' 버튼을 클릭하면 시스템이 자동으로 탐색하고 개발합니다.