综合介绍
UltraRAG是由清华大学THUNLP组、东北大学NEUIR组、Modelbest.Inc和9#AISoft团队联合提出的RAG(检索增强生成)系统解决方案。该框架基于敏捷部署和模块化构建,提供了自动化的数据构建、模型微调和推理评估技术体系。UltraRAG显著简化了从数据构建到模型微调的整个过程,帮助研究人员和开发者高效应对复杂任务。其无代码编程WebUI支持用户轻松操作全链路设置和优化过程,包括多模态RAG解决方案VisRAG。
功能列表
- 无代码编程WebUI支持:用户无需编程经验即可操作全链路设置和优化过程。
- 一键合成与微调解决方案:基于KBAlign、RAG-DDR等专有方法,系统支持一键系统化数据构建与检索,并通过多样的模型微调策略进行性能优化。
- 多维度、多阶段鲁棒评估:核心采用RAGEval方法,结合多阶段评估方法,显著增强“模型评估”的鲁棒性。
- 研究友好的探索工作集成:包括THUNLP-RAG组的专有方法和其他前沿RAG方法,支持持续的模块级探索和开发。
- 快速部署:支持通过Docker和Conda进行快速部署,方便用户快速上手。
使用帮助
环境依赖
- CUDA版本需为12.2或以上。
- Python版本需为3.10或以上。
快速部署
通过Docker部署
- 运行以下命令:
docker-compose up --build -d
- 在浏览器中访问
http://localhost:8843
。
通过Conda部署
- 创建Conda环境:
conda create -n ultrarag python=3.10
- 激活Conda环境:
conda activate ultrarag
- 安装相关依赖:
pip install -r requirements.txt
- 运行以下脚本下载模型(默认下载到
resources/models
目录):
python scripts/download_models.py
- 运行演示页面:
streamlit run ultrarag/webui/webui.py --server.fileWatcherType none
主要功能操作流程
无代码编程WebUI
- 访问WebUI页面,选择所需的RAG解决方案(如VisRAG)。
- 根据提示进行数据构建、模型微调和推理评估的设置。
- 点击“一键合成与微调”按钮,系统将自动完成数据构建与模型微调。
多维度、多阶段鲁棒评估
- 在WebUI中选择RAGEval评估方法。
- 设置评估参数,点击“开始评估”按钮。
- 系统将自动进行多阶段评估,并生成评估报告。
研究友好的探索工作集成
- 在WebUI中选择所需的RAG方法(如THUNLP-RAG)。
- 根据提示进行模块级探索和开发。
- 点击“开始探索”按钮,系统将自动进行探索和开发。