심층 검색기: 기업 비공개 문서의 효율적인 검색 및 지능형 Q&A

1.4K 00

일반 소개

딥 서처는 강력한 대규모 언어 모델( DeepSeek 및 OpenAI) 및 벡터 데이터베이스(예: Milvus)는 개인 데이터를 기반으로 검색, 평가 및 추론하도록 설계된 도구로, 매우 정확한 답변과 포괄적인 보고서를 제공합니다. 이 프로젝트는 기업 지식 관리, 지능형 Q&A 시스템 및 정보 검색 시나리오에 적합하며, 딥서치어는 광범위한 임베딩 모델과 대규모 언어 모델을 지원하고 벡터 데이터베이스를 관리하여 효율적인 검색과 데이터의 안전한 사용을 보장할 수 있습니다.

기능 목록

개인 데이터 검색비즈니스 내 데이터 활용을 극대화하고 데이터 보안을 보장합니다.
벡터 데이터베이스 관리Milvus와 같은 벡터 데이터베이스를 지원하여 데이터를 분할하여 보다 효율적으로 검색할 수 있습니다.
유연한 임베딩 옵션여러 임베딩 모델과 호환되므로 최상의 옵션을 쉽게 선택할 수 있습니다.
다국어 모델 지원스마트 Q&A 및 콘텐츠 생성을 위해 DeepSeek, OpenAI 등과 같은 빅 모델을 지원합니다.
문서 로더로컬 파일 로딩이 지원되며 향후 웹 크롤링이 추가될 예정입니다.

도움말 사용

설치 프로세스

복제 창고:

   git clone https://github.com/zilliztech/deep-searcher.git

Python 가상 환경 만들기(권장):

   python3 -m venv .venv
source .venv/bin/activate

종속성을 설치합니다:

   cd deep-searcher
pip install -e .

LLM 또는 Milvus 구성: 편집 examples/example1.py 파일을 사용하여 필요에 따라 LLM 또는 Milvus를 구성할 수 있습니다.
데이터를 준비하고 예제를 실행합니다:

   python examples/example1.py

사용 지침

LLM 구성: In deepsearcher.configuration 모듈을 사용하려면 set_provider_config 메서드를 사용하여 LLM을 구성합니다. 예를 들어 OpenAI 모델을 구성합니다:

   config.set_provider_config("llm", "OpenAI", {"model": "gpt-4o"})

로컬 데이터 로드사용 deepsearcher.offline_loading 모듈에서 load_from_local_files 메서드를 사용하여 로컬 데이터를 로드합니다:

   load_from_local_files(paths_or_directory="your_local_path")

데이터 쿼리사용 deepsearcher.online_query 모듈에서 query 메소드가 쿼리됩니다:

   result = query("Write a report about xxx.")

세부 기능 작동 흐름

개인 데이터 검색::
- 데이터 보안을 보장하면서 비즈니스 내 데이터 활용을 극대화하세요.
- 보다 정확한 답변이 필요한 경우 온라인 콘텐츠를 통합할 수 있습니다.
벡터 데이터베이스 관리::
- Milvus와 같은 벡터 데이터베이스를 지원하여 데이터를 분할하여 보다 효율적으로 검색할 수 있습니다.
- 향후 더 많은 벡터 데이터베이스(예: FAISS)에 대한 지원이 계획되어 있습니다.
유연한 임베딩 옵션::
- 다양한 임베디드 모델과 호환되므로 최적의 솔루션을 쉽게 선택할 수 있습니다.
다국어 모델 지원::
- 스마트 Q&A 및 콘텐츠 생성을 위해 DeepSeek, OpenAI 등과 같은 대규모 모델을 지원합니다.
문서 로더::
- 로컬 파일 로딩이 지원되며 향후 웹 크롤링이 추가될 예정입니다.