검색 o1: 추론 모델이 능동적으로 검색할 수 있도록 지원하여 대규모 모델이 사고하면서 외부 지식을 검색할 수 있도록 합니다.

2.1K 00

일반 소개

Search-o1은 고급 검색 메커니즘을 통합하여 대규모 추론 모델(LRM)의 성능을 향상시키는 것을 목표로 하는 오픈 소스 프로젝트입니다. 동적 검색과 지식 통합을 통해 추론 과정에서 발생하는 지식 결핍 문제를 해결하는 것이 핵심 아이디어입니다. 이 프로젝트는 일괄 생성 메커니즘과 대체 검색 방법을 제공하고 추론 프로세스의 정확성과 신뢰성을 향상시키기 위해 실시간 관련 문서에서 추론 프로세스에 삽입 할 수 있으며, search-o1은 복잡한 과학, 수학 및 프로그래밍 질문에 적합하며 다양한 언어 환경을 지원하며 주로 개발 및 배포를 위해 Python을 사용합니다.

기능 목록

배치 생성 메커니즘여러 추론 시퀀스를 동시에 생성하여 효율성을 향상시킵니다.
대체 검색추론 과정에서 지식 부족이 감지되면 관련 정보를 동적으로 검색합니다.
문서 통합검색된 문서를 추론 체인으로 세분화하고 원활하게 통합합니다.
다분야 지원과학, 수학, 코딩과 같은 복잡한 영역의 질문에 답하는 데 적용됩니다.
실시간 지식 업데이트추론 과정에서 모델이 최신 지식에 액세스할 수 있도록 합니다.

도움말 사용

설치 프로세스

Search-o1 프로젝트는 주로 GitHub를 통해 호스팅 및 배포됩니다. 설치 과정은 다음과 같습니다:

1.클론 창고::

git clone https://github.com/sunnynexus/Search-o1.git

가상 환경 만들기::

conda create -n search_o1 python=3.9
conda activate search_o1

종속성 설치::

cd Search-o1
pip install -r requirements.txt

데이터 전처리::
- data/data_pre_process.ipynb의 코드를 사용하여 데이터 집합을 표준 JSON 형식으로 전처리합니다.

사용법

추론 시퀀스 초기화하기

Search-o1은 작업 지침과 입력 질문을 결합하여 추론 시퀀스를 초기화합니다. 예를 들어

from search_o1 import initialize_reasoning
init_sequence = initialize_reasoning("请计算质数的数量", "在1到100之间")

일괄 생성 및 검색

검색 기능은 모델에 외부 지식이 필요할 때 트리거됩니다:

from search_o1 import batch_generate_and_search
results = batch_generate_and_search(init_sequence, max_tokens=500)

일괄 생성통해 배치_생성_및_검색 이 기능은 여러 추론 경로를 동시에 생성하고 각 경로에서 추가 지식 쿼리의 필요성을 감지합니다.
검색 통합검색의 필요성이 감지되면 시스템은 미리 정의된 검색 엔진(예: Google 또는 사용자 정의 데이터베이스)을 사용하여 관련 문서를 가져오고, 그 후 이를 정제하여 추론 체인에 통합합니다.

반복 추론

추론은 매 세대마다 새로운 검색과 문서 통합이 필요할 수 있는 반복적인 프로세스입니다:

from search_o1 import iterate_reasoning
final_answer = iterate_reasoning(results, iterations=5)

반복 횟수작업의 복잡성에 따라 추론의 정확성을 보장하기 위해 반복 횟수를 조정할 수 있습니다.

실제 문제에 적용

Search-o1은 과학 연구의 복잡한 계산이나 프로그래밍의 알고리즘 최적화와 같이 많은 배경 지식이 필요한 문제를 해결하는 데 특히 적합합니다. 예를 들어 보겠습니다:

수학 문제'오일러의 방법을 이용한 미분 방정식 풀기'와 같은 문제는 모델이 오일러의 방법에 대한 정보를 자동으로 검색하여 추론에 적용하는 Search-o1을 사용하여 해결할 수 있습니다.
프로그래밍 문제'빠른 정렬 알고리즘을 최적화하는 방법'과 같은 프로그래밍 문제의 경우 Search-o1은 검색된 알고리즘 개선 제안을 통해 추론할 수 있습니다.

위의 방법으로 사용자는 Search-o1을 활용할 수 있습니다. 복잡하고 지식 집약적인 작업을 수행하여 추론의 모든 단계가 가장 최신의 관련 지식을 기반으로 이루어지도록 합니다.