Pesquisa o1: Capacitar modelos de inferência para pesquisar ativamente, permitindo que modelos grandes pesquisem conhecimento externo enquanto pensam

Introdução geral

O Search-o1 é um projeto de código aberto que visa aprimorar o desempenho de modelos de raciocínio em larga escala (LRMs) por meio da integração de mecanismos de pesquisa avançados. Sua ideia central é resolver o problema do déficit de conhecimento encontrado no processo de raciocínio por meio de pesquisa dinâmica e integração de conhecimento. O projeto foi desenvolvido pela equipe da sunnynexus e oferece um mecanismo de geração de lotes e métodos de pesquisa alternativos, que podem ser inseridos no processo de raciocínio em documentos relevantes em tempo real para melhorar a precisão e a confiabilidade do processo de inferência. O search-o1 é adequado para questões científicas, matemáticas e de programação complexas, com suporte para uma variedade de ambientes de linguagem, principalmente usando Python para desenvolvimento e implementação.

Lista de funções

• Mecanismo de geração de lotesGeração de várias sequências de inferência ao mesmo tempo para aumentar a eficiência.
• pesquisa alternativaPesquisa dinâmica de informações relevantes quando são detectadas deficiências de conhecimento durante o processo de raciocínio.
• Integração de documentosRefinar e integrar perfeitamente os documentos pesquisados na cadeia de raciocínio.
• Suporte multidisciplinarAplicável para responder a perguntas em áreas complexas, como ciências, matemática e codificação.
• Atualização de conhecimento em tempo realConhecimento atualizado: Garanta que o modelo tenha acesso a conhecimentos atualizados durante o processo de raciocínio.

Usando a Ajuda

Processo de instalação

O projeto Search-o1 é hospedado e distribuído principalmente pelo GitHub. O processo de instalação é o seguinte:

1.armazém de clones::

git clone https://github.com/sunnynexus/Search-o1.git

2. Criação de um ambiente virtual::

   conda create -n search_o1 python=3.9
   conda activate search_o1
   

3. Instalação de dependências::

   cd Search-o1
   pip install -r requirements.txt
   

4. Pré-processamento de dados::
   • Use o código em data/data_pre_process.ipynb para pré-processar o conjunto de dados no formato JSON padrão.

Uso

Inicialização da sequência de inferência

O Search-o1 inicializa a sequência de inferência combinando instruções de tarefas e perguntas de entrada. Por exemplo:

from search_o1 import initialize_reasoning
init_sequence = initialize_reasoning("Por favor, conte o número de primos", "entre 1 e 100")

Geração e pesquisa de lotes

A função de pesquisa é acionada quando o modelo encontra uma necessidade de conhecimento externo:

from search_o1 import batch_generate_and_search
results = batch_generate_and_search(init_sequence, max_tokens=500)

• Geração de lotes: através de batch_generate_and_search A função gera vários caminhos de inferência simultaneamente e detecta a necessidade de outras consultas de conhecimento em cada caminho.
• Integração de pesquisaPesquisa: Quando a necessidade de uma pesquisa é detectada, o sistema usa um mecanismo de pesquisa predefinido (por exemplo, o Google ou um banco de dados personalizado) para obter documentos relevantes, que são posteriormente refinados e integrados à cadeia de inferência.

inferência iterativa

O raciocínio é um processo iterativo que pode exigir novas pesquisas e integração de documentos após cada geração:

from search_o1 import iterate_reasoning
final_answer = iterate_reasoning(results, iterations=5)

• Número de iteraçõesDependendo da complexidade da tarefa, o número de iterações pode ser ajustado para garantir a precisão do raciocínio.

Aplicação a problemas práticos

O Search-o1 é especialmente adequado para solucionar problemas que exigem muito conhecimento prévio, como cálculos complexos em pesquisa científica ou otimização de algoritmos em programação. Um exemplo:

• problema de matemáticaProblemas como "resolver equações diferenciais usando o método de Euler" podem ser resolvidos usando o Search-o1, em que o modelo procura automaticamente informações sobre o método de Euler e as aplica ao raciocínio.
• Problemas de programaçãoPara problemas de programação, como "como otimizar o algoritmo de classificação rápida", o Search-o1 pode raciocinar com as sugestões de aprimoramento algorítmico pesquisadas.

Com o método acima, o usuário pode utilizar o Search-o1 Executar tarefas complexas e de conhecimento intensivo, garantindo que cada etapa do raciocínio seja baseada no conhecimento mais atual e relevante.