ZeroSearch - Ali Tongyi lançou a estrutura de mecanismo de pesquisa de modelo grande de código aberto

O que é ZeroSearch

O ZeroSearch é uma estrutura inovadora de mecanismo de pesquisa de modelo grande e de código aberto da Alibaba Tongyi Labs. A estrutura não precisa interagir com o mecanismo de pesquisa real, com base na simulação do mecanismo de pesquisa, com um grande modelo de seu próprio conhecimento de pré-treinamento para gerar documentos relevantes ou ruidosos, reduzindo significativamente o custo de treinamento (redução de 80% ou mais). O ZeroSearch baseia-se em mecanismos leves de ajuste fino supervisionado e aprendizado de curso para melhorar gradualmente a capacidade de raciocínio do modelo para dar suporte a uma variedade de algoritmos de aprendizado de reforço (como PPO, GRPO). O ZeroSearch tem excelente desempenho em vários conjuntos de dados de perguntas e respostas e supera a pesquisa do Google. O ZeroSearch é aplicável a vários cenários, como perguntas e respostas inteligentes, criação de conteúdo e pesquisa e desenvolvimento, além de ser altamente dimensionável e versátil.

Principais recursos do ZeroSearch

• Capacidade de pesquisa analógicaZeroSearch: O ZeroSearch pode simular a função de pesquisa de um mecanismo de pesquisa e gerar documentos com a reserva de conhecimento do próprio modelo grande, sem depender de mecanismos de pesquisa reais externos, reduzindo o custo de uso e a dependência externa.
• Geração flexível de documentosEle suporta a geração de documentos de alta qualidade relacionados à consulta ou a geração de documentos com ruído e o controle flexível da qualidade do documento com base no ajuste das palavras-chave, de modo a fornecer cenários de recuperação diversificados para o treinamento do modelo.
• Redução eficiente de custosZeroSearch: o ZeroSearch reduz drasticamente os custos de treinamento em comparação com o treinamento com mecanismos de pesquisa reais para aprendizagem por reforço, tornando o treinamento em larga escala mais viável economicamente.
• alta compatibilidadeÉ compatível com muitos modelos grandes com diferentes escalas de parâmetros (por exemplo, 3B, 7B, 14B), suporta muitos algoritmos de aprendizado por reforço (por exemplo, PPO, GRPO) e é altamente dimensionável e versátil.

Endereço do site oficial da ZeroSearch

• Site do projeto::https://alibaba-nlp.github.io/ZeroSearch/
• Repositório do GitHub::https://github.com/Alibaba-nlp/ZeroSearch
• Biblioteca do modelo HuggingFace::https://huggingface.co/collections/sunhaonlp/zerosearch
• Artigo técnico do arXiv::https://arxiv.org/pdf/2505.04588

Como usar o ZeroSearch

• Preparação ambiental::
  • Instalação do PythonVerifique se o Python está instalado em seu sistema (recomenda-se o Python 3.8 ou superior).
  • Instalação de bibliotecas dependentesInstalação: Instale as bibliotecas Python necessárias, conforme exigido pelo ZeroSearch. Isso geralmente pode ser feito com o seguinte comando:

pip install -r requirements.txt

• • Os arquivos de dependência específicos podem ser encontrados no repositório do GitHub.
• Obtendo o código e o modelo::
  • Clonagem de um repositório do GitHubClone o código do repositório oficial do ZeroSearch no GitHub:

git clone https://github.com/Alibaba-nlp/ZeroSearch.git
cd ZeroSearch

• • Download do modelo pré-treinadoFaça o download dos arquivos de modelo pré-treinados necessários, de acordo com as instruções do ZeroSearch.
• Ambiente de configuração::
  • Configuração de caminhos de modeloEspecifique o caminho para o modelo pré-treinado no código para garantir que o ZeroSearch carregue o modelo corretamente.
  • Parâmetros de configuraçãoAjuste os parâmetros no arquivo de configuração ou no código do ZeroSearch conforme necessário, como tamanho do modelo, algoritmos de aprendizagem por reforço, caminhos de dados de treinamento e assim por diante.
• Executar o ZeroSearch::
  • treinamento de preparaçãoExecute o script de treinamento do ZeroSearch. Inicie-o com base no seguinte comando:

python train.py

• • Os nomes e parâmetros específicos dos scripts podem variar de uma versão para outra; consulte a documentação oficial.
• Testes e validaçãoApós a conclusão do treinamento, verifique o desempenho do ZeroSearch com um conjunto de dados de teste para garantir que os documentos relevantes sejam gerados corretamente e que as perguntas sejam respondidas.

Principais pontos fortes da ZeroSearch

• Não é necessária nenhuma interação real com o mecanismo de pesquisaZeroSearch: O ZeroSearch baseia-se na funcionalidade de mecanismo de pesquisa simulado e é totalmente independente de mecanismos de pesquisa externos, reduzindo custos e dependências.
• Reduções significativas de custosCusto de treinamento: Em comparação com os métodos tradicionais, os custos de treinamento do ZeroSearch são substancialmente menores, tornando o treinamento em larga escala mais econômico.
• Recursos flexíveis de geração de documentosO sistema suporta a geração de documentos de alta qualidade ou com ruído, que podem ser ajustados de forma flexível de acordo com as necessidades do usuário para atender a cenários de treinamento diversificados.
• Realização técnica poderosaMelhoria do desempenho e da inferência do modelo com base em ajuste fino supervisionado leve, mecanismos de aprendizado de curso e mecanismos de recompensa baseados em pontuações F1.
• Ampla gama de aplicabilidadeEle é compatível com uma variedade de modelos grandes e algoritmos de aprendizagem por reforço, e é adequado para vários cenários, como perguntas e respostas inteligentes, criação de conteúdo, educação e gerenciamento de conhecimento empresarial.
• Código aberto e suporte da comunidadeComo uma estrutura de código aberto, o ZeroSearch oferece acesso livre ao código e suporte da comunidade para facilitar a personalização e a otimização.

Cenários de aplicativos para o ZeroSearch

• Pesquisadores de inteligência artificialTreinamento de modelos e otimização de algoritmos com base em uma estrutura de pesquisa eficiente e de baixo custo.
• desenvolvedor de processamento de linguagem naturalCrie aplicativos rapidamente em áreas como perguntas e respostas inteligentes e criação de conteúdo.
• Equipe técnica corporativaOs técnicos otimizam o gerenciamento do conhecimento empresarial e aumentam a eficiência da pesquisa interna.
• Educadores e alunosUsado em educação on-line e tutoria inteligente para fornecer respostas instantâneas e suporte ao aprendizado.
• criador de conteúdoCriação de conteúdo para acessar informações, gerar primeiros rascunhos ou inspiração e melhorar a eficiência criativa.
• Entusiastas da comunidade de código abertoInteressado em projetos de código aberto e deseja contribuir ou fazer desenvolvimento secundário.