DeepGemini: orquestração de tarefas de vários modelos e encapsulamento em uma interface de API

Introdução geral

O DeepGemini é um projeto de código aberto criado pelo desenvolvedor Thomas Sligter. É uma ferramenta de gerenciamento de IA que oferece suporte à orquestração de vários modelos, o principal recurso é a capacidade de combinar com flexibilidade uma variedade de modelos de IA e é chamada por meio da interface de API compatível com OpenAI. O projeto é baseado em Python 3.11 e FastAPI, oferece suporte à configuração de armazenamento de banco de dados SQLite e fornece uma interface de gerenciamento da Web e implantação do Docker. Ele é adequado para desenvolvedores, entusiastas de tecnologia e usuários corporativos, e a licença MIT permite o uso e a modificação gratuitos. O DeepGemini oferece suporte a interfaces em chinês e inglês, além de ser rico em recursos e fácil de usar.

O projeto configurou fluxos de trabalho de vários modelos e grupos de tarefas de discussão de vários modelos na interface, que não puderam ser usados diretamente na interface e tiveram de ser configurados em outras ferramentas de bate-papo para usar a API. Essa ferramenta é mais simples e mais prática do que as ferramentas usuais de agendamento de tarefas de corpo inteligente; a única desvantagem é que ela consome mais cota de API.

Lista de funções

• Oferece suporte à orquestração de vários modelos, permitindo que você personalize a combinação de vários modelos de IA para concluir uma tarefa.
• Oferece gerenciamento de personagens e a capacidade de definir personalidades e habilidades diferentes para a IA.
• Oferece suporte a grupos de discussão, nos quais vários personagens de IA podem colaborar em discussões.
• Uma variedade de modos de discussão é incorporada, incluindo brainstorming, debate e análise SWOT.
• Compatível com vários provedores de IA, como DeepSeek, Claude, Gemini, Grok3 e outros.
• Fornece uma interface de API compatível com o OpenAI que substitui diretamente a interface do OpenAI nos aplicativos existentes.
• Suporte à resposta de streaming em tempo real para aprimorar a experiência do usuário.
• Interface de gerenciamento da Web integrada para facilitar a configuração do modelo e a verificação do status.
• Oferece suporte ao banco de dados SQLite e à migração Alembic para uma configuração de gerenciamento mais estável.

Usando a Ajuda

A instalação e o uso do DeepGemini são divididos em duas formas: operação local e implantação do Docker. A seguir, há uma descrição detalhada das etapas de instalação e dos procedimentos de operação funcional para ajudar os usuários a começar rapidamente.

Processo de instalação - executando localmente

1. Clonagem do código do projeto
   Digite o seguinte comando no terminal para fazer o download do projeto:

git clone https://github.com/sligter/DeepGemini.git

Em seguida, vá para o diretório do projeto:

cd DeepGemini

2. Instalação de dependências
   Recomendado para projetos uv A ferramenta instala as dependências e é executada:

uv sync

Caso contrário uvVocê pode usar o pip install -r requirements.txt Alternativa. Certifique-se de que a versão do Python seja 3.11 ou superior.

3. Configuração de variáveis de ambiente
   Copie o arquivo de configuração de amostra:

cp .env.example .env

Abrir com um editor de texto .envDefina os seguintes campos obrigatórios:

• ALLOW_API_KEYSua chave de API, basta defini-la você mesmo.
• ALLOW_ORIGINS: a origem do nome de domínio permitido, preencha o campo * Indica que todos são permitidos ou que vírgulas são usadas para separar domínios específicos.
  As configurações opcionais incluem chaves e parâmetros da API do modelo (como o DEEPSEEK_API_KEY).

4. Início dos serviços
   Digite o seguinte comando para iniciar:

uv run uvicorn app.main:app --host 0.0.0.0 --port 8000

Após o lançamento bem-sucedido, abra seu navegador e acesse http://localhost:8000/dashboardSe quiser acessar a interface de gerenciamento da Web, clique no link a seguir.

Processo de instalação - implantação do Docker

1. Extração de uma imagem do Docker
   É executado no terminal:

docker pull bradleylzh/deepgemini:latest

2. Preparação de arquivos de configuração e bancos de dados
   Cria um arquivo no diretório atual:

• Linux/Mac:

  cp .env.example .env
  touch deepgemini.db
  echo "" > deepgemini.db
  

• Windows PowerShell:

  cp .env.example .env
  echo "" > deepgemini.db
  

compilador .envConfigurações ALLOW_API_KEY responder cantando ALLOW_ORIGINS.

3. Execução de contêineres do Docker
   Digite o comando para iniciar:

• Linux/Mac:

  docker run -d -p 8000:8000 -v $(pwd)/.env:/app/.env -v $(pwd)/deepgemini.db:/app/deepgemini.db --name deepgemini bradleylzh/deepgemini:latest
  

• Windows PowerShell:

  docker run -d -p 8000:8000 -v ${PWD}\.env:/app/.env -v ${PWD}\deepgemini.db:/app/deepgemini.db --name deepgemini bradleylzh/deepgemini:latest
  

运行后，访问 http://localhost:8000/dashboard.

Usando o Docker Compose (recomendado)

1. pretender .env e arquivos de banco de dados, conforme descrito acima.
2. Em execução:

docker-compose up -d

entrevistas http://localhost:8000/dashboard.

Funções principais

1. operação da interface de gerenciamento da Web

• Abra seu navegador e acesse http://localhost:8000/dashboard.
• A interface exibe o status do modelo e as opções de configuração. Clique em "Add Model" (Adicionar modelo), digite o nome do modelo (por exemplo, DeepSeek), a chave da API e os parâmetros (temperatura, top_p, etc.) e salve.
• Em Gerenciamento de funções, crie uma função de IA e defina a personalidade (por exemplo, "Rigor lógico") e as habilidades (por exemplo, "Geração de texto").

2) Configuração da orquestração de vários modelos

• Na tela Fluxo de trabalho, clique em Novo fluxo de trabalho.
• Exemplo de configuração:

{
"name": "reason_and_execute",
"steps": [
{"model_id": "deepseek", "step_type": "reasoning", "step_order": 1},
{"model_id": "claude", "step_type": "execution", "step_order": 2}
]
}

• Uma vez salvo, o fluxo de trabalho raciocinará com o DeepSeek antes de gerar resultados com o Claude.

3. chamando a interface da API

• fazer uso de curl Teste a API:

curl -X POST "http://localhost:8000/v1/chat/completions" -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{"model": "reason_and_execute", "messages": [{"role": "user", "content": "分析并回答：1+1等于几？"}]}'

• intercambialidade YOUR_API_KEY por causa de .env na chave. O resultado do retorno é uma resposta de streaming.

4. criação de grupos de discussão

• Na página Grupos de discussão, adicione várias funções (como Analista e Criador).
• Selecione um modo de discussão (por exemplo, "Brainstorming"), insira uma pergunta e clique em "Start Discussion" (Iniciar discussão). O sistema exibirá o diálogo entre os personagens.

advertência

• Certifique-se de que a conexão de rede esteja funcionando corretamente, pois alguns modelos exigem acesso a APIs externas.
• Os arquivos de registro estão no diretório <项目目录>/logs/ que pode ser usado para solucionar problemas.
• Se houver um conflito de portas durante a implantação do Docker, você poderá modificar o -p 8000:8000 O primeiro número de porta no

cenário do aplicativo

1. Experimentos de desenvolvimento de IA
   Os desenvolvedores podem testar a colaboração de vários modelos com o DeepGemini. Por exemplo, comece com Gêmeos Analise a pergunta e use o Claude para gerar uma resposta detalhada.
2. Simulação de trabalho em equipe
   Simule reuniões de equipe por meio do recurso de grupo de discussão. Configure diferentes funções para discutir estratégias de produtos e apresentar diversas sugestões.
3. Educação e treinamento
   Os alunos podem usá-lo para aprender sobre as propriedades dos modelos de IA e fazer experiências com diferentes modos de discussão para observar os resultados.

QA

1. Quais provedores de IA são compatíveis?
   Suporte para DeepSeek, Claude, Gemini, Grok3, OpenAI, etc., com acesso personalizado a outros provedores.
2. Qual é o objetivo de um grupo de discussão?
   Os grupos de discussão permitem que várias personas de IA colaborem em problemas complexos, como brainstorming ou debates, fornecendo várias perspectivas sobre as respostas.
3. Como faço para depurar um problema?
   Verifique os arquivos de registro ou registre um problema no GitHub para obter ajuda.