DeepGemini: многомодельная оркестровка задач и инкапсуляция в API-интерфейс

Общее введение

DeepGemini - это проект с открытым исходным кодом, созданный разработчиком Томасом Слигтером. Это инструмент управления ИИ, поддерживающий мультимодельную оркестровку, главной особенностью которого является возможность гибко комбинировать различные модели ИИ, а вызывается он через OpenAI-совместимый интерфейс API. Проект основан на Python 3.11 и FastAPI, поддерживает настройку хранилища базы данных SQLite, предоставляет веб-интерфейс управления и развертывания Docker. Он подходит для разработчиков, энтузиастов технологий и корпоративных пользователей, а лицензия MIT позволяет свободно использовать и модифицировать его. DeepGemini поддерживает китайский и английский интерфейсы, является многофункциональным и простым в использовании.

В проекте были настроены многомодельные рабочие процессы и многомодельные дискуссионные группы задач, которые нельзя было использовать непосредственно в интерфейсе, и их приходилось настраивать в других инструментах чата, чтобы использовать API. Этот инструмент проще и практичнее, чем обычные инструменты планирования задач интеллектуального тела, единственный недостаток - он потребляет больше квот API.

Список функций

• Поддержка оркестровки нескольких моделей, позволяющая настраивать сочетание нескольких моделей ИИ для выполнения задачи.
• Обеспечивает управление персонажами и возможность устанавливать различные персонажи и навыки для ИИ.
• Поддерживает дискуссионные группы, в которых несколько персонажей ИИ могут сотрудничать в обсуждениях.
• Предусмотрено несколько режимов обсуждения, включая мозговой штурм, дебаты и SWOT-анализ.
• Совместимость с различными поставщиками ИИ, такими как DeepSeek, Claude, Gemini, Grok3 и другими.
• Предоставляет OpenAI-совместимый API-интерфейс, который напрямую заменяет интерфейс OpenAI в существующих приложениях.
• Поддержка потокового ответа в реальном времени для повышения удобства пользователей.
• Встроенный веб-интерфейс управления для простой настройки модели и проверки состояния.
• Поддержка базы данных SQLite и миграции Alembic для более стабильной конфигурации управления.

Использование помощи

Установка и использование DeepGemini разделены на два способа: локальная работа и развертывание в Docker. Ниже приводится подробное описание этапов установки и процедур функциональной работы, чтобы помочь пользователям быстро начать работу.

Процесс установки - локальный запуск

1. Клонирование кода проекта
   Введите следующую команду в терминале, чтобы загрузить проект:

git clone https://github.com/sligter/DeepGemini.git

Затем перейдите в каталог проекта:

cd DeepGemini

2. Установка зависимостей
   Рекомендуется для проектов uv Инструмент устанавливает зависимости, запускается:

uv sync

Если нет uvЭто можно сделать с помощью pip install -r requirements.txt Альтернатива. Убедитесь, что версия Python 3.11 или выше.

3. Настройка переменных среды
   Скопируйте файл конфигурации примера:

cp .env.example .env

Откройте в текстовом редакторе .envЗадайте следующие обязательные поля:

• ALLOW_API_KEY: Ваш ключ API, просто определите его самостоятельно.
• ALLOW_ORIGINS: источник разрешенного доменного имени, заполните * Указывает, что разрешены все, или запятые используются для разделения конкретных доменов.
  Дополнительные настройки включают ключи и параметры API модели (такие как DEEPSEEK_API_KEY).

4. Начальные услуги
   Введите следующую команду для запуска:

uv run uvicorn app.main:app --host 0.0.0.0 --port 8000

После успешного запуска откройте браузер и перейдите на страницу http://localhost:8000/dashboardЕсли вы хотите получить доступ к веб-интерфейсу управления, вы можете сделать это, перейдя по следующей ссылке.

Процесс установки - развертывание Docker

1. Извлечение образа Docker
   Запускается в терминале:

docker pull bradleylzh/deepgemini:latest

2. Подготовка файлов конфигурации и баз данных
   Создает файл в текущем каталоге:

• Linux/Mac:

  cp .env.example .env
  touch deepgemini.db
  echo "" > deepgemini.db
  

• Windows PowerShell:

  cp .env.example .env
  echo "" > deepgemini.db
  

компилятор .envНастройки ALLOW_API_KEY ответить пением ALLOW_ORIGINS.

3. Запуск контейнеров Docker
   Введите команду для запуска:

• Linux/Mac:

  docker run -d -p 8000:8000 -v $(pwd)/.env:/app/.env -v $(pwd)/deepgemini.db:/app/deepgemini.db --name deepgemini bradleylzh/deepgemini:latest
  

• Windows PowerShell:

  docker run -d -p 8000:8000 -v ${PWD}\.env:/app/.env -v ${PWD}\deepgemini.db:/app/deepgemini.db --name deepgemini bradleylzh/deepgemini:latest
  

После запуска зайдите в http://localhost:8000/dashboard.

Использование Docker Compose (рекомендуется)

1. намерение .env и файлы базы данных, как описано выше.
2. Бег:

docker-compose up -d

интервью http://localhost:8000/dashboard.

Основные функции

1. Работа с веб-интерфейсом управления

• Откройте браузер и посетите http://localhost:8000/dashboard.
• В интерфейсе отображается состояние модели и параметры конфигурации. Нажмите кнопку "Добавить модель", введите имя модели (например, DeepSeek), ключ API и параметры (температура, top_p и т. д.) и сохраните.
• В разделе "Управление ролями" создайте роль ИИ и задайте параметры личности (например, "Логическая строгость") и навыков (например, "Генерация текста").

2. Настройка многомодельной оркестровки

• На экране Рабочий процесс нажмите Новый рабочий процесс.
• Пример конфигурации:

{
"name": "reason_and_execute",
"steps": [
{"model_id": "deepseek", "step_type": "reasoning", "step_order": 1},
{"model_id": "claude", "step_type": "execution", "step_order": 2}
]
}

• После сохранения рабочий процесс будет взаимодействовать с DeepSeek, прежде чем генерировать результаты в Claude.

3. Вызов интерфейса API

• пользоваться curl Протестируйте API:

curl -X POST "http://localhost:8000/v1/chat/completions" -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{"model": "reason_and_execute", "messages": [{"role": "user", "content": "分析并回答：1+1等于几？"}]}'

• взаимозаменяемость YOUR_API_KEY из-за .env в ключе. Результатом возврата является потоковый ответ.

4. Создание дискуссионных групп

• На странице "Группы обсуждения" добавьте несколько ролей (например, "Аналитик" и "Создатель").
• Выберите режим обсуждения (например, "Мозговой штурм"), введите вопрос и нажмите "Начать обсуждение". Система отобразит диалог между персонажами.

предостережение

• Убедитесь, что сетевое соединение работает правильно, некоторые модели требуют доступа к внешним API.
• Файл журнала находится в папке <项目目录>/logs/ не работает, что можно использовать для устранения неполадок.
• Если во время развертывания Docker возник конфликт портов, вы можете изменить параметр -p 8000:8000 Первый номер порта в списке

сценарий применения

1. Эксперименты по разработке искусственного интеллекта
   Разработчики могут протестировать совместную работу нескольких моделей с DeepGemini. Например, начните с Близнецы Проанализируйте вопрос, а затем используйте Клода для составления подробного ответа.
2. Моделирование работы в команде
   Имитируйте командные встречи с помощью функции дискуссионной группы. Назначьте разные роли для обсуждения стратегий развития продукта и вывода различных предложений.
3. Образование и обучение
   Студенты могут использовать его для изучения свойств моделей ИИ и экспериментировать с различными способами обсуждения, наблюдая за результатами.

QA

1. Какие поставщики ИИ поддерживаются?
   Поддержка DeepSeek, Claude, Gemini, Grok3, OpenAI и т. д., а также настраиваемый доступ к другим провайдерам.
2. В чем смысл дискуссионной группы?
   Группы обсуждения позволяют нескольким персоналиям ИИ совместно решать сложные задачи, например, проводить мозговой штурм или дебаты, что позволяет получить ответы с разных точек зрения.
3. Как отладить проблему?
   Проверьте файлы журналов или напишите проблему на GitHub, чтобы получить помощь.