CoAI.Dev (Chat Nio): универсальное решение для агрегации приложений искусственного интеллекта с поддержкой гибкой модели биллинга и подписки

Общее введение

CoAI.Dev (ранее Chat Nio) - это чат-платформа, объединяющая несколько моделей искусственного интеллекта с поддержкой распределенного стриминга, генерации изображений, синхронизации и обмена разговорами между устройствами. В ней реализованы система подписки и биллинга с использованием токенов, сервис транзита ключей и поддержка нескольких моделей, а также сетевой поиск и генератор ИИ-проектов. Платформа является проектом с открытым исходным кодом, предоставляет подробную документацию по API и мультиязычный SDK для разработчиков и вторичной разработки.

Компания Dev (бывший Chat Nio) возрождается после многомесячного процесса приобретения, и я продолжу руководить развитием этого проекта. В ближайшем будущем будет запущен новый продукт, посвященный созданию следующего поколения коммерческих решений с открытым исходным кодом для LLM!

В новой дорожной карте с открытым исходным кодом планируется синхронизировать RAG, Digital People, Payment, TTS & STT, API Gateway, Model Healthiness Monitoring, поддержку Agent Workflow, Realtime, Team Collaboration и другие передовые функции!

Список функций

Поддерживает множество моделей ИИ: OpenAI, Claude, Xunfei Starfire и др.
распределенная потоковая передача
Генерация изображений
Чат автоматически синхронизируется и передается на разные устройства
Гибкая биллинговая система Token
Ключевая транзитная служба
Поддержка агрегации нескольких моделей
Функция поиска по сети
Генератор проектов искусственного интеллекта
Пакетная генерация статей ИИ

Использование помощи

Богатая визуальная модель изображения

Поддержка моделей Vision, а также поддержка прямой загрузки изображений и возможность ввода прямых ссылок на изображения или изображений Base64 (например, такие модели, как GPT-4 Vision Preview, Gemini Pro Vision и т.д.)
Поддержка построения модели DALL-E
Поддерживает операции Imagine / Upscale / Variant / Reroll для моделей Midjourney / Niji.

Поддержка уценки

Поддерживаются темный и светлый режимы, подсветка кода, формулы LaTeX, таблицы, панели деталей, виртуальные сообщения и многое другое!

Функция запоминания диалогов

Облачная синхронизация, поддержка сайта прямой ссылки совместного диалога, поддержка использования совместного диалога, совместный диалог сохраняется как изображение, поддержка управления совместным доступом (поддержка просмотра, удаления совместного доступа и других операций)

Веб-поиск DuckDuckGo

Полная модель DuckDuckGo Ethernet поддерживает поисковую функциональность(Подробности см. в проектеduckduckgo-api Для этого необходимо собрать мобильный телефон и настроить его в системных настройках в настройках Ethernet

команда предустановки

адъювантПредустановка Предустановкаответить пениемоблачная синхронизацияОсобенности, поддержка клонов предустановок, предустановленные настройки аватара, поддержка предустановленных настроек профиля

Управление бэк-офисом

Включает информацию о зачислениях за текущий день и месяц, количество подписчиков, линейные графики статистики использования моделей, анализ круговых диаграмм, статистику доходов, статистику типов пользователей, статистику использования моделей, графики количества запросов и количества ошибок в моделях и т. д.

Развертывание Docker

После успешной настройки учетная запись администратораrootпароль по умолчаниюchatnio123456

1. ⚡ Установка Docker Compose (рекомендуется)

   После успешного выполнения следующий адрес сопоставления машин будетhttp://localhost:8000

   git clone --depth=1 --branch=main --single-branch https://github.com/Deeptrain-Community/chatnio.git
   cd chatnio
   docker-compose up -d # 运行服务
   # 如需使用 stable 版本, 请使用 docker-compose -f docker-compose.stable.yaml up -d 替代
   # 如需使用 watchtower 自动更新, 请使用 docker-compose -f docker-compose.watch.yaml up -d 替代

   Обновления версий (Если включено автоматическое обновление Watchtower, требуется ручное обновление):

   docker-compose down 
   docker-compose pull
   docker-compose up -d

   • Каталог монтирования базы данных MySQL проект ~/ db
   • Каталог монтирования базы данных Redis проект ~/ redis
   • Каталог монтирования файлов конфигурации проекта ~/ конфигурация

2. ⚡ Установка Docker (легкая среда выполнения, обычно используется для внешних установок)MYSQL/RDSуслуги)

   Если вы используете стабильную версию, воспользуйтесьprogramzmh/chatnio:stableальтернативаprogramzmh/chatnio:latest

   docker run -d --name chatnio \
     --network host \
     -p 8000:8094 \
     -v ~/config:/config \
     -v ~/logs:/logs \
     -v ~/storage:/storage \
     -e MYSQL_HOST=localhost \
     -e MYSQL_PORT=3306 \
     -e MYSQL_DATABASE=chatnio \
     -e MYSQL_USER=root \
     -e MYSQL_PASSWORD=chatnio123456 \
     -e REDIS_HOST=localhost \
     -e REDIS_PORT=6379 \
     -e SECRET=secret \
     -e SERVE_STATIC=true \
     programzmh/chatnio:latest

   • --сетевой хостотносится к сети, которая позволяет контейнерам Docker использовать сеть устройства, которая может быть изменена
   • -p 8000:8094Означает отображение порта машины захвата как 8000, вы можете самостоятельно изменить номер порта перед двоеточием
   • СЕКРЕТ: ключ JWT, самогенерируемая модификация случайной строки
   • SERVE_STATIC: Включать или не включать службу статических файлов (обычно это не нужно изменять, см. FAQ ниже).
   • -v ~/config:/configМонтирование файлов конфигурации. -v ~/logs:/logsКаталог азотной машины, в который монтируются файлы журнала, а также -v ~/storage:/storageМонтирование сгенерированных файлов дополнения
   • Сервисы MySQL и Redis должны быть настроены, пожалуйста, обратитесь к приведенной выше информации, чтобы изменить переменные окружения.

   Обновления версий (После открытия Watchtower вам необходимо обновить его вручную, после чего выполните указанные выше действия и запустите его снова):

   docker stop chatnio
   docker rm chatnio
   docker pull programzmh/chatnio:latest

3. ⚒ Скомпилируйте и установите (с широкими возможностями настройки)

   После успешной настройки порт по умолчанию будет8094Адрес доступаhttp://localhost:8094 Элемент конфигурации Config (~/config/ config.yaml ) можно переопределить с помощью переменных окружения, таких какMYSQL_HOSTПеременные среды могут быть переопределеныmysql.hostэлемент конфигурации

   git clone https://github.com/Deeptrain-Community/chatnio.git
   cd chatnio
   
   cd app
   npm install -g pnpm
   pnpm install
   pnpm build
   
   cd ..
   go build -o chatnio
   
   nohup ./chatnio > output.log & # using nohup to run in background