CoAI.Dev (Chat Nio) : solution unique de B/C pour les applications d'agrégation d'IA avec une facturation flexible et la prise en charge d'un modèle de plan d'abonnement

Introduction générale

CoAI.Dev (anciennement Chat Nio) est une plateforme de chat qui intègre de multiples modèles d'IA avec un support pour le streaming distribué, la génération d'images, la synchronisation et le partage de conversations entre appareils. Elle met en œuvre un système d'abonnement et de facturation par jeton, un service de transit de clés et un support multi-modèle, et comprend également une recherche en réseau et un générateur de projets d'IA. La plateforme est un projet open source, qui fournit une documentation détaillée sur l'API et un SDK multilingue à l'usage des développeurs et du développement secondaire.

Dev (anciennement Chat Nio) est en train d'être revitalisé après un processus d'acquisition de plusieurs mois, et je continuerai à diriger le développement de ce projet, avec un nouveau produit qui sera lancé dans un avenir proche, dédié à la création de la prochaine génération de solutions open source, de qualité commerciale, à guichet unique pour LLM !

La nouvelle feuille de route open source prévoit de synchroniser RAG, Digital People, Payment, TTS & STT, API Gateway, Model Healthiness Monitoring, support for Agent Workflow, Realtime, Team Collaboration et d'autres fonctionnalités de pointe !

Liste des fonctions

Prise en charge de plusieurs modèles d'IA : OpenAI, Claude, Xunfei Starfire, etc.
diffusion en continu distribuée
Génération d'images
Le chat est automatiquement synchronisé et partagé sur tous les appareils
Système de facturation flexible à jetons
Service de transport en commun clé
Prise en charge de l'agrégation multimodèle
Fonction de recherche de réseau
Générateur de projets d'IA
Génération d'articles par lots par l'IA

Utiliser l'aide

Modèle visuel d'image riche

Prise en charge des modèles Vision, ainsi que des téléchargements directs d'images et de la possibilité de saisir des liens directs vers des images ou des images Base64 (par exemple, des modèles tels que GPT-4 Vision Preview, Gemini Pro Vision, etc.)
Prise en charge du tracé du modèle DALL-E
Prise en charge des opérations Imagine / Upscale / Variant / Reroll pour les modèles Midjourney / Niji.

Prise en charge du format Markdown

Prend en charge les modes sombre et clair, la mise en évidence du code, les formules LaTeX, les tableaux, les barres de détail, les messages virtuels et bien plus encore !

Fonction de mémorisation des dialogues

Synchronisation dans le nuage, prise en charge du lien direct entre le site et le dialogue de partage, prise en charge de l'utilisation du dialogue de partage, sauvegarde du dialogue de partage sous forme d'image, prise en charge de la gestion du partage (prise en charge de la visualisation, de la suppression du partage et d'autres opérations).

Recherche web DuckDuckGo

Modèle complet de DuckDuckGo Ethernet pour la fonctionnalité de recherche(Voir le projet pour plus de détailsduckduckgo-api Il faut que le téléphone mobile soit construit et configuré dans les paramètres du système dans les paramètres Ethernet.

commande de préréglage

adjuvantPreset Presetrépondre en chantantsynchronisation dans le nuageFonctionnalités, prise en charge des clones prédéfinis, paramètres prédéfinis de l'avatar, prise en charge des paramètres prédéfinis du profil

Gestion du back-office

Comprend des informations sur les crédits du jour et du mois en cours, le nombre d'abonnés, des graphiques linéaires sur les statistiques d'utilisation des modèles, une analyse par diagramme circulaire, des statistiques sur les revenus, des statistiques sur les types d'utilisateurs, des statistiques sur l'utilisation des modèles, des graphiques sur le nombre de demandes et le nombre d'erreurs des modèles, etc.

Déploiement Docker

Une fois la configuration réussie, le compte de l'administrateur estrootle mot de passe est par défautchatnio123456

1. ⚡ Installation de Docker Compose (recommandée)

   Après une exécution réussie, l'adresse de mappage de la machine suivante esthttp://localhost:8000

   git clone --depth=1 --branch=main --single-branch https://github.com/Deeptrain-Community/chatnio.git
   cd chatnio
   docker-compose up -d # 运行服务
   # 如需使用 stable 版本, 请使用 docker-compose -f docker-compose.stable.yaml up -d 替代
   # 如需使用 watchtower 自动更新, 请使用 docker-compose -f docker-compose.watch.yaml up -d 替代

   Mises à jour des versions (Mise à jour manuelle nécessaire si la mise à jour automatique de la Tour de Garde est activée) :

   docker-compose down 
   docker-compose pull
   docker-compose up -d

   • Répertoire de montage de la base de données MySQL projet ~/ db
   • Répertoire de montage de la base de données Redis projet ~/ redis
   • Répertoire de montage des fichiers de configuration projet ~/ config

2. ⚡ Installation Docker (exécution légère, couramment utilisée pour les configurations externes).MYSQL/RDSservices)

   Si vous utilisez la version stable, utilisez l'optionprogramzmh/chatnio:stablealternativeprogramzmh/chatnio:latest

   docker run -d --name chatnio \
     --network host \
     -p 8000:8094 \
     -v ~/config:/config \
     -v ~/logs:/logs \
     -v ~/storage:/storage \
     -e MYSQL_HOST=localhost \
     -e MYSQL_PORT=3306 \
     -e MYSQL_DATABASE=chatnio \
     -e MYSQL_USER=root \
     -e MYSQL_PASSWORD=chatnio123456 \
     -e REDIS_HOST=localhost \
     -e REDIS_PORT=6379 \
     -e SECRET=secret \
     -e SERVE_STATIC=true \
     programzmh/chatnio:latest

   • --network hostfait référence au réseau qui permet aux conteneurs Docker d'utiliser le réseau de l'appareil, qui peut être modifié.
   • -p 8000:8094Le port de la machine de capture est 8000. Vous pouvez modifier vous-même le numéro de port avant les deux points.
   • SECRET : clé JWT, modification d'une chaîne aléatoire autogénérée
   • SERVE_STATIC : Activer ou non le service de fichiers statiques (normalement, il n'est pas nécessaire de modifier ce paramètre, voir la FAQ ci-dessous).
   • -v ~/config:/configMontage des fichiers de configuration. -v ~/logs:/logsLe répertoire de la machine à azote où sont montés les fichiers journaux, le répertoire de la machine à azote où sont montés les fichiers journaux. -v ~/storage:/storageMontage des fichiers générés par le module complémentaire
   • Les services MySQL et Redis doivent être configurés, veuillez vous référer aux informations ci-dessus pour modifier les variables d'environnement.

   Mises à jour des versions (Après avoir ouvert Watchtower, vous devez le mettre à jour manuellement. Après l'avoir exécuté, suivez les étapes ci-dessus et exécutez-le à nouveau.) :

   docker stop chatnio
   docker rm chatnio
   docker pull programzmh/chatnio:latest

3. ⚒ Compilation et installation (hautement personnalisable)

   Après une configuration réussie, le port par défaut est8094L'adresse d'accès esthttp://localhost:8094 Élément de configuration Config (~/config/ config.yaml ) peuvent être remplacées par des variables d'environnement telles queMYSQL_HOSTLes variables d'environnement peuvent être remplacéesmysql.hostélément de configuration

   git clone https://github.com/Deeptrain-Community/chatnio.git
   cd chatnio
   
   cd app
   npm install -g pnpm
   pnpm install
   pnpm build
   
   cd ..
   go build -o chatnio
   
   nohup ./chatnio > output.log & # using nohup to run in background