CoAI.Dev (Chat Nio): B/C-Lösung aus einer Hand für KI-Aggregationsanwendungen mit flexibler Abrechnung und Unterstützung von Abonnementmodellen

Allgemeine Einführung

CoAI.Dev (ehemals Chat Nio) ist eine Chat-Plattform, die mehrere KI-Modelle mit Unterstützung für verteiltes Streaming, Bilderzeugung, geräteübergreifende Gesprächssynchronisation und -teilung integriert. Sie implementiert ein Abonnement- und Token-Abrechnungssystem, einen Schlüsseltransitservice und Unterstützung für mehrere Modelle und umfasst auch eine vernetzte Suche und einen KI-Projektgenerator. Die Plattform ist ein Open-Source-Projekt, das eine ausführliche API-Dokumentation und ein mehrsprachiges SDK für Entwickler bereitstellt, um die Entwicklung zu unterstützen.

Dev (ehemals Chat Nio) wird nach einem monatelangen Übernahmeprozess wiederbelebt, und ich werde weiterhin die Entwicklung dieses Projekts leiten, wobei in naher Zukunft ein neues Produkt auf den Markt gebracht werden soll, das sich der Schaffung der nächsten Generation von Open-Source-Lösungen mit kommerzieller Qualität und aus einer Hand für LLM widmet!

Die neue Open-Source-Roadmap sieht die Synchronisierung von RAG, Digital People, Payment, TTS & STT, API Gateway, Model Healthiness Monitoring, Unterstützung für Agent Workflow, Realtime, Team Collaboration und weitere innovative Features vor!

Funktionsliste

Unterstützt mehrere KI-Modelle: OpenAI, Claude, Xunfei Starfire, etc.
verteiltes Streaming
Bilderzeugung
Der Chat wird automatisch synchronisiert und für alle Geräte freigegeben
Flexibles Token-Abrechnungssystem
Schlüssel Transit Service
Unterstützung für Multi-Modell-Aggregation
Netzwerk-Suchfunktion
AI-Projekt-Generator
AI-Batch-Artikelerstellung

Hilfe verwenden

Bildreiches visuelles Modell

Unterstützung für Vision-Modelle sowie Unterstützung für direkte Bild-Uploads und die Möglichkeit, direkte Bild-Links oder Base64-Bilder einzugeben (z. B. Modelle wie GPT-4 Vision Preview, Gemini Pro Vision usw.)
Unterstützt das Plotten von DALL-E-Modellen
Unterstützt Imagine / Upscale / Variant / Reroll Operationen für Midjourney / Niji Modelle.

Markdown-Unterstützung

Unterstützt dunkle und helle Modi, Codehervorhebung, LaTeX-Formeln, Tabellen, Detailleisten, virtuelle Nachrichten und mehr!

Dialogspeicherfunktion

Cloud-Synchronisation, Unterstützung Website direkten Link Sharing-Dialog, Unterstützung der Verwendung von Sharing-Dialog, Sharing-Dialog als Bild gespeichert, Unterstützung für die Freigabe-Management (Unterstützung für die Anzeige, Löschen von Sharing und andere Operationen)

DuckDuckGo Websuche

Vollständige DuckDuckGo-Ethernet-Unterstützung für Suchfunktionen(Einzelheiten sind dem Projekt zu entnehmenduckduckgo-api , müssen Handy zu bauen und in den Systemeinstellungen in Ethernet-Einstellungen einrichten

voreingestellter Befehl

etw. unterstützenVoreinstellung Voreinstellungim Gesang antwortenCloud-SynchronisationFunktionen, Unterstützung für voreingestellte Klone, voreingestellte Avatar-Einstellungen, Unterstützung für voreingestellte Profileinstellungen

Back-Office-Verwaltung

Enthält Informationen über den aktuellen Tag und den Monat der Gutschrift, Abonnentenzahlen, Liniendiagramme der Modellnutzungsstatistiken, Kuchendiagramm-Analysen, Umsatzstatistiken, Nutzertyp-Statistiken, Modellnutzungsstatistiken, Diagramme über die Anzahl der Anfragen und die Anzahl der Modellfehler, usw.

Docker-Bereitstellung

Nach erfolgreicher Konfiguration ist das Administratorkontorootwird das Passwort standardmäßig aufchatnio123456

1. ⚡ Installation von Docker Compose (empfohlen)

   Nach einem erfolgreichen Durchlauf lautet die nächste Maschinenabbildungsadressehttp://localhost:8000

   git clone --depth=1 --branch=main --single-branch https://github.com/Deeptrain-Community/chatnio.git
   cd chatnio
   docker-compose up -d # 运行服务
   # 如需使用 stable 版本, 请使用 docker-compose -f docker-compose.stable.yaml up -d 替代
   # 如需使用 watchtower 自动更新, 请使用 docker-compose -f docker-compose.watch.yaml up -d 替代

   Versions-Updates (Manuelle Aktualisierung erforderlich, wenn die automatische Watchtower-Aktualisierung aktiviert ist):

   docker-compose down 
   docker-compose pull
   docker-compose up -d

   • MySQL-Datenbank-Mount-Verzeichnis Projekt ~/ db
   • Redis-Datenbank-Mount-Verzeichnis Projekt ~/ redis
   • Konfigurationsdatei Mountverzeichnis Projekt ~/ Konfiguration

2. ⚡ Docker-Installation (leichte Laufzeit, üblicherweise für externe Installationen verwendet)MYSQL/RDSDienstleistungen)

   Wenn Sie die stabile Version verwenden, benutzen Sie dieprogramzmh/chatnio:stablealternativprogramzmh/chatnio:latest

   docker run -d --name chatnio \
     --network host \
     -p 8000:8094 \
     -v ~/config:/config \
     -v ~/logs:/logs \
     -v ~/storage:/storage \
     -e MYSQL_HOST=localhost \
     -e MYSQL_PORT=3306 \
     -e MYSQL_DATABASE=chatnio \
     -e MYSQL_USER=root \
     -e MYSQL_PASSWORD=chatnio123456 \
     -e REDIS_HOST=localhost \
     -e REDIS_PORT=6379 \
     -e SECRET=secret \
     -e SERVE_STATIC=true \
     programzmh/chatnio:latest

   • --network hostbezieht sich auf das Netzwerk, das es Docker-Containern ermöglicht, das Netzwerk des Geräts zu nutzen, das geändert werden kann
   • -p 8000:8094Bezieht sich auf die Zuordnung des Ports der Erfassungsmaschine als 8000, Sie können die Portnummer vor dem Doppelpunkt selbst ändern
   • SECRET: JWT-Schlüssel, selbst generierte zufällige String-Modifikation
   • SERVE_STATIC: Ob der statische Dateidienst aktiviert werden soll oder nicht (normalerweise muss dies nicht geändert werden, siehe FAQ unten)
   • -v ~/config:/configEinhängen von Konfigurationsdateien. -v ~/logs:/logsDas Verzeichnis der Stickstoffmaschine, in dem die Protokolldateien gemountet sind, das -v ~/storage:/storageEinhängen der generierten Dateien des Add-ons
   • Die Dienste MySQL und Redis müssen konfiguriert werden. Bitte beachten Sie die obigen Informationen, um die Umgebungsvariablen zu ändern.

   Versions-Updates (Nachdem Sie Watchtower geöffnet haben, müssen Sie ihn manuell aktualisieren. Führen Sie anschließend die oben genannten Schritte aus und starten Sie ihn erneut):

   docker stop chatnio
   docker rm chatnio
   docker pull programzmh/chatnio:latest

3. ⚒ Kompilieren und Installieren (stark anpassbar)

   Nach erfolgreicher Konfiguration lautet der Standardanschluss8094Die Zugangsadresse lautethttp://localhost:8094 Konfigurationselement Config (~/config/ config.yaml ) kann durch Umgebungsvariablen wieMYSQL_HOSTUmgebungsvariablen können außer Kraft gesetzt werdenmysql.hostKonfigurationsobjekt

   git clone https://github.com/Deeptrain-Community/chatnio.git
   cd chatnio
   
   cd app
   npm install -g pnpm
   pnpm install
   pnpm build
   
   cd ..
   go build -o chatnio
   
   nohup ./chatnio > output.log & # using nohup to run in background