Un lycéen a développé une grande plateforme de gestion de modèles et a gagné 100w !

Il y a eu ce lycéen qui a lancé un projet au cours du deuxième semestre de sa première année, spécifiquement pour donner à ses amis une expérience gratuite avec le modèle GPT-4.
Au cours de l'été de la huitième année, il a décidé de mettre le projet en open source et l'a officiellement baptisé Chat Nio, tout en le positionnant comme une plateforme de gestion de modèles de LLM à guichet unique.
À la fin de la neuvième année (au début de cette année), le projet Chat Nio rapportait 5 w¥ par mois.
Juste après le partiel, le projet a été acquis, et l'auteur a gagné ses premiers 100w dans la vie, tout en devenant un CTO...

Regardez ce que font les gens au collège et regardez-vous...

Sans plus attendre, jetons un coup d'œil sur Chat Nio Le projet.
En bref : Chat Nio est l'évolution ultime de Next Web et de One API.

Pourquoi avez-vous besoin de Chat Nio ? Les plates-formes commerciales actuelles de l'AIGC se répartissent en deux catégories principales :
afin de ChatGPT Next Web représente un projet de déploiement léger :
Interface utilisateur sophistiquée
✅ Déploiement personnel pratique
❌ La synchronisation du dialogue repose sur une configuration WebDav complexe
Modèle de facturation unique
❌ Manque de facilité dans le traitement des documents
❌ Absence de capacités de distribution d'API complètes
Projet de distribution de l'API représenté par One API :
✅ Forte gestion des canaux de distribution
✅ Distribution complète de l'API
❌ Absence d'interface utilisateur intuitive
❌ Le modèle de facturation favorise les utilisateurs techniques
❌ La fonctionnalité favorise l'extrémité B, l'expérience de l'extrémité C est médiocre
Chat Nio vise à être "à la fois un poisson et une volaille" - une belle interface utilisateur et une puissante fonctionnalité de back-end, une véritable solution d'affaires à guichet unique.
Le projet compte actuellement 7.2K étoiles sur GitHub et ne cesse de croître.

Les principales caractéristiques en un coup d'œil 1. Support de modèles riches
Chat Nio prend en charge les principaux modèles linguistiques, notamment
Toute la famille OpenAI (y compris Vision et Appel de fonction)
AnthropiqueClaude gamme
Google Société Internet Gémeaux & PaLM2
Voyage à mi-parcours (Prise en charge du fonctionnement U/V/R)
Modèles nationaux tels que Xunfei Starfire et Wisdom Spectrum Clear Speech
ainsi que des modèles émergents tels que Groq et LocalAI
2. gestion des canaux au niveau de l'entreprise gestion multicanal : prise en charge de la configuration d'un même modèle de plusieurs canaux en amont
Priorité : ordre d'appel des canaux personnalisable
Répartition des poids : permet d'équilibrer la charge des canaux de même priorité
Groupement d'utilisateurs : différents canaux peuvent être définis pour différents groupes d'utilisateurs
Échec de la nouvelle tentative : commutation automatique sur le canal alternatif
Redirection de modèles : prise en charge de l'aliasing et du mapping de modèles
3) Fonctionnalité commerciale complète
Modèle de double facturation :
Abonnement : forfait mensuel/annuel
Facturation flexible : paiement à l'utilisation, prise en charge des taux de change personnalisés
Codes de remboursement multiples :
Code cadeau : un seul type pour une seule fois
Code de remboursement : réutilisable, adapté à l'émission de cartes
Synchronisation et partage du dialogue :
Synchronisation transversale avec configuration zéro
Fonction de partage d'URL
Fonction d'exportation d'images
4. une excellente expérience utilisateur
Belle conception de l'interface utilisateur :
Adaptation PC/Pad/Mobile
Prise en charge des thèmes clairs et foncés
Soutien complet à l'internationalisation
Prise en charge puissante du format Markdown :
Rendus de formules LaTeX
Tableau des sirènes
Mise en évidence du code
rendu de la table
Capacités de traitement des documents :
Analyse des documents PDF, Word, PPT et autres
OCR Reconnaissance d'images
Prise en charge du stockage S3/R2/MinIO
Solutions de déploiement Chat Nio offre une variété de méthodes de déploiement pour répondre à différents scénarios, y compris Pagoda, Docker, K8S et plus encore.
Pour les étudiants sans connaissances techniques, vous n'avez pas à vous soucier de l'installation, Sealos App Store [2] fournit un déploiement en un clic des modèles d'application, le back-end s'interface avec PostgreSQL et utilise Redis comme cache, vous pouvez vous sentir libre de l'élasticité et de l'extensibilité. Et le déploiement peut se faire en un clic de souris, ce qui est très doux.
Si vous souhaitez déployer rapidement un Chat Nio sans vous embarrasser d'un processus d'installation et de configuration fastidieux, essayez Sealos.
Ouvrez directement le modèle d'application Chat Nio :
https://template.hzh.sealos.run/deploy?templateName=chatnio
Cliquez ensuite sur "Go to Sealos Deployment" dans le coin supérieur droit.
Si vous utilisez Sealos[1] pour la première fois, vous devez vous enregistrer et vous connecter à votre compte de cloud public Sealos, ce qui vous redirigera immédiatement vers la page de déploiement du modèle.
Vous n'avez pas besoin de remplir quoi que ce soit, il vous suffit de cliquer sur "Déployer l'application" dans le coin supérieur droit pour lancer le déploiement. Une fois le déploiement terminé, attendez que tous les composants deviennent "Running", puis cliquez sur "Details" pour accéder à la page de détails de l'application.

Cliquer sur l'adresse publique ouvre l'interface utilisateur de Chat Nio.

Le nom d'utilisateur par défaut est rootLe mot de passe est chatnio123456.
Après vous être connecté, suivez les invites dans le coin inférieur droit pour entrer dans l'interface de gestion de l'arrière-plan et changer votre mot de passe.

Vous pouvez également modifier diverses informations et configurations du site.

Gestion des canaux La gestion des canaux est un module fonctionnel central du système Chat Nio qui permet aux utilisateurs de configurer et de gérer de manière flexible les interfaces de plusieurs fournisseurs de services de modèles d'IA. Grâce à ce module, les utilisateurs peuvent facilement ajouter, modifier, supprimer et optimiser divers canaux d'IA pour répondre à différents besoins commerciaux et exigences de performance.
Principales caractéristiques Configuration flexible des canaux : les utilisateurs peuvent facilement ajouter et gérer plusieurs fournisseurs de services d'IA, notamment en définissant des clés API, en ajustant les paramètres du modèle et en procédant à d'autres configurations clés.
Compatibilité de format puissante : en adoptant le mode adaptateur, il réalise une compatibilité transparente avec plus de 10 types de canaux, couvrant les principaux fournisseurs de services tels que OpenAI, Anthropic, etc.
Gestion intelligente des priorités : permet de définir des priorités pour différents canaux, ce qui garantit que le système donne la priorité à l'appel des canaux hautement prioritaires et permet une allocation optimale des ressources.
Mécanisme de répartition fine des poids : parmi les canaux ayant la même priorité, la probabilité de sélection de chaque canal est contrôlée avec précision par le système de poids afin d'obtenir une répartition plus équilibrée de la charge.
Surveillance complète en temps réel : permet une surveillance détaillée en temps réel de l'état des canaux, notamment du volume de requêtes, du temps de réponse, du taux d'erreur et d'autres indicateurs clés, afin d'aider les administrateurs à se tenir au courant du fonctionnement du système.
Basculement intelligent : lorsqu'une défaillance d'un canal prioritaire est détectée, le système peut automatiquement basculer sur un canal moins prioritaire afin de garantir la continuité et la fiabilité du service.
Équilibrage de la charge entre plusieurs clés : prend en charge la configuration de plusieurs clés API au sein d'un même canal, ce qui améliore considérablement la capacité d'équilibrage de la charge et la stabilité globale du service.
Personnalisation flexible des modèles : permet aux utilisateurs d'ajouter et de configurer des modèles d'IA personnalisés pour répondre aux besoins spécifiques des entreprises et aux scénarios d'application innovants.
Contrôle fin des droits d'utilisation : permet d'adapter les droits d'accès aux canaux pour différents groupes d'utilisateurs afin d'obtenir une allocation des ressources plus sûre et plus ciblée.
Il existe deux façons d'ajouter des chaînes, soit manuellement, soit par le biais d'une synchronisation automatique en amont.
Ajout manuel de chaînesPremièrement, nous allons voir comment ajouter manuellement des chaînes en cliquant sur le bouton [Ajouter des chaînes] :

Remplir le formulaire contextuel avec des informations sur le canal, y compris le nom, le type, la priorité, le poids, les modèles pris en charge (modèles personnalisables), le mappage de modèle (voir Mécanismes de mappage de modèle ci-dessous pour une documentation spécifique), le groupement d'utilisateurs, les proxies de transmission, etc.
Remplissez les informations de configuration, telles que la clé API correspondante, en fonction des invites correspondant au type de canal sélectionné.

Si vous n'avez pas de canal existant, vous pouvez utiliser le service AI Proxy de Sealos : https://sealos.run/docs/5.0.0/user-guide/ai-proxy/
AI Proxy est une solution unique d'appel de modèles d'IA fournie par la plateforme Sealos, qui permet aux développeurs d'appeler et de gérer facilement divers modèles d'IA dans une plateforme unifiée. Qu'il s'agisse de Tongyi Qianqi, de Wenxin Yiyin ou d'autres modèles d'IA, ils peuvent tous être invoqués via une interface unifiée.
L'utilisation d'AI Proxy est très simple, tout d'abord le navigateur dans le bureau de Sealos : https://hzh.sealos.run
Ouvrez ensuite [AI Proxy] et cliquez sur le bouton [New] pour démarrer une nouvelle clé.
Après avoir créé le point de terminaison de l'API, vous verrez le point de terminaison de l'API et la clé de l'API que vous devez appeler, de sorte que vous pouvez l'utiliser en cliquant directement sur Copier.

Remplissez la configuration du canal Chat Nio avec le point de terminaison et la clé API, ainsi que le nom du modèle que vous devez ajouter au canal.
La synchronisation automatique en amont est encore plus facile, il suffit de cliquer sur [Docking Upstream] :

Prenons l'exemple du proxy AI de Sealos. Après avoir cliqué sur [Docking Upstream], un formulaire s'affiche, dans lequel il faut indiquer le point de terminaison API et la clé API de l'amont.

En cliquant sur Confirmer, vous synchronisez tous les modèles.

Cliquez ensuite sur le bouton "Confirm" dans le coin inférieur droit pour terminer l'amarrage en amont.
Je ne démontrerai pas les autres configurations, vous pouvez vous référer aux documents officiels pour les configurer vous-même : https://www.chatnio.com/docs/introduction
En résumé, il est encore assez choquant de voir un collégien fabriquer un tel produit. Chat Nio ne résout pas seulement les problèmes de la plateforme AIGC actuelle, mais rend aussi le produit si parfait - une belle interface, des fonctionnalités puissantes, etc. Il n'est pas étonnant que tant de personnes l'utilisent pour créer leurs propres plateformes d'IA.
Mais cette histoire me fait aussi penser à une question : tous les jeunes d'aujourd'hui sont-ils aussi géniaux ? Avez-vous rencontré des "jeunes doués" similaires autour de vous ? N'hésitez pas à partager vos histoires dans la section des commentaires.
D'ailleurs, si vous pensez que ce projet est bon, n'oubliez pas de donner une étoile pour soutenir cet enfant ! Peut-être seras-tu le prochain à découvrir un génie.