7K star: Ein Gymnasiast entwickelte eine große Modellmanagement-Plattform und verdiente 100w!

Es gab einen Gymnasiasten, der im zweiten Semester seines ersten Schuljahres ein Projekt initiierte, um seinen Freunden eine kostenlose Erfahrung mit dem GPT-4-Modell zu ermöglichen.
Im Sommer des achten Jahres beschloss er, das Projekt als Open Source zu veröffentlichen und nannte es offiziell Chat Nio.
Am Ende von Jahr 9 (Anfang dieses Jahres) verdiente das Chat Nio-Projekt ¥5w pro Monat.
Gleich nach der Halbzeit wurde das Projekt übernommen, und der Autor verdiente seine ersten 100w im Leben, während er CTO wurde...

Sieh dir an, was die Leute in der Mittelstufe machen, und sieh dich selbst an...

Werfen wir ohne weiteres einen Blick auf Chat Nio Projektieren Sie es.
Kurz gesagt: Chat Nio ist die ultimative Weiterentwicklung von Next Web und One API.

Warum brauchen Sie Chat Nio? Die derzeitigen AIGC-Geschäftsplattformen fallen in zwei Hauptkategorien:
um ChatGPT Next Web ist ein leichtgewichtiges Entwicklungsprojekt:
✅ Anspruchsvolle Benutzeroberfläche
✅ Bequemer persönlicher Einsatz
❌ Dialogsynchronisation beruht auf komplexer WebDav-Konfiguration
❌ Einzelabrechnungsmodell
❌ Mangel an einfacher Handhabung der Dokumente
❌ Mangel an vollständigen API-Vertriebsmöglichkeiten
API-Verteilungsprojekt, vertreten durch One API:
✅ Starkes Kanalmanagement
✅ Vollständige API-Verteilung
❌ Fehlen einer intuitiven Benutzeroberfläche
❌ Abrechnungsmodell begünstigt technische Nutzer
❌ Die Funktionalität begünstigt die B-Seite, die Erfahrung auf der C-Seite ist schlecht
Chat Nio will "Fisch und Vogel" sein - eine schöne Benutzeroberfläche und leistungsstarke Backend-Funktionalität, eine echte One-Stop-Business-Lösung.
Das Projekt hat derzeit 7,2K Sterne auf GitHub und wächst weiter.

Die wichtigsten Funktionen auf einen Blick 1. umfangreiche Modellunterstützung
Chat Nio unterstützt die wichtigsten großen Sprachmodelle, einschließlich:
OpenAI Full Series (mit Vision und Funktionsaufruf)
Anthropisch Claude Bereich
Google Internet-Unternehmen Zwillinge & PaLM2
Midjourney (unterstützt U/V/R-Betrieb)
Einheimische Modelle wie Xunfei Starfire und Wisdom Spectrum Clear Speech
sowie aufkommende Modelle wie Groq und LocalAI
2) Kanalmanagement auf Unternehmensebene Multi-Channel-Management: Unterstützung der gleichen Modellkonfiguration für mehrere Upstream-Kanäle
Prioritätseinstellung: anpassbare Reihenfolge der Kanalrufe
Gewichtsverteilung: unterstützt den Lastausgleich von Kanälen gleicher Priorität
Benutzergruppierung: Für verschiedene Benutzergruppen können unterschiedliche Kanäle eingestellt werden
Wiederholungsversuch fehlgeschlagen: schaltet automatisch auf einen anderen Kanal um
Modellumlenkung: Unterstützung für Modell-Aliasing und Mapping
3. volle Business-Funktionalität
Modell der doppelten Rechnungsstellung:
Abonnement: Monatliches/jährliches Abonnement zum Festpreis
Flexible Abrechnung: Pay-as-you-go, Unterstützung für kundenspezifische Wechselkurse
Mehrere Tilgungscodes:
Geschenkcode: eine Art, nur einmalig
Einlösecode: wiederverwendbar, geeignet für die Ausgabe von Karten
Synchronisierung und gemeinsame Nutzung von Dialogen:
Cross-End-Synchronisation mit Null-Konfiguration
URL-Freigabefunktion
Bild exportieren Funktion
4. hervorragende Nutzererfahrung
Schönes UI-Design:
PC/Pad/Mobil-Anpassung
Unterstützt sowohl helle als auch dunkle Themen
Umfassende Unterstützung bei der Internationalisierung
Leistungsstarke Markdown-Unterstützung:
LaTeX-Formel-Rendering
Nixen-Karte
Code-Hervorhebung
Tabellendarstellung
Möglichkeiten der Dokumentenverarbeitung:
Analyse von PDF, Word, PPT und anderen Dokumenten
OCR-Bilderkennung
Unterstützung für S3/R2/MinIO-Speicher
Bereitstellungsoptionen Chat Nio bietet eine Vielzahl von Bereitstellungsmethoden für unterschiedliche Szenarien, einschließlich Pagoda, Docker, K8S und mehr.
Studenten ohne technischen Hintergrund brauchen sich nicht um die Installation zu kümmern. Der Sealos App Store [2] bietet eine Ein-Klick-Bereitstellung von Anwendungsvorlagen, das Back-End hat eine Schnittstelle zu PostgreSQL und verwendet Redis als Cache, so dass Elastizität und Skalierbarkeit gewährleistet sind. Und die Bereitstellung kann mit einem Mausklick erfolgen, was sehr geschmeidig ist.
Wenn Sie einen Chat Nio schnell bereitstellen und sich nicht in einem langwierigen Installations- und Konfigurationsprozess verzetteln möchten, sollten Sie Sealos ausprobieren.
Öffnen Sie die Chat Nio-Anwendungsvorlage direkt:
https://template.hzh.sealos.run/deploy?templateName=chatnio
Klicken Sie dann in der oberen rechten Ecke auf "Go to Sealos Deployment".
Wenn Sie Sealos[1] zum ersten Mal nutzen, müssen Sie sich registrieren und bei Ihrem Sealos-Konto für die öffentliche Cloud anmelden, woraufhin Sie sofort zur Bereitstellungsseite der Vorlage weitergeleitet werden.
Sie brauchen nichts auszufüllen, klicken Sie einfach auf "Anwendung bereitstellen" in der oberen rechten Ecke, um die Bereitstellung zu starten. Sobald die Bereitstellung abgeschlossen ist, warten Sie, bis alle Komponenten in Betrieb sind, und klicken dann auf "Details", um die Detailseite der Anwendung aufzurufen.

Ein Klick auf die öffentliche Adresse öffnet die Benutzeroberfläche von Chat Nio.

Der Standard-Benutzername lautet WurzelDas Kennwort lautet chatnio123456.
Folgen Sie nach der Anmeldung den Aufforderungen in der unteren rechten Ecke, um die Hintergrundverwaltungsoberfläche aufzurufen und Ihr Passwort zu ändern.

Sie können auch verschiedene Informationen und Konfigurationen der Website ändern.

Channel Management Channel Management ist ein zentrales Funktionsmodul im Chat Nio System, das es den Nutzern ermöglicht, die Schnittstellen mehrerer KI-Modell-Dienstleister flexibel zu konfigurieren und zu verwalten. Mit diesem Modul können Benutzer verschiedene KI-Kanäle einfach hinzufügen, bearbeiten, löschen und optimieren, um unterschiedliche Geschäftsanforderungen und Leistungsanforderungen zu erfüllen.
Hauptfunktionen Flexible Kanalkonfiguration: Benutzer können problemlos mehrere KI-Dienstanbieter hinzufügen und verwalten, einschließlich der Festlegung von API-Schlüsseln, der Anpassung von Modellparametern und anderer wichtiger Konfigurationen.
Leistungsstarke Formatkompatibilität: Durch die Annahme des Adaptermodus wird eine nahtlose Kompatibilität mit mehr als 10 Kanaltypen erreicht, die Mainstream-Dienstanbieter wie OpenAI, Anthropic usw. abdeckt, was die Skalierbarkeit und Anpassungsfähigkeit des Systems erheblich verbessert.
Intelligentes Prioritätsmanagement: Ermöglicht die Festlegung von Prioritäten für verschiedene Kanäle, um sicherzustellen, dass das System Anrufe von Kanälen mit hoher Priorität bevorzugt behandelt und eine optimale Ressourcenzuweisung erreicht.
Feiner Gewichtsverteilungsmechanismus: Bei Kanälen mit gleicher Priorität wird die Wahrscheinlichkeit, dass jeder Kanal ausgewählt wird, durch das Gewichtungssystem genau gesteuert, um eine ausgewogenere Lastverteilung zu erreichen.
Umfassende Echtzeit-Überwachung: Bietet detaillierte Echtzeit-Überwachung des Kanalstatus, einschließlich Anforderungsvolumen, Antwortzeit, Fehlerrate und anderer Schlüsselindikatoren, damit Administratoren über den Systembetrieb auf dem Laufenden bleiben.
Intelligentes Failover: Wenn ein Ausfall eines Kanals mit hoher Priorität erkannt wird, kann das System automatisch auf einen Kanal mit niedriger Priorität umschalten, um die Kontinuität und Zuverlässigkeit der Dienste zu gewährleisten.
Lastausgleich mit mehreren Schlüsseln: Unterstützt die Konfiguration mehrerer API-Schlüssel innerhalb eines einzigen Kanals, was die Lastausgleichsfähigkeit und die allgemeine Dienststabilität erheblich verbessert.
Flexible Modellanpassung: Bietet Benutzern die Möglichkeit, benutzerdefinierte KI-Modelle hinzuzufügen und zu konfigurieren, um spezifische Geschäftsanforderungen und innovative Anwendungsszenarien zu erfüllen.
Fein abgestufte Kontrolle der Benutzerrechte: unterstützt maßgeschneiderte Kanalzugriffsrechte für verschiedene Benutzergruppen, um eine sichere und gezielte Ressourcenzuweisung zu erreichen.
Es gibt zwei Möglichkeiten, Kanäle hinzuzufügen, entweder manuell oder durch automatische Upstream-Synchronisation.
Manuelles Hinzufügen von KanälenZunächst wollen wir uns das manuelle Hinzufügen von Kanälen ansehen, indem wir auf die Schaltfläche [Kanäle hinzufügen] klicken:

Füllen Sie das Pop-up-Formular mit Kanalinformationen aus, einschließlich Name, Typ, Priorität, Gewicht, unterstützte Modelle (anpassbare Modelle), Modellzuordnung (siehe Modellzuordnungsmechanismen unten für spezifische Dokumentation), Benutzergruppen, Weiterleitungsproxys usw.
Geben Sie die Konfigurationsinformationen wie z. B. den entsprechenden API-Schlüssel entsprechend den Aufforderungen für den ausgewählten Kanaltyp ein.

Wenn Sie keinen bestehenden Kanal haben, können Sie den AI-Proxy-Service von Sealos nutzen: https://sealos.run/docs/5.0.0/user-guide/ai-proxy/
AI Proxy ist eine Lösung zum Aufrufen von KI-Modellen aus einer Hand, die von der Sealos-Plattform bereitgestellt wird und die es Entwicklern ermöglicht, verschiedene KI-Modelle auf einer einheitlichen Plattform aufzurufen und zu verwalten. Ob Tongyi Qianqi, Wenxin Yiyin oder andere KI-Modelle, sie alle können über eine einheitliche Schnittstelle aufgerufen werden.
Die Nutzung von AI Proxy ist sehr einfach, zunächst muss der Browser in den Sealos Desktop: https://hzh.sealos.run
Öffnen Sie dann [AI Proxy] und klicken Sie auf die Schaltfläche [Neu], um einen neuen Schlüssel zu erstellen.
Nach dem Erstellen des API-Endpunkts werden der API-Endpunkt und der API-Schlüssel, den Sie aufrufen müssen, angezeigt, so dass Sie ihn durch Klicken auf Kopieren direkt verwenden können.

Füllen Sie die Konfiguration des Chat Nio-Kanals mit dem API-Endpunkt und dem API-Schlüssel sowie dem Namen des Modells aus, das Sie dem Kanal hinzufügen möchten.
Bei der automatischen Upstream-Synchronisierung ist dies noch einfacher, klicken Sie einfach auf [Andocken Upstream]:

Nehmen Sie den AI Proxy von Sealos als Beispiel. Nachdem Sie auf [Docking Upstream] geklickt haben, erscheint ein Formular, in das Sie den API-Endpunkt und den API-Schlüssel des Upstreams eingeben.

Wenn Sie auf Bestätigen klicken, werden alle Modelle synchronisiert.

Klicken Sie dann auf die Schaltfläche Bestätigen in der rechten unteren Ecke, um das Andocken an den Fluss abzuschließen.
Ich werde die anderen Konfigurationen nicht demonstrieren, Sie können sich auf die offiziellen Dokumente beziehen, um selbst zu konfigurieren: https://www.chatnio.com/docs/introduction
Zusammenfassend lässt sich sagen, dass es immer noch ziemlich schockierend ist, dass ein Gymnasiast ein solches Produkt entwickelt. Chat Nio löst nicht nur die Probleme der aktuellen AIGC-Plattform, sondern macht das Produkt auch so perfekt - eine schöne Oberfläche, leistungsstarke Funktionen und so weiter. Kein Wunder, dass so viele Leute es nutzen, um ihre eigenen KI-Plattformen zu entwickeln.
Aber diese Geschichte lässt mich auch an eine Frage denken: Sind heutzutage alle jungen Menschen so toll? Habt ihr ähnliche "begabte Jugendliche" in eurer Umgebung getroffen? Erzählen Sie uns Ihre Geschichten in den Kommentaren.
Übrigens, wenn du dieses Projekt gut findest, vergiss nicht, einen Stern zu geben, um dieses Kind zu unterstützen! Vielleicht bist du der nächste, der ein Genie entdeckt.

Der Leitfaden für Laien zum Einstieg in die KI

Hilft Ihnen, die Nutzung von KI-Tools kostengünstig und von Null an zu erlernen.KI ist, wie Bürosoftware, eine wesentliche Fähigkeit für jeden. Die Beherrschung von KI verschafft Ihnen einen Vorteil bei der Stellensuche und die Hälfte des Aufwands bei Ihrer zukünftigen Arbeit und Ihrem Studium.

Details ansehen>