Produkte
Not Diamond ist ein "LLM-Router", der den Prozess der Auswahl des besten Antwortmodells für Sie auf der Grundlage Ihrer Eingaben automatisiert, das richtige Modell für die richtige Frage auswählt und Ihre LLM-Nutzungskosten kontinuierlich optimiert.
Bietet die Möglichkeit, einen vollständigen Satz von "LLM-Modell-Routern" optimal abzustimmen, so dass Sie die Routingregeln individuell anpassen können.
Dies ist ein Werkzeug für Entwickler.
Er bietet dem Durchschnittsnutzer eine kostenlose 100.000-malige Nutzung seiner KI-Chat-Schnittstelle pro Monat an... Klar, man kann 100.000 Mal kostenlos tippen, 100.000 Antworten erhalten und GPT-4o, Claude 3 Opus, Gemini 1.5 Pro, Perplexity usw. verwenden... Solche großen teuren Modelle.
Ensemble:ChatGPT-Spiegelseite (inländischer Zugang zu Modellen der GPT4-Serie)
Theorie
Not Diamond empfiehlt automatisch das beste KI-Modell für jede Nachricht und lernt in Echtzeit auf der Grundlage Ihres Feedbacks.
👍/👎 Wenn dir eine Antwort gefällt oder du darauf tippst, lernt Not Diamond sofort, ob das Modell mit deinen Tipps gut zurechtkommt, und nutzt dein Feedback, um zukünftige Empfehlungen zu verbessern. Um die tatsächlichen Ergebnisse zu sehen, können Sie versuchen, auf eine Antwort zu tippen und dieselbe Frage erneut zu stellen.
Sie können auch auf das Blitzsymbol klicken, um diese Antwort mit einem anderen Modell neu zu generieren und zu vergleichen, wie es antworten würde.
📊 Not Diamond ist zu 100 % kostenlos. Jede LLM-Antwort zeigt Ihnen jedoch Kennzahlen für die Antwortlatenz und die Kosten, so dass Sie die Unterschiede vergleichen können.
⚔️ Sie können jederzeit den Arenamodus einschalten, um Modelle im direkten Wettbewerb zu vergleichen.
⚙️ Sie können bestimmte LLMs als Optionen auswählen und abwählen, indem Sie auf die Registerkarte Einstellungen klicken.
✏️ Sie können die Eingabeaufforderungen des Systems bearbeiten, um die Antwort von Not Diamond auf Ihre Fragen zu verbessern.
📄 Um mehr über die Funktionsweise von Not Diamond zu erfahren oder das Modellrouting in Ihre eigene Anwendung zu integrieren, klicken Sie auf das Symbol für die Code-Dokumentation.
Das war's! Versuchen Sie zunächst, einige Nachrichten zu versenden und beobachten Sie, wie sie an das richtige Modell weitergeleitet werden. Vergessen Sie nicht, uns Ihr Feedback zu geben, damit Not Diamond die Weiterleitung nach Ihren Wünschen anpassen kann.
Funktionelle Merkmale
Trainieren Sie Ihren eigenen Router
Sie können mit dem Basisrouter von Not Diamond in weniger als fünf Minuten loslegen. Wenn Sie über eigene Auswertungsdaten verfügen, können Sie mit Not Diamond einen individuellen Router trainieren, der für Ihren Anwendungsfall optimiert ist.
Atemberaubende Geschwindigkeit.
Wir helfen Ihnen bei der Auswahl des besten Modells in der Zeit, die für die Bearbeitung eines Tokens benötigt wird.
Intelligente Balance zwischen Qualität und Kosten
Effizienter Einsatz von schnelleren, billigeren Modellen ohne Qualitätseinbußen.
Gemeinsame Tipps zur Optimierung der Unterstützung
Die Programmierung der besten Spitzen für jedes LLM gewährleistet, dass immer das richtige Modell und die richtigen Spitzen verwendet werden. Manuelle Einstellungen und Experimente sind nicht erforderlich.
Chat-Schnittstelle
Modell auswählen
Wählen Sie das Modell aus, das die Frage beantwortet, kreuzen Sie den Wettbewerbsmodus an, und aus den Modellen werden zwei für den Antwortvergleich ausgewählt
Antworten vergleichen und gegenüberstellen
Parallele Antwort, da der Wettbewerbsmodus ausgewählt ist, so dass die Ausgabeantwort das Modell standardmäßig ausblendet und das entsprechende Modell nach Auswahl der Antwort angezeigt wird
Nutzungsgrenze
Durch die Eingabe von drei Fragen und den Aufruf von zwei großen Modellen zur Beantwortung der Fragen wird das Kontingent dreimal in Anspruch genommen, was drei Hunderttausendstel des monatlichen Kontingents ausmacht.
