Not Diamond : outil de dialogue pour un accès parallèle aux réponses à de nombreux grands modèles payants (gratuit 100 000 fois/mois)

Produits

Not Diamond est un "routeur LLM" qui automatise le processus de sélection du meilleur modèle de réponse en fonction de vos données, en choisissant le bon modèle pour la bonne question et en optimisant en permanence vos coûts d'utilisation du LLM.

Permet de régler de manière optimale un ensemble complet de "routeurs modèles LLM", ce qui permet de personnaliser les règles de routage.

Il s'agit d'un outil destiné aux développeurs.

Il propose à l'utilisateur moyen d'utiliser gratuitement 100 000 fois par mois son interface de chat AI... Pas d'erreur, vous pouvez taper 100 000 fois gratuitement, obtenir 100 000 réponses, et utiliser GPT-4o, Claude 3 Opus, Gemini 1.5 Pro, Perplexity, etc... Des modèles aussi coûteux.

Ensemble :Site miroir ChatGPT (accès domestique aux modèles de la série GPT4)

théorie

Not Diamond recommande automatiquement le meilleur modèle d'IA pour chaque message et apprend en temps réel en fonction de vos commentaires.
👍/👎 Lorsque vous aimez ou tapez sur une réponse, Not Diamond apprend immédiatement si le modèle fonctionne bien avec vos conseils et utilise vos commentaires pour améliorer les recommandations futures. Pour voir les résultats réels, vous pouvez essayer de taper sur une réponse et de poser à nouveau la même question.
✨ Vous pouvez également cliquer sur l'icône flash pour régénérer cette réponse en utilisant un modèle différent afin de comparer sa réponse.
L'utilisation de Not Diamond est 100 % gratuite. Cependant, chaque réponse LLM vous montrera les métriques pour la latence et le coût de la réponse afin que vous puissiez comparer les différences.
⚔️ Vous pouvez activer le mode Arena à tout moment pour comparer des modèles en concurrence directe.
⚙️ Vous pouvez sélectionner et désélectionner des LLM spécifiques en tant qu'options en cliquant sur l'onglet Paramètres.
✏️ Vous pouvez modifier les invites du système pour améliorer la réponse de Not Diamond à vos questions.
📄 Pour en savoir plus sur le fonctionnement de Not Diamond ou pour intégrer le routage de modèles dans votre propre application, vous pouvez cliquer sur l'icône Documentation du code.
Et voilà ! Pour commencer, essayez d'envoyer quelques messages et regardez-les être acheminés vers le bon modèle. N'oubliez pas de nous faire part de vos commentaires afin que Not Diamond puisse personnaliser l'acheminement en fonction de vos préférences.

Caractéristiques fonctionnelles

Formez votre propre routeur

Vous pouvez commencer à utiliser le routeur de base de Not Diamond en moins de cinq minutes. Si vous disposez de vos propres données d'évaluation, Not Diamond vous permet de former un routeur personnalisé optimisé pour votre cas d'utilisation.

Une vitesse à couper le souffle.

Vous aider à choisir le meilleur modèle dans le temps qu'il faut pour traiter un jeton.

Équilibrer intelligemment la qualité et le coût

Utilisation efficace de modèles plus rapides et moins chers sans compromettre la qualité.

Joint Tips Optimisation Support

La programmation des meilleurs embouts pour chaque LLM garantit que le bon modèle et les bons embouts sont toujours utilisés. Il n'est pas nécessaire de procéder à des ajustements manuels et à des expérimentations.

Interface de chat

Sélectionner le modèle

Sélectionnez le modèle qui répondra à la question, cochez le mode concurrentiel et deux modèles seront sélectionnés pour la comparaison des réponses.

Comparer et opposer les réponses

Réponse parallèle, parce que le mode compétitif est sélectionné, la réponse de sortie masquera le modèle par défaut, et le modèle correspondant sera affiché après la sélection de la réponse.

limite d'utilisation

L'introduction de trois questions et l'appel de deux grands mannequins pour répondre aux questions à chaque fois, fait passer le quota à trois reprises, ce qui représente trois cent millièmes du quota mensuel.

adresse d'accès

https://chat.notdiamond.ai/