One Hub : gestion et distribution des interfaces OpenAI, prise en charge de plusieurs modèles et fonctions statistiques

Introduction générale

Le One Hub est un système de gestion de l'information basé sur le web. Une API Deuxième développement du système de gestion et de distribution de l'interface OpenAI. Développé par MartialBE pour fournir un support de modèle plus large et des statistiques améliorées, One Hub présente une nouvelle interface utilisateur avec un nouveau tableau de bord utilisateur et une interface de statistiques administrateur, ainsi qu'un module de fournisseur de transit remanié. One Hub est destiné aux développeurs et aux entreprises qui ont besoin de gérer et de distribuer des interfaces OpenAI, les aidant ainsi à utiliser et à surveiller plus efficacement un large éventail de modèles d'IA.

Liste des fonctions

• Prise en charge des appels de fonction pour un large éventail de modèles OpenAI et non OpenAI
• Nouveau tableau de bord de l'utilisateur et nouvelle interface statistique de l'administrateur
• Refonte du module du fournisseur de services de transit pour permettre le retour dynamique des listes de modèles d'utilisateurs
• Prise en charge des fonctionnalités TTS de l'émulation vocale Azure
• Prise en charge de la configuration d'un proxy http/socks5 séparé
• Prise en charge de modèles de vitesse personnalisés et enregistrement de la demande de temps écoulé
• Prise en charge du bot Telegram et du modèle de paiement à la séance
• Prise en charge des caractères génériques de modèle et du lanceur de profil
• Prise en charge de la surveillance Prometheus
• Prise en charge du paiement et de la configuration des RPM des groupes d'utilisateurs

Utiliser l'aide

Processus d'installation

1. Cloner le code du projet :

   git clone https://github.com/MartialBE/one-hub.git

2. Accédez au catalogue de projets :

   cd one-hub

3. Configurer les variables d'environnement et les dépendances :

   cp config.example.yaml config.yaml

Modifier si nécessaire config.yaml les éléments de configuration dans le fichier.

4. Démarrer avec Docker :

   docker-compose up -d

Ou utiliser l'environnement local pour démarrer :

   go run main.go

Fonctions d'utilisation

Tableau de bord de l'utilisateur

Le tableau de bord de l'utilisateur fournit une interface intuitive où les utilisateurs peuvent visualiser et gérer leurs appels API. Le tableau de bord vous permet de surveiller l'utilisation de l'API en temps réel et d'afficher des journaux d'appels et des statistiques détaillés.

Interface des statistiques de l'administrateur

L'interface statistique de l'administrateur fournit aux administrateurs un outil complet d'analyse des données. Les administrateurs peuvent visualiser les appels API pour tous les utilisateurs, générer des rapports statistiques détaillés, et optimiser et ajuster en fonction des données.

Module pour les fournisseurs de services de transport en commun

Le module Transit Provider prend en charge le retour dynamique des listes de modèles d'utilisateurs et permet de configurer des proxys http/socks5 individuels. Les administrateurs peuvent ajouter ou supprimer des fournisseurs selon les besoins et mettre en place différentes configurations de proxy afin d'optimiser les performances et la stabilité des appels API.

Azure Speech émule les fonctions TTS

One Hub prend en charge l'utilisation d'Azure Speech pour émuler la fonction TTS, ce qui permet aux utilisateurs de configurer le service Azure Speech pour générer une sortie vocale de haute qualité. La méthode de configuration est la suivante :

1. existent config.yaml pour ajouter la configuration Azure Speech :

   azure_speech:
api_key: "your_api_key"
region: "your_region"

2. Redémarrez le service One Hub pour que la configuration prenne effet.

Modèle de vitesse personnalisé et enregistrement de la demande de temps écoulé

Les utilisateurs peuvent personnaliser le modèle de vitesse dans One Hub et visualiser le temps écoulé pour chaque appel API. Grâce à ces fonctionnalités, les utilisateurs peuvent optimiser les performances du modèle et s'assurer que les appels API sont efficaces.

Prise en charge du bot Telegram et du modèle de paiement à la séance

One Hub prend en charge les notifications et la gestion via Telegram bot, ce qui permet aux utilisateurs de recevoir des notifications en temps réel des appels API sur Telegram. En outre, One Hub prend en charge le modèle de facturation à l'utilisation, ce qui permet aux utilisateurs de facturer et de gérer de manière flexible en fonction de l'utilisation.

Procédure d'utilisation détaillée

1. Après vous être connecté à One Hub, allez dans le tableau de bord de l'utilisateur pour voir les appels API.
2. Dans l'interface administrateur, ajoutez ou supprimez des fournisseurs et configurez les paramètres de l'agent.
3. Configurez le service Azure Speech pour qu'il génère une sortie vocale.
4. Personnalisez le modèle de mesure de la vitesse pour voir le temps écoulé de la demande pour les appels API.
5. Recevez des notifications via Telegram bot et gérez le modèle de paiement à l'acte.

Grâce à l'aide détaillée ci-dessus, les utilisateurs peuvent rapidement démarrer avec One Hub et profiter pleinement de ses riches fonctionnalités pour gérer et distribuer les interfaces OpenAI.