One Hub: gestión y distribución de interfaces OpenAI, soporte de múltiples modelos y funciones estadísticas.

Introducción general

One Hub es una plataforma web Una API Segundo desarrollo del sistema de gestión y distribución de interfaces de OpenAI. Desarrollado por MartialBE para ofrecer un soporte de modelos más amplio y estadísticas mejoradas, One Hub presenta una nueva interfaz de usuario con un nuevo panel de control de usuario y una interfaz de estadísticas de administrador, así como un módulo de proveedor de tránsito refactorizado. One Hub está pensado para desarrolladores y empresas que necesitan gestionar y distribuir interfaces OpenAI, ayudándoles a utilizar y supervisar una amplia gama de modelos de IA de forma más eficiente.

Lista de funciones

• Admite llamadas a funciones para una amplia gama de modelos OpenAI y no OpenAI.
• Nuevo panel de usuario e interfaz de estadísticas del administrador
• Refactorización del módulo de proveedor de tránsito para admitir la devolución dinámica de listas de modelos de usuario.
• Compatibilidad con las funciones TTS de Azure Speech Emulation
• Posibilidad de configurar un proxy http/socks5 independiente
• Compatibilidad con modelos de velocidad personalizados y registro de solicitudes de tiempo transcurrido
• Soporte para bots de Telegram y modelos de pago por visión
• Compatibilidad con comodines de modelo y lanzador de archivos de configuración
• Admite la supervisión de Prometheus
• Soporte para la configuración de pagos y grupos de usuarios RPM

Utilizar la ayuda

Proceso de instalación

1. Clona el código del proyecto:

   git clone https://github.com/MartialBE/one-hub.git

2. Vaya al catálogo de proyectos:

   cd one-hub

3. Configurar variables de entorno y dependencias:

   cp config.example.yaml config.yaml

Modifíquese en caso necesario config.yaml elementos de configuración del archivo.

4. Arranque con Docker:

   docker-compose up -d

O utiliza el entorno local para empezar:

   go run main.go

Funciones de uso

Panel de usuario

El panel de control del usuario proporciona una interfaz intuitiva en la que los usuarios pueden ver y gestionar sus llamadas a la API. El panel permite supervisar el uso de la API en tiempo real y ver registros de llamadas y estadísticas detallados.

Interfaz de estadísticas del administrador

La interfaz de estadísticas del administrador proporciona a los administradores una completa herramienta de análisis de datos. Los administradores pueden ver las llamadas a la API de todos los usuarios, generar informes estadísticos detallados y optimizar y ajustar en función de los datos.

Módulo de proveedor de tránsito

El módulo Transit Provider admite la devolución dinámica de listas de modelos de usuario y permite configurar proxies http/socks5 individuales. Los administradores pueden añadir o eliminar proveedores según sea necesario y establecer distintas configuraciones de proxy para optimizar el rendimiento y la estabilidad de las llamadas a la API.

Azure Speech emula las funciones TTS

One Hub admite el uso de Azure Speech para emular la función TTS, lo que permite a los usuarios configurar el servicio Azure Speech para generar una salida de voz de alta calidad. El método de configuración es el siguiente:

1. existe config.yaml para añadir la configuración de Azure Speech:

   azure_speech:
api_key: "your_api_key"
region: "your_region"

2. Reinicia el servicio One Hub para que la configuración surta efecto.

Modelo de velocidad personalizado y registro del tiempo transcurrido de la solicitud

Los usuarios pueden personalizar el modelo de velocidad en One Hub y ver el tiempo transcurrido de solicitud de cada llamada a la API. Con estas funciones, los usuarios pueden optimizar el rendimiento del modelo y garantizar la eficiencia de las llamadas a la API.

Soporte para bots de Telegram y modelos de pago por visión

One Hub admite notificaciones y gestión a través del bot de Telegram, donde los usuarios pueden recibir notificaciones en tiempo real de las llamadas a la API en Telegram. Además, One Hub admite el modelo de cobro por uso, lo que permite a los usuarios facturar y gestionar de forma flexible en función del uso.

Procedimiento de funcionamiento detallado

1. Después de iniciar sesión en One Hub, vaya al panel de usuario para ver las llamadas a la API.
2. En la interfaz de administrador, añada o elimine proveedores y configure los ajustes del agente.
3. Configure el servicio Azure Speech para generar salida de voz.
4. Personalice el modelo de medición de la velocidad para ver el tiempo transcurrido de solicitud de las llamadas a la API.
5. Recibe notificaciones a través del bot de Telegram y el modelo de gestión de pago por visión.

Con la ayuda detallada anterior, los usuarios pueden empezar rápidamente con One Hub y aprovechar al máximo su rica funcionalidad para gestionar y distribuir interfaces OpenAI.