Единый хаб: управление и распространение интерфейсов OpenAI, поддержка множества моделей и статистических функций

Общее введение

One Hub - это веб-интерфейс. Один API Вторая разработка системы управления и распространения интерфейсов OpenAI. Разработанный компанией MartialBE для обеспечения более широкой поддержки моделей и улучшения статистики, One Hub имеет новый пользовательский интерфейс с новой панелью управления и интерфейсом статистики администратора, а также рефакторинговый модуль транзитного провайдера. Он поддерживает вызовы функций для широкого спектра моделей, включая модели, не относящиеся к OpenAI, и предоставляет богатый набор опций конфигурации и возможностей мониторинга. One Hub предназначен для разработчиков и предприятий, которым необходимо управлять и распространять интерфейсы OpenAI, помогая им более эффективно использовать и контролировать широкий спектр моделей искусственного интеллекта.

Список функций

• Поддержка вызовов функций для широкого спектра моделей OpenAI и не OpenAI
• Новая приборная панель пользователя и интерфейс статистики администратора
• Рефакторинг модуля транзитного провайдера для поддержки динамического возврата списков пользовательских моделей
• Поддержка функций Azure Speech Emulation TTS
• Поддержка настройки отдельного прокси-сервера http/socks5
• Поддержка настраиваемых моделей скорости и регистрации прошедшего времени запроса
• Telegram-бот и поддержка моделей с оплатой за просмотр
• Поддержка подстановочных знаков моделей и программы запуска профилей
• Поддержка мониторинга Prometheus
• Поддержка конфигурации ролей оплаты и групп пользователей

Использование помощи

Процесс установки

1. Клонируйте код проекта:

   git clone https://github.com/MartialBE/one-hub.git

2. Перейдите в каталог проектов:

   cd one-hub

3. Настройте переменные окружения и зависимости:

   cp config.example.yaml config.yaml

Вносите изменения по мере необходимости config.yaml элементы конфигурации в файле.

4. Загрузка с помощью Docker:

   docker-compose up -d

Или используйте локальное окружение для запуска:

   go run main.go

Функции использования

Панель управления пользователя

Пользовательская панель предоставляет интуитивно понятный интерфейс, с помощью которого пользователи могут просматривать и управлять своими вызовами API. Панель позволяет отслеживать использование API в режиме реального времени и просматривать подробные журналы вызовов и статистику.

Интерфейс статистики администратора

Интерфейс статистики администратора предоставляет администраторам комплексный инструмент анализа данных. Администраторы могут просматривать вызовы API для всех пользователей, генерировать подробные статистические отчеты, а также оптимизировать и корректировать работу на основе полученных данных.

Модуль поставщика транзитных услуг

Модуль Transit Provider поддерживает динамическое возвращение списков моделей пользователей и позволяет настраивать отдельные http/socks5-прокси. Администраторы могут добавлять или удалять провайдеров по мере необходимости и настраивать различные конфигурации прокси для оптимизации производительности и стабильности вызовов API.

Azure Speech эмулирует функции TTS

One Hub поддерживает использование Azure Speech для эмуляции функции TTS, что позволяет пользователям настраивать службу Azure Speech для создания высококачественного речевого вывода. Метод настройки выглядит следующим образом:

1. существовать config.yaml файл, чтобы добавить конфигурацию Azure Speech:

   azure_speech:
api_key: "your_api_key"
region: "your_region"

2. Перезапустите службу One Hub, чтобы конфигурация вступила в силу.

Настраиваемая модель скорости и журнал запросов прошедшего времени

Пользователи могут настраивать модель скорости в One Hub и просматривать время выполнения запроса для каждого вызова API. Благодаря этим функциям пользователи могут оптимизировать производительность модели и обеспечить эффективность вызовов API.

Telegram-бот и поддержка моделей с оплатой за просмотр

One Hub поддерживает уведомления и управление через Telegram-бота, где пользователи могут в режиме реального времени получать уведомления о вызовах API в Telegram. Кроме того, One Hub поддерживает модель тарификации по факту использования, позволяя пользователям выставлять счета и гибко управлять ими в зависимости от использования.

Подробная процедура работы

1. После входа в One Hub перейдите на панель пользователя, чтобы просмотреть вызовы API.
2. В интерфейсе администратора можно добавлять или удалять поставщиков и настраивать параметры агентов.
3. Настройте службу Azure Speech для создания речевого вывода.
4. Настройте модель измерения скорости, чтобы увидеть время, затраченное на запрос для вызовов API.
5. Получайте уведомления через Telegram-бота и моделируйте управление оплатой за просмотр.

С помощью подробной помощи, приведенной выше, пользователи смогут быстро начать работу с One Hub и воспользоваться всеми преимуществами его богатой функциональности для управления и распространения интерфейсов OpenAI.