Um Hub: gerenciamento e distribuição de interfaces OpenAI, com suporte a vários modelos e funções estatísticas

Introdução geral

O One Hub é um aplicativo baseado na web Uma API Segundo desenvolvimento do sistema de distribuição e gerenciamento de interface OpenAI. Desenvolvido pela MartialBE para oferecer suporte a modelos mais amplos e estatísticas aprimoradas, o One Hub apresenta uma nova interface de usuário com um novo painel de controle e uma interface de estatísticas de administrador, além de um módulo de provedor de trânsito refatorado. Ele oferece suporte a chamadas de função para uma ampla variedade de modelos, incluindo modelos que não são da OpenAI, e fornece um conjunto avançado de opções de configuração e recursos de monitoramento. O One Hub é destinado a desenvolvedores e empresas que precisam gerenciar e distribuir interfaces da OpenAI, ajudando-os a usar e monitorar uma ampla variedade de modelos de IA com mais eficiência.

Lista de funções

• Oferece suporte a chamadas de função para uma ampla gama de modelos OpenAI e não OpenAI
• Novo painel de controle do usuário e interface de estatísticas do administrador
• Refatoração do módulo do provedor de trânsito para oferecer suporte ao retorno dinâmico das listas de modelos de usuários
• Suporte aos recursos de TTS da emulação de fala do Azure
• Suporte para configuração de um proxy http/socks5 separado
• Suporte para modelos de velocidade personalizados e solicitação de registro de tempo decorrido
• Suporte ao bot do Telegram e ao modelo pay per view
• Suporte para curingas de modelos e lançador de arquivos de configuração
• Oferece suporte ao monitoramento do Prometheus
• Suporte para pagamento e configuração de RPM de grupo de usuários

Usando a Ajuda

Processo de instalação

1. Clone o código do projeto:

   git clone https://github.com/MartialBE/one-hub.git

2. Vá para o catálogo de projetos:

   cd one-hub

3. Configurar variáveis de ambiente e dependências:

   cp config.example.yaml config.yaml

Modificar conforme necessário config.yaml itens de configuração no arquivo.

4. Inicialização com o Docker:

   docker-compose up -d

Ou use o ambiente local para iniciar:

   go run main.go

Funções de uso

Painel de controle do usuário

O painel do usuário oferece uma interface intuitiva na qual os usuários podem visualizar e gerenciar suas chamadas de API. O painel permite monitorar o uso da API em tempo real e visualizar registros de chamadas e estatísticas detalhadas.

Interface de estatísticas do administrador

A interface de estatísticas do administrador oferece aos administradores uma ferramenta abrangente de análise de dados. Os administradores podem visualizar chamadas de API para todos os usuários, gerar relatórios estatísticos detalhados e otimizar e ajustar com base nos dados.

Módulo de provedor de trânsito

O módulo Transit Provider oferece suporte ao retorno dinâmico de listas de modelos de usuários e permite a configuração de proxies http/socks5 individuais. Os administradores podem adicionar ou remover provedores conforme necessário e definir diferentes configurações de proxy para otimizar o desempenho e a estabilidade das chamadas de API.

O Azure Speech emula os recursos de TTS

O One Hub oferece suporte ao uso do Azure Speech para emular o recurso TTS, que permite aos usuários configurar o serviço Azure Speech para gerar saída de fala de alta qualidade. O método de configuração é o seguinte:

1. existir config.yaml para adicionar a configuração do Azure Speech:

   azure_speech.
api_key: "sua_api_key"
região: "sua_região"

2. Reinicie o serviço do One Hub para que a configuração tenha efeito.

Modelo de velocidade personalizado e tempo decorrido de solicitação de registro

Os usuários podem personalizar o modelo de velocidade no One Hub e visualizar o tempo decorrido da solicitação para cada chamada de API. Com esses recursos, os usuários podem otimizar o desempenho do modelo e garantir que as chamadas de API sejam eficientes.

Suporte ao bot do Telegram e ao modelo pay per view

O One Hub oferece suporte a notificações e gerenciamento via bot do Telegram, permitindo que os usuários recebam notificações em tempo real de chamadas de API no Telegram. Além disso, o One Hub oferece suporte ao modelo de cobrança por uso, permitindo que os usuários cobrem e gerenciem de forma flexível com base no uso.

Procedimento de operação detalhado

1. Depois de fazer login no One Hub, acesse o painel do usuário para visualizar as chamadas de API.
2. Na interface do administrador, adicione ou remova fornecedores e defina as configurações do agente.
3. Configure o serviço Azure Speech para gerar saída de fala.
4. Personalize o modelo de medição de velocidade para ver o tempo decorrido da solicitação para chamadas de API.
5. Receba notificações via bot do Telegram e gerencie modelos de pagamento por visualização.

Com a ajuda detalhada acima, os usuários podem começar a usar rapidamente o One Hub e aproveitar ao máximo sua rica funcionalidade para gerenciar e distribuir interfaces OpenAI.