하나의 허브: 여러 모델 및 통계 기능을 지원하는 OpenAI 인터페이스 관리 및 배포

일반 소개

원 허브는 웹 기반 하나의 API OpenAI 인터페이스 관리 및 배포 시스템의 두 번째 개발. 더 광범위한 모델 지원과 향상된 통계를 제공하기 위해 MartialBE에서 개발한 One Hub는 새로운 사용자 대시보드 및 관리자 통계 인터페이스와 리팩터링된 트랜짓 공급자 모듈을 갖춘 새로운 사용자 인터페이스가 특징입니다. 또한 비 OpenAI 모델을 포함한 광범위한 모델에 대한 함수 호출을 지원하고 다양한 구성 옵션과 모니터링 기능을 제공합니다. One Hub는 OpenAI 인터페이스를 관리하고 배포해야 하는 개발자와 기업을 대상으로 하며, 다양한 AI 모델을 보다 효율적으로 사용하고 모니터링할 수 있도록 지원합니다.

기능 목록

• 다양한 OpenAI 및 비 OpenAI 모델에 대한 함수 호출 지원
• 새로운 사용자 대시보드 및 관리자 통계 인터페이스
• 사용자 모델 목록의 동적 반환을 지원하기 위한 트랜짓 공급자 모듈의 리팩토링
• Azure 음성 에뮬레이션 TTS 기능 지원
• 별도의 http/socks5 프록시 구성 지원
• 사용자 지정 속도 모델 및 로깅 요청 경과 시간 지원
• 텔레그램 봇 및 모델 페이퍼뷰 지원
• 모델 와일드카드 및 프로필 런처 지원
• Prometheus 모니터링 지원
• 결제 및 사용자 그룹 RPM 구성 지원

도움말 사용

설치 프로세스

1. 프로젝트 코드를 복제합니다:

   git clone https://github.com/MartialBE/one-hub.git

2. 프로젝트 카탈로그로 이동합니다:

   cd one-hub

3. 환경 변수 및 종속성을 구성합니다:

   cp config.example.yaml config.yaml

필요에 따라 수정 config.yaml 구성 항목을 추가합니다.

4. Docker로 부팅하기:

   docker-compose up -d

또는 로컬 환경을 사용하여 시작하세요:

   go run main.go

사용 기능

사용자 대시보드

사용자 대시보드는 사용자가 API 호출을 보고 관리할 수 있는 직관적인 인터페이스를 제공합니다. 대시보드를 통해 API 사용량을 실시간으로 모니터링하고 자세한 호출 로그와 통계를 볼 수 있습니다.

관리자 통계 인터페이스

관리자 통계 인터페이스는 관리자에게 종합적인 데이터 분석 도구를 제공합니다. 관리자는 모든 사용자의 API 호출을 보고, 자세한 통계 보고서를 생성하고, 데이터를 기반으로 최적화 및 조정할 수 있습니다.

트랜짓 공급자 모듈

트랜짓 공급자 모듈은 사용자 모델 목록의 동적 반환을 지원하며 개별 http/socks5 프록시를 구성할 수 있습니다. 관리자는 필요에 따라 공급자를 추가하거나 제거하고 다양한 프록시 구성을 설정하여 API 호출의 성능과 안정성을 최적화할 수 있습니다.

Azure Speech는 TTS 기능을 에뮬레이트합니다.

하나의 허브는 사용자가 고품질 음성 출력을 생성하도록 Azure Speech 서비스를 구성할 수 있는 TTS 기능을 에뮬레이트하기 위해 Azure Speech 사용을 지원합니다. 구성 방법은 다음과 같습니다:

1. 존재 config.yaml 파일을 추가하여 Azure Speech 구성을 추가합니다:

   azure_speech:
api_key: "your_api_key"
region: "your_region"

2. 구성을 적용하려면 One Hub 서비스를 다시 시작하세요.

맞춤형 속도 모델 및 로그 요청 경과 시간

사용자는 하나의 허브에서 속도 모델을 사용자 지정하고 각 API 호출에 대한 요청 경과 시간을 확인할 수 있습니다. 이러한 기능을 통해 사용자는 모델의 성능을 최적화하고 API 호출이 효율적으로 이루어지도록 할 수 있습니다.

텔레그램 봇 및 모델 페이퍼뷰 지원

원허브는 텔레그램 봇을 통한 알림 및 관리를 지원하여, 사용자들은 텔레그램에서 API 호출에 대한 실시간 알림을 받을 수 있습니다. 또한, 원 허브는 사용량 과금 모델을 지원하여, 사용량에 따라 유연하게 과금 및 관리할 수 있습니다.

세부 운영 절차

1. 원 허브에 로그인한 후 사용자 대시보드로 이동하여 API 호출을 확인합니다.
2. 관리자 인터페이스에서 공급업체를 추가 또는 제거하고 상담원 설정을 구성합니다.
3. 음성 출력을 생성하도록 Azure Speech 서비스를 구성합니다.
4. 속도 측정 모델을 사용자 지정하여 API 호출의 요청 경과 시간을 확인할 수 있습니다.
5. 텔레그램 봇을 통해 알림을 수신하고 유료 시청 관리를 모델링합니다.

위의 자세한 도움말을 통해 사용자는 One Hub를 빠르게 시작하고 OpenAI 인터페이스 관리 및 배포를 위한 풍부한 기능을 최대한 활용할 수 있습니다.