서버 없이 OneAPI를 배포하시나요?

13.9K 00

머리말

얼마 전 블로그의 AI 요약 기능을 위해 많이 사용하지 않는 API를 모아두었습니다. 이러한 플랫폼의 계정 비밀번호를 자주 잊어버려서 통합 관리를 위해 OneAPI를 사용하기로 결정했습니다. OneAPI 작성자가 제공한 철저한 튜토리얼에도 불구하고 저를 포함한 일부 사용자들은 배포 중에 여전히 몇 가지 사소한 문제를 겪었습니다. 따라서 배포를 성공적으로 마친 후, 배포에 익숙하지 않은 분들을 위해 이 상세한 배포 가이드를 작성하기로 결정했고, 이 가이드가 여러분이 덜 힘들게 프로세스를 진행하는 데 도움이 되기를 바랍니다.

프로젝트

OneAPI 이 프로젝트는 개방형 인터페이스 관리 및 배포 시스템으로, OpenAI의 ChatGPT, Azure, Anthropic Claude, Google PaLM 2 및 쌍둥이자리 등 이 시스템은 키 관리 및 재배포를 위한 것으로, 단일 실행 파일 또는 도커를 통해 배포할 수 있으며, 다양한 대규모 언어 모델에 액세스할 수 있는 간단하고 통합된 API를 제공합니다. 이 시스템은 MIT 라이선스에 따라 오픈 소스이며 모델 지원, 토큰 관리 및 사용자 그룹 관리와 같은 기능을 제공합니다. 배포 및 구성 지침은 해당 프로젝트의 GitHub 리포지토리 및 설명서를 참조하세요.

프로젝트 빌드

이 프로젝트는 배포 프로세스를 간소화하기 위해 Docker 이미지를 제공합니다. 더 쉽게 배포할 수 있습니다.

기본적으로 SQLite 데이터베이스가 사용되며, SQL_DSN 환경 변수가 설정되지 않은 경우 데이터베이스 파일은 Docker 컨테이너에서 지정한 경로에 저장됩니다. SQL_DSN 환경 변수가 설정되어 있으면 애플리케이션은 사용자가 지정한 MySQL 또는 PostgreSQL 데이터베이스에 연결합니다. 이는 이미지를 다시 배포하거나 가져올 때 이전 변경 사항이 손실되지 않도록 하기 위한 것입니다.

의도

Render 또는 Zeabur와 같이 Docker를 지원하는 무료 컨테이너 플랫폼.
MySQL 또는 PostgreSQL 데이터베이스(선택 사항, 데이터 지속성을 위해 권장).
도메인 이름(선택 사항).

배포 단계

허깅 페이스 : 빠르지만 바인딩된 도메인 네임을 지원하지 않으며, 국내 접속이 제한될 수 있습니다.
렌더링: 번들 도메인이 지원되며, 등록 시 번들 신용 카드가 필요할 수 있습니다.
Koyeb : 번들 도메인이 지원되며, 업그레이드 요금제가 필요합니다.
Zeabur : 빠른 액세스, 중국어 지원, Docker 이미지 배포에는 업그레이드 플랜이 필요합니다.

배포 프로세스

허깅페이스 배포

1. Docker 이미지를 복사합니다.

버튼을 클릭합니다.원클릭 미러 복사 를 클릭하고 테마(기본 또는 베리 등의 인터페이스 테마)와 SQL_DSN(데이터베이스 연결)을 구성합니다. 아래에서 자세히 설명해드리겠습니다.

다양한 테마의 효과는 다음과 같으니 취향에 따라 선택하세요.

기본 테마

베리 테마

2. 데이터베이스 구성

aiven 또는 Planetscale과 같은 무료 데이터베이스 서비스 또는 Render 및 Koyeb과 함께 제공되는 무료 데이터베이스를 사용하고 프로젝트의 환경 변수 SQL_DSN을 구성합니다.
MySQL 예제. SQL_DSN=root:123456@tcp(localhost:3306)/oneapi
PostgreSQL 예제. SQL_DSN=postgres://postgres:123456@localhost:5432/oneapi

2.1등록 및 로그인참여했습니다. aiven 플랫폼에 등록하거나 계정에 로그인하세요.

2.2정보를 입력하세요.개인 서비스를 선택하고 기본 정보를 입력합니다.

2.3데이터베이스 선택MySQL 데이터베이스 또는 PostgreSQL 데이터베이스를 선택합니다.

2.4데이터베이스 구성무료 요금제를 확인하고 서비스 지역을 선택한 다음 생성을 클릭합니다.

2.5최종 구성다이어그램의 정보를 외우고 끝까지 건너뛰기를 탭하세요. 기억이 나지 않더라도 모두 건너뛰어도 볼 수 있습니다.

3. 변수를 입력합니다.

그림의 데이터베이스 정보를 기반으로 다음과 같은 결과를 얻습니다:

서비스 URI.
mysql://CLICK_TO:REVEAL_PASSWORD@mysql-12a9c26-jonastech007-2d92.b.aivencloud.com:10906/defaultdb?ssl-mode=必需

호스트.
mysql-12a9c26-jonastech007-2d92.b.aivencloud.com

포트.
10906

사용자:
avnadmin

비밀번호:
AVNS_QV8niFI8YW48vKqxi3R

링크 주소는 사용자 이름:비밀번호@tcp(호스트:포트)/데이터베이스 이름과 같이 작성해야 합니다.

avnadmin:AVNS_QV8niFI8YW48vKqxi3R@tcp(mysql-12a9c26-jonastech007-2d92.b.aivencloud.com:10906)/기본db로 끝냈습니다.

이 링크를 변수에 채우고 마지막으로 스페이스에 복사를 클릭합니다. 중복 공간

4. 액세스

이 시점에서 오른쪽 상단 모서리를 클릭하면 설정을 찾을 수 있습니다.이 공간 포함당사 서비스에 대한 액세스는 아래 링크를 통해 제공됩니다.

Koyeb 배포

1. 클릭하여 입력Koyeb 공식 웹사이트에 로그인하여 등록한 후 웹 서비스 만들기를 클릭하여 도커 이미지를 선택합니다.

2. 입력 상자에 justsong/one-api:latest 를 입력합니다.compose.yml.

버전: '3.4'
서비스.
one-api.
이미지: "${REGISTRY:-docker.io}/justsong/one-api:최신"
컨테이너_이름: ONE-API
다시 시작: 항상
명령: --log-dir /app/logs
포트.
- "3000:3000"
볼륨.
- . /데이터/원에이파이:/데이터
- . /로그:/앱/로그
환경으로 이동합니다.
- SQL_DSN=oneapi:123456@tcp(db:3306)/one-api # 이 줄을 수정하거나 주석 처리하여 SQLite를 데이터베이스로 사용하도록 합니다.
- REDIS_CONN_STRING=redis://redis
- 세션_비밀=랜덤_스트링 # 임의 문자열로 수정됨
- TZ=아시아/상하이
# - NODE_TYPE=슬레이브 # 다중 컴퓨터 배포에서 슬레이브 노드의 경우 이 줄의 주석 처리를 해제합니다.
# - 동기화 빈도=60 # 데이터베이스에서 주기적으로 데이터를 로드해야 하는 경우 이 줄의 주석 처리를 해제합니다.

${REGISTRY:-docker.io}는 환경 변수 REGISTRY가 설정되어 있지 않으면 기본 docker.io(Docker Hub)가 사용됨을 나타내는 환경 변수 표현식입니다.
justsong/one-api:latest는 이미지의 이름과 레이블을 지정하며, 여기서 justsong은 Docker Hub의 사용자 또는 조직의 이름, one-api는 이미지 이름, latest는 이 이미지의 최신 버전이 사용됨을 나타냅니다.

3. 필요한 변수와 지역 정보를 설정하고 배포 버튼을 클릭합니다.

4. 배포가 완료될 때까지 기다렸다가 이 주소를 클릭하여 One API에 액세스할 수 있습니다.

5. 기본 관리자 계정은 다음과 같습니다.

사용자 이름: root
비밀번호:123456

로그인 후 즉시 사용자에서 변경 사항을 적용하여 계정을 보호해야 합니다.

사용법

제 글을 읽으시는 분들이 대부분 초보자라는 점을 감안하여 사용법을 간략하게 설명해드리겠습니다. 위 블로그 게시물에서 소개한 무료 API불이 붙다 예시.

감동을 받지 못하신 분들은 직접 확인해보시거나 이 블로그 게시물

OneAPI 구성

1. OneAPI 관리자 계정에 로그인한 후, 해당 계정의관개 도랑를 클릭하고새 채널

2. 채널 이름은 이름을 지정할 수 있고, 채널 API 주소는 전달 주소이며, 요청 주소를 입력한 다음 지원 모델을 선택하고, API 키를 추가한 다음 마지막으로 제출합니다.

3. 마지막으로 테스트되지 않음 를 클릭하고 API의 연결성을 측정합니다.

4. 테스트를 완료하면 다음을 수행할 수 있습니다.토큰원하는 경우 모든 사람이 사용할 수 있도록 많은 API를 추가한 후 사이트를 공유할 수도 있습니다. 원하는 경우 많은 API를 추가한 후 사이트를 공유하여 사람들이 사용할 수 있도록 할 수도 있습니다.
백그라운드에서 각 API 채널을 유지 관리하기만 하면 되며, OneAPI 요청 주소는 기본적으로 도메인 이름이며 설정에서 변경할 수도 있습니다.