Развертывание OneAPI без сервера?

предисловие

Некоторое время назад у меня накопилось несколько API, которые я редко использую, в основном для функции AI summary в блоге. Я часто забываю пароли к своим учетным записям для этих платформ, поэтому решил использовать OneAPI для унифицированного управления. Несмотря на подробные руководства, предоставленные авторами OneAPI, некоторые пользователи (включая меня) все же столкнулись с небольшими проблемами во время развертывания. Поэтому после успешного развертывания я решил написать это подробное руководство по развертыванию для тех, кто не очень хорошо ориентируется в этом вопросе, надеясь, что оно поможет вам пройти этот процесс с меньшими трудностями.

Проекты

OneAPI Проект представляет собой открытую систему управления и распространения интерфейсов, которая поддерживает широкий спектр крупномасштабных языковых моделей, таких как ChatGPT от OpenAI, Azure, Anthropic Claude, Google PaLM 2 & Близнецы и т. д. Она предназначена для управления и перераспределения ключей, может быть развернута с помощью одного исполняемого файла или Docker и предоставляет простой и унифицированный API для доступа к различным большим языковым моделям. Система имеет открытый исходный код под лицензией MIT и предоставляет такие возможности, как поддержка моделей, управление токенами и группами пользователей. Для получения инструкций по развертыванию и настройке пользователям следует обратиться к репозиториям GitHub и документации проекта.

Проект "Строительство

Этот проект предоставляет образы Docker для упрощения процесса развертывания. Мы можем развертывать более легко.

По умолчанию используется база данных SQLite, и если переменная окружения SQL_DSN не задана, файлы базы данных хранятся в пути, указанном контейнером Docker. Если переменная окружения SQL_DSN установлена, приложение будет подключаться к указанной вами базе данных MySQL или PostgreSQL. Это делается для того, чтобы наши предыдущие изменения не были потеряны при переразвертывании или извлечении образа.

намерение

• Бесплатные контейнерные платформы, поддерживающие Docker, такие как Render или Zeabur.
• База данных MySQL или PostgreSQL (необязательно, рекомендуется для сохранения данных).
• Доменное имя (необязательно).

Этапы развертывания

• Hugging Face : Быстрый, но не поддерживает связанные доменные имена, доступ к внутренним ресурсам может быть ограничен.
• Render : Поддерживаются пакетные домены, для регистрации может потребоваться пакетная кредитная карта.
• Koyeb : Пакетные домены поддерживаются, требуется план обновления.
• Zeabur: быстрый доступ, поддержка китайского языка, развертывание образов Docker требует плана обновления.

Процесс развертывания

Развертывание huggingface

1. Скопируйте образ Docker

нажать на кнопкуЗеркальное копирование одним щелчком мыши Настройте THEME (тему интерфейса, например, default или berry) и SQL_DSN (подключение к базе данных). Ниже я подробно перечислю их.

Эффекты различных тем выглядят следующим образом, выбирайте в зависимости от ваших предпочтений.

Тема по умолчанию

ягодная тема

2. конфигурация базы данных

• Используйте бесплатный сервис баз данных, например aiven или Planetscale, или бесплатные базы данных, поставляемые с Render и Koyeb; настройте переменную окружения SQL_DSN для проекта.
• Пример MySQL. SQL_DSN=root:123456@tcp(localhost:3306)/oneapi
• Примеры PostgreSQL. SQL_DSN=postgres://postgres:123456@localhost:5432/oneapi

2.1регистрация и входМы в деле. aiven платформы, зарегистрируйтесь или войдите в свою учетную запись.

2.2Заполните информациюВыберите "Персональные услуги" и заполните основную информацию.

2.3Выберите базу данныхВыберите базу данных MySQL или базу данных PostgreSQL.

2.4Конфигурация базы данныхОтметьте бесплатный тарифный план, выберите зону обслуживания и нажмите кнопку Создать.

2.5Окончательная конфигурацияЗапомните информацию на схеме и пропустите ее до конца. Неважно, если вы их не запомнили, мы сможем увидеть их, пропустив все.

3. Заполните переменные

На основе информации из базы данных, приведенной на рисунке, мы получаем следующее:

URI службы.
mysql://CLICK_TO:REVEAL_PASSWORD@mysql-12a9c26-jonastech007-2d92.b.aivencloud.com:10906/defaultdb?ssl-mode=必需

Ведущий.
mysql-12a9c26-jonastech007-2d92.b.aivencloud.com

Порт.
10906

Пользователи:
avnadmin

Пароль:
AVNS_QV8niFI8YW48vKqxi3R

Адрес нашей ссылки должен быть написан так: username:password@tcp(Host:Port)/имя базы данных

В итоге мы выбрали avnadmin:AVNS_QV8niFI8YW48vKqxi3R@tcp(mysql-12a9c26-jonastech007-2d92.b.aivencloud.com:10906)/defaultdb

Введите эту ссылку в переменную и нажмите кнопку "Копировать в пространство". Дублирующее пространство

4. Доступ

На данный момент мы можем найти настройки, нажав на правый верхний уголОснастить это пространствоДоступ к нашим услугам осуществляется по ссылке ниже.

Развертывание Койеба

1. Нажмите, чтобы войтиКойеб После входа и регистрации на официальном сайте нажмите Create Web Service, чтобы выбрать образ докера.

2. в поле ввода введите justsong/one-api:latest , если вы не знаете, откуда это взято, вы можете проверить проект с открытым исходным кодомcompose.yml.

версия: '3.4'

услуги.
one-api.
image: "${REGISTRY:-docker.io}/justsong/one-api:latest"
имя_контейнера: one-api
перезапуск: всегда
команда: --log-dir /app/logs
порты.
- "3000:3000"
объемы.
- . /data/oneapi:/data
- . /logs:/app/logs
окружающая среда.
- SQL_DSN=oneapi:123456@tcp(db:3306)/one-api # Измените эту строку или закомментируйте ее, чтобы использовать SQLite в качестве базы данных
- REDIS_CONN_STRING=redis://redis
- SESSION_SECRET=random_string # Изменено на случайную строку
- TZ=Азия/Шанхай
# - NODE_TYPE=slave # Отметьте эту строку для ведомых узлов в многокомпьютерном развертывании
# - SYNC_FREQUENCY=60 # Отмените эту строку, если вам нужно периодически загружать данные из базы данных

${REGISTRY:-docker.io} - выражение переменной окружения, указывающее, что если переменная окружения REGISTRY не установлена, то по умолчанию используется docker.io (Docker Hub).
justsong/one-api:latest указывает имя и метку образа, где justsong - это имя пользователя или организации на Docker Hub, one-api - это имя образа, а latest указывает, что используется последняя версия этого образа.

3. Установите необходимые переменные и информацию о регионе и нажмите кнопку Развернуть.

4. Дождавшись завершения развертывания, мы можем нажать на этот адрес, чтобы получить доступ к нашему One API.

5. Учетная запись администратора по умолчанию

• Имя пользователя:root
• Пароль:123456

Изменения должны вноситься в Пользователи сразу после входа в систему, что обеспечивает безопасность учетной записи

Использование

Учитывая, что большинство людей, которые могут прочитать мой пост, - новички, я вкратце продемонстрирую его использование. Бесплатный API, представленный в вышеупомянутой статье блогагореть в голове Примеры.

Те, кто не помнит этого, могут узнать сами или посмотреть фильм Эта запись в блоге

Конфигурация OneAPI

1. После входа в учетную запись администратора OneAPI найдите разделоросительная канава, нажмитеНовые каналы

2. Имя канала мы можем назвать, адрес API канала является адресом пересылки, просто заполните его адрес запроса, а затем выберите модель поддержки; добавьте свой API KEY, и, наконец, отправьте.

3. Наконец, мы нажимаем непроверенные Измерьте степень связности API.

4. После прохождения теста мы сможемжетонЕсли вы хотите, вы также можете поделиться своим сайтом после добавления множества API, чтобы все могли использовать их. При желании вы можете поделиться своим сайтом после добавления множества API и позволить людям использовать их.
Нам просто нужно поддерживать каждый канал API в фоновом режиме, что касается адреса запроса OneAPI, то по умолчанию это наше доменное имя, вы также можете изменить его в настройках.