Pieces OS: обратное преобразование Pieces-OS GRPC в интерфейс OpenAI (не удалось)

Общее введение

Pieces-OS является проектом с открытым исходным кодом , направлен на Pieces-OS GRPC потоков обратного и преобразовать в стандартный интерфейс OpenAI API , поддержка Claude, GPT, Gemini. проект разработан Nekohy , на основе GPL-3.0 протокол с открытым исходным кодом , в основном для обучения и общения , не для коммерческого использования . Проект предоставляет различные модели совместимости, и поддерживает Vercel один клик развертывания.

обратное направление шт. Развертывание API-интерфейсов, поддерживающих модели Claude, GPT, Gemini, без одной минуты. Предоставитьперейти на новую версию.

Список функций

• Реверс потока GRPC: Преобразует GRPC-потоки из Pieces-OS в стандартный интерфейс OpenAI.
• Поддержка нескольких моделейСовместимость Клод серии, серии GPT, серии Gemini и многих других моделей.
• Развертывание одним щелчком мыши: Поддержка Развертывание платформы Vercel одним щелчком мышиЭто позволяет пользователям быстро и легко создавать новые проекты.
• Конфигурация облачной модели: Предоставление профилей облачных моделей, чтобы пользователи могли извлекать и использовать различные модели по мере необходимости.
• Управление запросами API: Управляйте префиксными путями, ключами, повторными попытками и т. д. для запросов API, настраивая переменные окружения.

Использование помощи

Процесс установки

1. проект клонирования: Использование git clone чтобы клонировать проект локально.

   git clone https://github.com/Nekohy/pieces-os.git
   

2. Установка зависимостей: Перейдите в каталог проекта и установите package.json Библиотеки зависимостей, определенные в

   cd pieces-os
   npm install
   

3. процедура срабатывания: Реализация node index.js Начните процедуру.

   node index.js
   

Процесс использования

1. Получение списка моделей: Получите список доступных моделей с помощью следующей команды.

   curl --request GET 'http://127.0.0.1:8787/v1/models' --header 'Content-Type: application/json'

2. Отправить запрос: Используйте следующую команду для отправки запроса на чат.

   curl --request POST 'http://127.0.0.1:8787/v1/chat/completions' --header 'Content-Type: application/json' --data '{
   "messages": [
   {
   "role": "user",
   "content": "你好！"
   }
   ],
   "model": "gpt-4o",
   "stream": true
   }'

Конфигурация переменной окружения

• API_PREFIX: Префиксный путь для API-запросов, значение по умолчанию '/'.
• API_KEY: Ключ для API-запроса, по умолчанию - пустая строка.
• МАКСИМАЛЬНЫЙ_СЧЕТ_ПОВТОРОВ: Максимальное количество повторных попыток, по умолчанию 3.
• RETRY_DELAY: время задержки повторной попытки в миллисекундах, значение по умолчанию 5000(5 секунд).
• ПОРТ: порт, на котором прослушивается служба, значение по умолчанию - 8787.

Конфигурация модели

В проекте представлены профили для нескольких моделей cloud_model.jsonПользователь может извлекать и использовать различные модели по мере необходимости. Например:

• Серия "Клод::claude-3-5-sonnet@20240620, иclaude-3-haiku@20240307 и т.д.
• Серия GPT::gpt-3.5-turbo, иgpt-4, иgpt-4-turbo и т.д.
• Серия Gemini::gemini-1.5-flash, иgemini-1.5-pro и т.д.

Как использовать его после развертывания

Настраивается в nextchat:

Заполните доменное имя напрямую, не добавляйте после URL./v1/models , и /v1/chat/completions

API_KEY не настроен в Vercel, тогда ввод не требуется.

Конфигурация в иммерсивном переводе: (не рекомендуется из-за проблем с параллелизмом)

https://你的域名/v1/chat/completions

Если apikey не задан, заполните пробелы.