Pieces OS : Conversion inverse de Pieces-OS GRPC vers l'interface OpenAI (échoué)

Introduction générale

Pieces-OS est un projet open source, qui vise à inverser les flux GRPC de Pieces-OS et à les convertir en interface API OpenAI standard, supportant Claude, GPT, Gemini. Le projet est développé par Nekohy, basé sur le protocole open source GPL-3.0, principalement pour l'apprentissage et la communication, pas pour une utilisation commerciale. Le projet fournit une variété de modèles de compatibilité et de support pour le déploiement de Vercel en un seul clic.

sens inverse pièces Déploiement gratuit en une minute des interfaces API prenant en charge les modèles Claude, GPT et Gemini. Fournirversion go.

Liste des fonctions

• Inversion de flux du GRPC: Convertit les flux GRPC de Pieces-OS vers l'interface standard OpenAI.
• Prise en charge de plusieurs modèles: Compatible Claude la série GPT, la série Gemini et de nombreux autres modèles.
• Déploiement en un clic: Soutien Déploiement en un clic de la plateforme Vercelqui est facile à construire rapidement pour les utilisateurs.
• Configuration du modèle de nuageLes utilisateurs peuvent ainsi extraire et utiliser différents modèles en fonction de leurs besoins.
• Gestion des demandes d'APIGestion des chemins de préfixe, des clés, des tentatives, etc. pour les demandes d'API en configurant des variables d'environnement.

Utiliser l'aide

Processus d'installation

1. projet de clonage: Utilisation git clone pour cloner le projet localement.

   git clone https://github.com/Nekohy/pieces-os.git
   

2. Installation des dépendancesLe projet : Allez dans le répertoire du projet et installez les éléments suivants package.json Les bibliothèques de dépendances définies dans le

   cd pieces-os
   npm install
   

3. procédure de déclenchement: Mise en œuvre node index.js Lancer la procédure.

   node index.js
   

Processus d'utilisation

1. Obtenir une liste de modèlesPour obtenir la liste des modèles disponibles, il suffit d'utiliser la commande suivante.

   curl --request GET 'http://127.0.0.1:8787/v1/models' --header 'Content-Type: application/json'

2. Envoyer une demandeLa commande suivante permet d'envoyer une demande de dialogue en ligne (chat).

   curl --request POST 'http://127.0.0.1:8787/v1/chat/completions' --header 'Content-Type: application/json' --data '{
   "messages": [
   {
   "role": "user",
   "content": "你好！"
   }
   ],
   "model": "gpt-4o",
   "stream": true
   }'

Configuration des variables d'environnement

• API_PREFIX: Chemin d'accès au préfixe pour les demandes d'API, la valeur par défaut est '/'.
• API_KEY: La clé de la demande d'API, par défaut une chaîne vide.
• MAX_RETRY_COUNTNombre maximal de tentatives, par défaut 3.
• RETRY_DELAY: délai de réessai en millisecondes, la valeur par défaut étant 5000(5 secondes).
• PORTle port sur lequel le service écoute, la valeur par défaut est 8787.

Configuration du modèle

Le projet fournit des profils pour plusieurs modèles cloud_model.jsonL'utilisateur peut extraire et utiliser différents modèles selon ses besoins. Par exemple, l'utilisateur peut extraire et utiliser différents modèles selon ses besoins :

• Série Claude: :claude-3-5-sonnet@20240620,claude-3-haiku@20240307 etc.
• Série GPT: :gpt-3.5-turbo,gpt-4,gpt-4-turbo etc.
• Série Gemini: :gemini-1.5-flash,gemini-1.5-pro etc.

Comment l'utiliser après le déploiement

Configuré dans nextchat :

Remplir le nom de domaine directement, ne pas ajouter après l'URL/v1/models , /v1/chat/completions

API_KEY n'est pas configuré dans Vercel, aucune entrée n'est nécessaire.

Configuration de la traduction immersive : (non recommandée en raison des problèmes de simultanéité)

https://你的域名/v1/chat/completions

Si apikey n'est pas défini, remplissez les blancs.