OpenAOE : Cadre de discussion de groupe sur les grands modèles : discussion simultanée avec plusieurs grands modèles linguistiques

Introduction générale

OpenAOE est un cadre de chat de groupe à grand modèle open source qui vise à résoudre le problème du manque de cadres de chat sur le marché actuel qui répondent à plusieurs modèles en parallèle. Avec OpenAOE, les utilisateurs peuvent parler à plusieurs grands modèles de langage (LLM) en même temps et obtenir des résultats parallèles. Le cadre prend en charge l'accès à plusieurs API LLM commerciales et open source, telles que GPT-4, Google Palm, Minimax, Claude, etc. et permet aux utilisateurs de personnaliser l'accès à d'autres API LLM.OpenAOE fournit des API back-end et des interfaces Web pour répondre aux besoins de différents utilisateurs, et convient aux chercheurs LLM, aux évaluateurs, aux développeurs d'ingénierie et aux non-professionnels. d'ingénierie et les non-professionnels.

Liste des fonctions

• Réponse parallèle multi-modèleSupport pour les conversations avec plusieurs grands modèles de langage en même temps afin d'obtenir des résultats parallèles.
• Accès aux modèles commerciaux et open sourceLes modèles de langue : ils permettent d'accéder à GPT-4, Google Palm, Minimax, Claude et à d'autres API commerciales et open source de modèles de langue.
• Accès au modèle personnaliséPermet un accès défini par l'utilisateur à d'autres API de grands modèles.
• API dorsale et interface WebLe système de gestion de l'information : il fournit des API et des interfaces Web pour répondre aux besoins des différents utilisateurs.
• Modes de fonctionnement multiplesSupport pour l'exécution d'OpenAOE via pip, docker, et source.

Utiliser l'aide

Processus d'installation

Installation via pip

1. Assurez-vous que la version de Python est >= 3.9.
2. Exécutez la commande suivante pour installer OpenAOE :

   pip install -U openaoe

3. Démarrer OpenAOE en utilisant le fichier de configuration :

   openaoe -f /path/to/your/config-template.yaml

Installation via docker

1. Obtenir l'image docker d'OpenAOE :

   docker pull opensealion/openaoe:latest

ou construire une image docker :

   git clone https://github.com/internlm/OpenAOE
cd OpenAOE
docker build . -f docker/Dockerfile -t opensealion/openaoe:latest

2. Démarrer le conteneur Docker :

   docker run -p 10099:10099 -v /path/to/your/config-template.yaml:/app/config.yaml --name OpenAOE opensealion/openaoe:latest

Lignes directrices pour l'utilisation

1. fichier de configurationAvant de démarrer OpenAOE, vous devez préparer le fichier de configuration. config-template.yamlCe fichier est utilisé pour contrôler les paramètres du back-end et du front-end.
2. Modèle d'accès APIDans le fichier de configuration, les utilisateurs peuvent configurer les API de modèle auxquelles il faut accéder, notamment GPT-4, Google Palm, Minimax, Claude, etc. Les utilisateurs peuvent également personnaliser l'accès à d'autres API de grands modèles.
3. Démarrage des servicesLes utilisateurs peuvent utiliser le service OpenAOE après l'avoir installé via l'interface utilisateur Web fournie ou l'intégrer via l'API dorsale.
4. dialogue parallèleDans l'interface utilisateur Web, l'utilisateur peut saisir un mot-guide et OpenAOE enverra une requête à plusieurs grands modèles linguistiques en même temps et renverra une réponse parallèle.
5. Analyse des résultatsLes utilisateurs peuvent comparer les résultats des réponses de différents modèles à des fins d'analyse et d'évaluation.