Aisuite : style d'interface OpenAI unifié appelant plusieurs grands modèles, changement de modèle rapide et tests de comparaison

Introduction générale

aisuite est une interface simple et unifiée conçue pour permettre aux développeurs d'invoquer facilement les services de plusieurs fournisseurs d'IA générative. Avec une interface similaire à celle d'OpenAI, aisuite facilite l'interaction avec les LLM (Large Language Models) les plus populaires et permet de basculer et de tester les réponses de différents fournisseurs sans modifier le code. Les fournisseurs actuellement pris en charge sont OpenAI, Anthropic, Azure, Google, AWS, Groq, Mistral, HuggingFace et Ollama.

Aisuite vous permet de sélectionner un "provider:model" en changeant une seule chaîne de caractères, par exemple openai:gpt-4o, anthropic:claude-3-5-sonnet-20241022, ollama:ollama3.1:8b, etc.

Liste des fonctions

• Interface unifiée : invoquez plusieurs fournisseurs d'IA générative par le biais d'une interface standardisée.
• Prise en charge de plusieurs fournisseurs : OpenAI, Anthropic, Azure, Google, AWS, Groq, Mistral, HuggingFace et Ollama sont pris en charge.
• Facile à installer : fournit des commandes d'installation simples avec l'option d'installer le paquet de base ou des paquets qui incluent des fournisseurs spécifiques.
• Configuration des variables d'environnement : permet de configurer les clés API à l'aide de variables d'environnement pour faciliter la gestion et l'utilisation.
• Exemple de code : fournir un exemple de code riche pour aider les utilisateurs à démarrer rapidement.
• Projet open source : le code est open source, ce qui permet aux utilisateurs de l'utiliser, de le modifier et de le distribuer librement.

Utiliser l'aide

montage

Pour installer aisuite, vous avez la possibilité de n'installer que le paquet de base ou d'installer un paquet qui inclut un fournisseur spécifique. Vous trouverez ci-dessous les commandes d'installation :

• Installer le paquet de base :

  pip install aisuite
  

• Installer le paquet contenant la bibliothèque Anthropic :

  pip install 'aisuite[anthropic]'
  

• Installer toutes les bibliothèques du fournisseur :

  pip install 'aisuite[all]'
  

configurer

Pour commencer à utiliser aisuite, vous devez définir la clé API du fournisseur que vous avez l'intention d'utiliser. La clé API peut être définie via une variable d'environnement, ou la configuration peut être transmise dans le constructeur du client aisuite. Voici un exemple de définition d'une variable d'environnement :

export OPENAI_API_KEY="your-openai-api-key"
export ANTHROPIC_API_KEY="your-anthropic-api-key"

exemple d'utilisation

Vous trouverez ci-dessous un court exemple d'utilisation d'aisuite pour générer une réponse d'achèvement de chat :

import aisuite as ai
client = ai.Client()
models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet"]
messages = [
{"role": "system", "content": "Respond in Pirate English."},
{"role": "user", "content": "Tell me a joke."},
]
for model in models:
response = client.chat.completions.create(
model=model, messages=messages, temperature=0.75
)
print(response.choices[0].message.content)

Dans l'exemple ci-dessus, le nom du modèle a le format suivant <provider>:<model-name>. aisuite appellera le fournisseur approprié en fonction de la valeur du fournisseur, en lui transmettant les paramètres corrects.