Aisuite: Einheitlicher OpenAI-Schnittstellenstil ruft mehrere große Modelle auf, schneller Modellwechsel und Vergleichstests

Allgemeine Einführung

aisuite ist eine einfache, einheitliche Schnittstelle, die es Entwicklern leicht macht, Dienste von mehreren generativen KI-Anbietern aufzurufen. Mit einer Schnittstelle, die der von OpenAI ähnelt, erleichtert aisuite die Interaktion mit den beliebtesten LLMs (Large Language Models) und das nahtlose Wechseln und Testen von Antworten verschiedener Anbieter, ohne den Code zu ändern. Zu den derzeit unterstützten Anbietern gehören OpenAI, Anthropic, Azure, Google, AWS, Groq, Mistral, HuggingFace und Ollama.

Aisuite ermöglicht es Ihnen, ein "provider:model" auszuwählen, indem Sie nur eine Zeichenkette ändern, z.B. openai:gpt-4o, anthropic:claude-3-5-sonnet-20241022, ollama:ollama3.1:8b, usw.

Funktionsliste

• Einheitliche Schnittstelle: Aufrufen mehrerer generativer KI-Anbieter über eine standardisierte Schnittstelle.
• Multi-Provider-Unterstützung: OpenAI, Anthropic, Azure, Google, AWS, Groq, Mistral, HuggingFace und Ollama werden unterstützt.
• Einfache Installation: Es werden einfache Installationsbefehle zur Verfügung gestellt, mit der Möglichkeit, das Basispaket oder Pakete zu installieren, die bestimmte Anbieter enthalten.
• Konfiguration von Umgebungsvariablen: Unterstützt die Konfiguration von API-Schlüsseln über Umgebungsvariablen für eine einfache Verwaltung und Nutzung.
• Beispielcode: Stellen Sie reichhaltigen Beispielcode zur Verfügung, damit die Benutzer schnell loslegen können.
• Open-Source-Projekt: Der Code ist quelloffen, so dass die Nutzer ihn frei verwenden, verändern und weitergeben können.

Hilfe verwenden

Montage

Um aisuite zu installieren, haben Sie die Möglichkeit, nur das Basispaket zu installieren oder ein Paket zu installieren, das einen bestimmten Anbieter enthält. Nachfolgend finden Sie die Installationsbefehle:

• Installieren Sie das Basispaket:

  pip install aisuite
  

• Installieren Sie das Paket, das die Anthropic-Bibliothek enthält:

  pip install 'aisuite[anthropic]'
  

• Installieren Sie alle Anbieterbibliotheken:

  pip install 'aisuite[all]'
  

konfigurieren.

Um aisuite zu verwenden, müssen Sie den API-Schlüssel für den Anbieter, den Sie verwenden möchten, festlegen. Der API-Schlüssel kann über eine Umgebungsvariable gesetzt werden, oder die Konfiguration kann im aisuite-Client-Konstruktor übergeben werden. Im Folgenden finden Sie ein Beispiel für das Setzen einer Umgebungsvariablen:

export OPENAI_API_KEY="your-openai-api-key"
export ANTHROPIC_API_KEY="your-anthropic-api-key"

Anwendungsbeispiel

Unten finden Sie ein kurzes Beispiel für die Verwendung von aisuite, um eine Antwort auf einen Chatabschluss zu erzeugen:

import aisuite as ai
client = ai.Client()
models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet"]
messages = [
{"role": "system", "content": "Respond in Pirate English."},
{"role": "user", "content": "Tell me a joke."},
]
for model in models:
response = client.chat.completions.create(
model=model, messages=messages, temperature=0.75
)
print(response.choices[0].message.content)

Im obigen Beispiel hat der Modellname das Format <provider>:<model-name>. aisuite ruft den entsprechenden Anbieter auf der Grundlage des Anbieterwertes auf und übergibt die richtigen Parameter.