Aisuite: el estilo de interfaz unificado de OpenAI llama a varios modelos grandes, cambio rápido de modelo y pruebas comparativas.

Introducción general

aisuite es una interfaz sencilla y unificada diseñada para facilitar a los desarrolladores la invocación de servicios de múltiples proveedores de IA generativa. Con una interfaz similar a la de OpenAI, aisuite facilita la interacción con los LLM (Large Language Models) más populares y permite cambiar y probar sin problemas las respuestas de diferentes proveedores sin cambiar el código. Los proveedores soportados actualmente incluyen OpenAI, Anthropic, Azure, Google, AWS, Groq, Mistral, HuggingFace y Ollama.

Aisuite permite seleccionar un "proveedor:modelo" cambiando sólo una cadena, por ejemplo, openai:gpt-4o, anthropic:claude-3-5-sonnet-20241022, ollama:ollama3.1:8b, etc.

Lista de funciones

• Interfaz unificada: invoque a múltiples proveedores de IA generativa a través de una interfaz normalizada.
• Soporte multiproveedor: OpenAI, Anthropic, Azure, Google, AWS, Groq, Mistral, HuggingFace y Ollama son compatibles.
• Fácil de instalar: proporciona comandos de instalación sencillos con la opción de instalar el paquete base o paquetes que incluyen proveedores específicos.
• Configuración de variables de entorno: admite la configuración de claves API mediante variables de entorno para facilitar su gestión y uso.
• Código de ejemplo: proporcione código de ejemplo enriquecido para ayudar a los usuarios a empezar rápidamente.
• Proyecto de código abierto: el código es abierto, lo que permite a los usuarios utilizarlo, modificarlo y distribuirlo libremente.

Utilizar la ayuda

montaje

Para instalar aisuite, tiene la opción de instalar sólo el paquete base, o instalar un paquete que incluya un proveedor específico. A continuación se muestran los comandos de instalación:

• Instale el paquete base:

  pip install aisuite
  

• Instale el paquete que contiene la biblioteca Anthropic:

  pip install 'aisuite[anthropic]'
  

• Instale todas las bibliotecas de proveedores:

  pip install 'aisuite[all]'
  

configure

Para empezar a utilizar aisuite, es necesario configurar la clave API para el proveedor que se pretende utilizar. La clave API se puede establecer a través de una variable de entorno, o la configuración se puede pasar en el constructor del cliente aisuite. El siguiente es un ejemplo de configuración de una variable de entorno:

export OPENAI_API_KEY="your-openai-api-key"
export ANTHROPIC_API_KEY="your-anthropic-api-key"

ejemplo de uso

A continuación se muestra un breve ejemplo del uso de aisuite para generar una respuesta de finalización de chat:

import aisuite as ai
client = ai.Client()
models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet"]
messages = [
{"role": "system", "content": "Respond in Pirate English."},
{"role": "user", "content": "Tell me a joke."},
]
for model in models:
response = client.chat.completions.create(
model=model, messages=messages, temperature=0.75
)
print(response.choices[0].message.content)

En el ejemplo anterior, el nombre del modelo utiliza el formato <provider>:<model-name>. aisuite llamará al proveedor apropiado basándose en el valor del proveedor, pasando los parámetros correctos.