Introdução geral
O aisuite é uma interface simples e unificada projetada para facilitar aos desenvolvedores a invocação de serviços de vários provedores de IA generativa. Com uma interface semelhante à do OpenAI, o aisuite facilita a interação com os LLMs (Large Language Models) mais populares e alterna e testa perfeitamente as respostas de diferentes provedores sem alterar o código. Os provedores suportados atualmente incluem OpenAI, Anthropic, Azure, Google, AWS, Groq, Mistral, HuggingFace e Ollama.
O Aisuite permite que você selecione um "provider:model" alterando apenas uma string, por exemplo, openai:gpt-4o, anthropic:claude-3-5-sonnet-20241022, ollama:ollama3.1:8b, etc.
Lista de funções
- Interface unificada: invoque vários provedores de IA generativa por meio de uma interface padronizada.
- Suporte a vários provedores: OpenAI, Anthropic, Azure, Google, AWS, Groq, Mistral, HuggingFace e Ollama são compatíveis.
- Fácil de instalar: fornece comandos de instalação simples com a opção de instalar o pacote básico ou pacotes que incluem provedores específicos.
- Configuração de variável de ambiente: suporta a configuração de chaves de API por meio de variáveis de ambiente para facilitar o gerenciamento e o uso.
- Código de amostra: forneça um código de amostra rico para ajudar os usuários a começar rapidamente.
- Projeto de código aberto: o código é de código aberto, permitindo que os usuários usem, modifiquem e distribuam livremente.
Usando a Ajuda
montagem
Para instalar o aisuite, você tem a opção de instalar apenas o pacote básico ou instalar um pacote que inclua um provedor específico. Veja abaixo os comandos de instalação:
- Instale o pacote básico:
pip install aisuite - Instale o pacote que contém a biblioteca Anthropic:
pip install 'aisuite[antrópico]' - Instale todas as bibliotecas do provedor:
pip install 'aisuite[all]'
configurar
Para começar a usar o aisuite, você precisa definir a chave da API para o provedor que pretende usar. A chave de API pode ser definida por meio de uma variável de ambiente ou a configuração pode ser passada no construtor do cliente aisuite. A seguir, um exemplo de configuração de uma variável de ambiente:
export OPENAI_API_KEY="your-openai-api-key"
export ANTHROPIC_API_KEY="your-anthropic-api-key"
exemplo de uso
Abaixo está um breve exemplo de uso do aisuite para gerar uma resposta de conclusão de bate-papo:
importar aisuite como ai
cliente = ai.Client()
modelos = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet"]
messages = [
{"role": "system", "content": "Responda em inglês pirata."}, {"role": "user": "Responda em inglês pirata."}, }
{"role": "user", "content": "Tell me a joke."}, ]
}, {"role": "user", "content": "Tell me a joke.
for model in models: response = client.chat.completions
response = client.chat.completions.create(
model=model, messages=messages, temperature=0.75
)
print(response.choices[0].message.content)
No exemplo acima, o nome do modelo usa o formato :. o aisuite chamará o provedor apropriado com base no valor do provedor, passando os parâmetros corretos.
