综合介绍
aisuite 是一个简单、统一的接口,旨在让开发者能够轻松调用多种生成式AI提供商的服务。通过类似于OpenAI的接口,aisuite 使得与最流行的LLM(大语言模型)进行交互变得更加容易,并且可以在不更改代码的情况下无缝切换和测试不同提供商的响应。目前支持的提供商包括OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace和Ollama。
Aisuite 允许你只需更改一个字符串即可选择“提供商:模型”,例如 openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022、ollama:llama3.1:8b 等。
功能列表
- 统一接口:通过一个标准化的接口调用多个生成式AI提供商。
- 多提供商支持:支持OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace和Ollama。
- 易于安装:提供简单的安装命令,可以选择安装基础包或包含特定提供商的包。
- 环境变量配置:支持通过环境变量配置API密钥,方便管理和使用。
- 示例代码:提供丰富的示例代码,帮助用户快速上手。
- 开源项目:代码开源,允许用户自由使用、修改和分发。
使用帮助
安装
要安装aisuite,您可以选择仅安装基础包,或者安装包含特定提供商的包。以下是安装命令:
- 安装基础包:
pip install aisuite
- 安装包含Anthropic库的包:
pip install 'aisuite[anthropic]'
- 安装所有提供商的库:
pip install 'aisuite[all]'
配置
要开始使用aisuite,您需要为您打算使用的提供商设置API密钥。可以通过环境变量设置API密钥,或者在aisuite客户端构造函数中传递配置。以下是设置环境变量的示例:
export OPENAI_API_KEY="your-openai-api-key"
export ANTHROPIC_API_KEY="your-anthropic-api-key"
使用示例
以下是一个使用aisuite生成聊天完成响应的简短示例:
import aisuite as ai
client = ai.Client()
models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet"]
messages = [
{"role": "system", "content": "Respond in Pirate English."},
{"role": "user", "content": "Tell me a joke."},
]
for model in models:
response = client.chat.completions.create(
model=model, messages=messages, temperature=0.75
)
print(response.choices[0].message.content)
在上述示例中,模型名称使用格式 <provider>:<model-name>
。aisuite 将根据提供商值调用相应的提供商,并传递正确的参数。