Aisuite: 통합 OpenAI 인터페이스 스타일의 여러 대규모 모델 호출, 빠른 모델 전환 및 비교 테스트

2.4K 00

일반 소개

aisuite는 개발자가 여러 생성 AI 제공업체의 서비스를 쉽게 호출할 수 있도록 설계된 간단하고 통합된 인터페이스입니다. OpenAI와 유사한 인터페이스를 통해 가장 널리 사용되는 LLM(대규모 언어 모델)과 쉽게 상호 작용하고 코드 변경 없이 여러 제공업체의 응답을 원활하게 전환 및 테스트할 수 있습니다. 현재 지원되는 제공업체로는 OpenAI, Anthropic, Azure, Google, AWS, Groq, Mistral, HuggingFace 및 Ollama가 있습니다.

Aisuite를 사용하면 "공급자:모델"을 하나의 문자열만 변경하여 선택할 수 있습니다(예: openai:gpt-4o, anthropic:claude-3-5-sonnet-20241022, ollama:ollama3.1:8b 등).

기능 목록

통합 인터페이스: 표준화된 인터페이스를 통해 여러 생성 AI 제공업체를 호출할 수 있습니다.
다중 제공업체 지원: OpenAI, Anthropic, Azure, Google, AWS, Groq, Mistral, HuggingFace 및 Ollama가 지원됩니다.
간편한 설치: 간단한 설치 명령이 제공되며, 기본 패키지 또는 특정 제공업체가 포함된 패키지를 설치할 수 있는 옵션이 제공됩니다.
환경 변수 구성: 간편한 관리와 사용을 위해 환경 변수를 통해 API 키를 구성할 수 있도록 지원합니다.
샘플 코드: 사용자가 빠르게 시작할 수 있도록 다양한 샘플 코드를 제공합니다.
오픈 소스 프로젝트: 코드가 오픈 소스이므로 사용자가 자유롭게 사용, 수정 및 배포할 수 있습니다.

도움말 사용

마운팅

aisuite를 설치하려면 기본 패키지만 설치하거나 특정 제공업체가 포함된 패키지를 설치하는 옵션이 있습니다. 다음은 설치 명령어입니다:

기본 패키지를 설치합니다:
```
pip install aisuite
```
Anthropic 라이브러리가 포함된 패키지를 설치합니다:
```
pip install 'aisuite[anthropic]'
```
모든 공급자 라이브러리를 설치합니다:
```
pip install 'aisuite[all]'
```

구성

aisuite를 사용하려면 사용하려는 제공업체의 API 키를 설정해야 합니다. API 키는 환경 변수를 통해 설정하거나 aisuite 클라이언트 생성자에서 구성을 전달할 수 있습니다. 다음은 환경 변수 설정의 예입니다:

export OPENAI_API_KEY="your-openai-api-key"
export ANTHROPIC_API_KEY="your-anthropic-api-key"

사용 예

다음은 aisuite를 사용하여 채팅 완료 응답을 생성하는 간단한 예제입니다:

import aisuite as ai
client = ai.Client()
models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet"]
messages = [
{"role": "system", "content": "Respond in Pirate English."},
{"role": "user", "content": "Tell me a joke."},
]
for model in models:
response = client.chat.completions.create(
model=model, messages=messages, temperature=0.75
)
print(response.choices[0].message.content)

위의 예에서 모델 이름은 다음과 같은 형식을 사용합니다. <provider>:<model-name>aisuite는 공급자 값에 따라 적절한 공급자를 호출하여 올바른 매개 변수를 전달합니다.