일반 소개
오케스트라는 대규모 언어 모델(LLM)을 기반으로 다중 지능 협업 시스템을 구축하는 데 중점을 둔 혁신적인 경량 Python 프레임워크입니다. 여러 AI 지능이 교향악단처럼 조화롭게 작동할 수 있도록 지능을 배열하는 독특한 방식을 채택하고 있습니다. 모듈식 아키텍처 설계를 통해 개발자는 다양한 유형의 인텔리전스를 쉽게 생성, 확장 및 통합하여 복잡한 작업의 분해 및 협업을 달성할 수 있으며, 오케스트라는 GPT-4, 클로드 3 및 기타 주류 빅 모델을 지원하고 웹 크롤링, 파일 처리, GitHub 상호 작용 및 기타 기능을 포함한 풍부한 기본 제공 도구 세트를 제공합니다. 간단한 도구 정의, 실시간 스트리밍 출력, 우아한 오류 처리 메커니즘, 구조적 사고 모드에 기반한 작업 실행 프로세스가 뛰어난 특징입니다. 태스크플로우AI의 고급 버전인 오케스트라는 개발자에게 더욱 강력하고 유연한 AI 애플리케이션 개발 프레임워크를 제공하기 위해 최선을 다하고 있습니다.

기능 목록
- 지능형 신체 배열 시스템:: 인텔리전스가 실행자와 지휘관 역할을 동시에 수행할 수 있도록 지원하여 동적 작업 분해 및 인텔리전스 간 조정을 실현합니다.
- 모듈식 아키텍처:: 사용자 지정 기능을 쉽게 구축하고 통합할 수 있는 확장 가능한 구성 요소 기반 디자인을 제공합니다.
- 다중 모델 지원오픈AI, 앤트로픽, 오픈라우터, 올라마, 그루크 및 기타 여러 LLM 제공업체와의 통합
- 기본 제공 도구 세트웹 도구, 파일 도구, GitHub 도구, 계산 도구 및 기타 여러 유틸리티를 포함합니다.
- 실시간 스트림 처리:: 실시간 출력의 동기식 및 비동기식 스트리밍 지원
- 오류 처리 메커니즘내장형 지능형 장애 처리 및 구성 가능한 성능 저하 체인
- 구조화된 작업:: 단계적 구현을 통한 LLM 인지 부담 감소
- 간소화 도구 정의복잡한 JSON 패턴이 필요 없는 문서 문자열 기반의 간단한 도구 정의입니다.
도움말 사용
1. 설치 구성
오케스트라 프레임워크의 설치는 매우 간단합니다. pip를 사용하여 다음 명령을 실행하기만 하면 됩니다.
pip install mainframe-orchestra
2. 기본 사용 절차
2.1 단일 인텔리전스 만들기
from mainframe_orchestra import Agent, Task, OpenaiModels, WebTools
# 创建研究助手智能体
research_agent = Agent(
role="研究助手",
goal="回答用户查询",
llm=OpenaiModels.gpt_4o,
tools={WebTools.exa_search}
)
# 定义研究任务
def research_task(topic):
return Task.create(
agent=research_agent,
instruction=f"使用搜索工具研究{topic}并进行通俗易懂的解释"
)
2.2 다중 지능 팀 구축
오케스트라는 재무 분석 팀을 구성하는 등 여러 전문 인텔리전스가 함께 작업할 수 있도록 지원합니다.
- 시장 분석가 - 시장 미시 구조 분석을 담당합니다.
- 펀더멘털 애널리스트 - 기업의 재무 분석을 담당합니다.
- 기술 분석가 - 가격 차트 분석을 담당합니다.
- 감정 분석가 - 시장 감정 분석을 담당합니다.
- 사령관 인텔리전스 - 다른 인텔리전스 조정을 담당합니다.
3. 고급 기능 사용
3.1 도구 통합
오케스트라는 다양한 기본 제공 도구를 제공합니다.
- 웹도구: 웹 크롤링, 검색, 날씨 API 등
- FileTools: CSV, JSON, XML 및 기타 파일 작업
- GitHubTools: 코드 리포지토리 상호 작용 도구
- 계산기 도구: 날짜 및 시간 계산기
- WikipediaTools: 위키백과 정보 검색
- 아마데우스 툴: 항공편 정보 검색
3.2 맞춤형 도구 개발
간단한 문서 문자열을 사용하여 자신만의 도구를 정의할 수 있습니다.
def custom_tool(param1: str, param2: int) -> str:
"""工具描述
Args:
param1: 参数1说明
param2: 参数2说明
Returns:
返回值说明
"""
# 工具实现代码
3.3 오류 처리 및 프로세스 제어
오케스트라는 정교한 오류 처리 메커니즘을 제공합니다.
- LLM 호출 실패를 처리하도록 성능 저하 체인 구성하기
- 스마트 신체 상태의 실시간 모니터링
- 작업 실행 시간 초과 제어
- 결과 유효성 검사 및 재시도 메커니즘
4. 모범 사례 권장 사항
- 책임이 중복되지 않도록 인텔리전스 간의 책임 분담을 합리화합니다.
- 작업 분류에 구조화된 접근 방식 사용
- 기본 제공 도구를 최대한 활용하여 효율성 향상
- 필요한 오류 처리 메커니즘 구현
- 코드의 모듈화 및 유지 보수성 유지
© 저작권 정책
기사 저작권 AI 공유 서클 모두 무단 복제하지 마세요.
관련 문서
댓글 없음...