Orquestra: Criando equipes de IA inteligentes para um desenvolvimento colaborativo multiinteligência mais fácil e eficiente

Introdução geral

O Orchestra é uma estrutura Python leve e inovadora, focada na criação de sistemas colaborativos de várias inteligências com base no Large Language Model (LLM). Ele adota um método exclusivo de organização de inteligências para que várias inteligências de IA possam trabalhar em harmonia como uma orquestra sinfônica. Por meio do projeto de arquitetura modular, os desenvolvedores podem facilmente criar, estender e integrar vários tipos de inteligências para obter a decomposição e a colaboração de tarefas complexas. A Orchestra é compatível com GPT-4, Claude 3 e outros grandes modelos convencionais e oferece um rico conjunto de ferramentas integradas, incluindo rastreamento da Web, processamento de arquivos, interação com o GitHub e outras funções. Seus recursos excepcionais são a definição simples de ferramentas, a saída de streaming em tempo real, o elegante mecanismo de tratamento de erros e o processo de execução de tarefas baseado no modo de pensamento estruturado. Como a versão avançada do TaskflowAI, a Orchestra tem o compromisso de fornecer aos desenvolvedores uma estrutura de desenvolvimento de aplicativos de IA mais poderosa e flexível.

Lista de funções

• Sistema inteligente de arranjo da carroceriaInteligência de suporte para atuar como executores e comandantes ao mesmo tempo, realizando a decomposição dinâmica de tarefas e a coordenação entre inteligências.
• Arquitetura modular: Fornece um design extensível e baseado em componentes para facilitar a criação e a integração de funcionalidades personalizadas
• Suporte a vários modelosIntegração com OpenAI, Anthropic, Openrouter, Ollama, Groq e muitos outros provedores de LLM
• conjunto de ferramentas incorporadasInclui ferramentas da Web, ferramentas de arquivo, ferramentas do GitHub, ferramentas de cálculo e muitos outros utilitários
• processamento de fluxo em tempo realSuporte para streaming síncrono e assíncrono de saídas em tempo real
• Mecanismo de tratamento de errosTratamento inteligente de falhas e cadeias de degradação configuráveis
• Tarefas estruturadas: Reduzir a carga cognitiva do LLM por meio da implementação em fases
• Definição da ferramenta SimplicityDefinição de ferramenta simples baseada em cadeias de documentos, sem a necessidade de padrões JSON complexos.

Usando a Ajuda

1. configuração da instalação

A instalação da estrutura do Orchestra é muito simples, basta usar o pip para executar o seguinte comando.

pip install mainframe-orchestra

2. processo de uso básico

2.1 Criação de uma inteligência única

from mainframe_orchestra import Agent, Task, OpenaiModels, WebTools
# 创建研究助手智能体
research_agent = Agent(
role="研究助手",
goal="回答用户查询",
llm=OpenaiModels.gpt_4o,
tools={WebTools.exa_search}
)
# 定义研究任务
def research_task(topic):
return Task.create(
agent=research_agent,
instruction=f"使用搜索工具研究{topic}并进行通俗易懂的解释"
)

2.2 Criação de equipes de inteligência múltipla

A Orchestra apoia a criação de várias inteligências especializadas trabalhando juntas, por exemplo, formando equipes de análise financeira.

1. Analista de mercado - responsável pela análise da microestrutura do mercado
2. Analista fundamentalista - Responsável pela análise financeira das empresas
3. Analista técnico - responsável pela análise de gráficos de preços
4. Analista de sentimentos - responsável pela análise de sentimentos do mercado
5. Comandante de Inteligência - responsável pela coordenação de outras inteligências

3. uso de funções avançadas

3.1 Integração de ferramentas

A Orchestra oferece uma variedade de ferramentas integradas.

• WebTools: rastreamento da Web, pesquisa, API de clima, etc.
• FileTools: CSV, JSON, XML e outras operações de arquivo
• GitHubTools: Ferramentas de interação do repositório de código
• CalculatorTools: Calculadora de data e hora
• WikipediaTools: Recuperação de informações da Wikipédia
• AmadeusTools: Busca de informações de voo

3.2 Desenvolvimento de ferramentas personalizadas

É possível definir suas próprias ferramentas por meio de cadeias de documentos simples.

def custom_tool(param1: str, param2: int) -> str:
"""工具描述
Args:
param1: 参数1说明
param2: 参数2说明
Returns:
返回值说明
"""
# 工具实现代码

3.3 Tratamento de erros e controle de processos

O Orchestra oferece mecanismos sofisticados de tratamento de erros.

• Configuração da cadeia de degradação para lidar com falhas de chamadas ao LLM
• Monitoramento em tempo real do status do smart body
• Controle de tempo limite de execução de tarefas
• Mecanismo de validação e repetição de resultados

4. recomendações de melhores práticas

• Racionalizar a divisão de responsabilidades entre as inteligências para evitar a sobreposição de responsabilidades
• Usar uma abordagem estruturada para a divisão de tarefas
• Faça uso total das ferramentas incorporadas para aumentar a eficiência
• Implementar os mecanismos de tratamento de erros necessários
• Manter o código modular e passível de manutenção