Оркестр: Создание умных команд ИИ для более простой и эффективной совместной разработки мультиинтеллекта

Общее введение

Orchestra - это инновационный легкий фреймворк на Python, ориентированный на создание многоинтеллектуальных совместных систем на основе Большой языковой модели (LLM). Он использует уникальный метод организации интеллектов таким образом, чтобы несколько ИИ-интеллектов могли работать в гармонии, как симфонический оркестр. Благодаря модульной архитектуре разработчики могут легко создавать, расширять и интегрировать различные типы интеллектов для декомпозиции и совместной работы над сложными задачами. Orchestra поддерживает GPT-4, Claude 3 и другие основные большие модели, а также предоставляет богатый набор встроенных инструментов, включая веб-ползание, обработку файлов, взаимодействие с GitHub и другие функции. Его выдающимися особенностями являются простое определение инструментов, потоковый вывод в реальном времени, элегантный механизм обработки ошибок и процесс выполнения задач, основанный на структурированном режиме мышления. Являясь усовершенствованной версией TaskflowAI, Orchestra стремится предоставить разработчикам более мощный и гибкий механизм разработки приложений искусственного интеллекта.

Список функций

• Интеллектуальная система компоновки кузова:: Поддержка интеллектов для одновременного выполнения функций исполнителей и командиров, реализация динамической декомпозиции задач и межинтеллектуальной координации.
• Модульная архитектура:: Обеспечить расширяемый компонентный дизайн для легкого создания и интеграции пользовательской функциональности
• Поддержка нескольких моделей: Интеграция с OpenAI, Anthropic, Openrouter, Ollama, Groq и многими другими провайдерами LLM.
• встроенный набор инструментов: Включает в себя веб-инструменты, инструменты для работы с файлами, инструменты GitHub, инструменты для вычислений и многие другие утилиты.
• обработка потоков в реальном времени:: Поддержка синхронной и асинхронной потоковой передачи выходных данных в реальном времени
• Механизм обработки ошибок: Встроенная интеллектуальная обработка отказов и настраиваемые цепочки деградации
• Структурированная постановка задач:: Снижение когнитивного бремени LLM путем поэтапного внедрения
• Определение инструмента простоты: Простое определение инструмента на основе строк документа, без необходимости использования сложных шаблонов JSON.

Использование помощи

1. конфигурация установки

Установка фреймворка Orchestra очень проста, просто выполните следующую команду с помощью pip.

pip install mainframe-orchestra

2. Основной процесс использования

2.1 Создание единой разведки

from mainframe_orchestra import Agent, Task, OpenaiModels, WebTools
# 创建研究助手智能体
research_agent = Agent(
role="研究助手",
goal="回答用户查询",
llm=OpenaiModels.gpt_4o,
tools={WebTools.exa_search}
)
# 定义研究任务
def research_task(topic):
return Task.create(
agent=research_agent,
instruction=f"使用搜索工具研究{topic}并进行通俗易懂的解释"
)

2.2 Создание мультиразведывательных групп

Оркестр поддерживает создание нескольких специализированных интеллектов, работающих вместе, например, создание команд финансового анализа.

1. Аналитик рынка - отвечает за анализ микроструктуры рынка
2. Фундаментальный аналитик - отвечает за финансовый анализ компаний
3. Технический аналитик - отвечает за анализ ценовых графиков
4. Аналитик по настроениям - отвечает за анализ настроений на рынке
5. Командир разведки - отвечает за координацию работы других разведок

3. Использование расширенных функций

3.1 Интеграция инструментов

Orchestra предлагает множество встроенных инструментов.

• WebTools: веб-ползание, поиск, погодный API и т.д.
• FileTools: CSV, JSON, XML и другие операции с файлами
• GitHubTools: инструменты взаимодействия с репозиторием кода
• CalculatorTools: Калькулятор даты и времени
• WikipediaTools: информационный поиск по Википедии
• AmadeusTools: поиск информации о рейсах

3.2 Разработка специализированных инструментов

Можно определить собственные инструменты с помощью простых строк документов.

def custom_tool(param1: str, param2: int) -> str:
"""工具描述
Args:
param1: 参数1说明
param2: 参数2说明
Returns:
返回值说明
"""
# 工具实现代码

3.3 Обработка ошибок и управление процессом

Orchestra предоставляет сложные механизмы обработки ошибок.

• Настройка цепочки деградации для обработки отказов вызовов LLM
• Мониторинг состояния "умного" тела в режиме реального времени
• Контроль таймаута выполнения задачи
• Проверка результатов и механизм повторных попыток

4. Рекомендации по лучшей практике

• Рационализируйте распределение обязанностей между интеллектами, чтобы избежать дублирования обязанностей.
• Используйте структурированный подход к разбивке задач
• Полностью используйте встроенные инструменты для повышения эффективности
• Реализуйте необходимые механизмы обработки ошибок
• Обеспечьте модульность и ремонтопригодность кода