Топ-5 фреймворков агентов искусственного интеллекта, которыми стоит заняться в 2025 году

Агент Наиболее распространенный перевод, который я встречал до сих пор, - "разумное тело", но прямой перевод - "агент".

А что означает "агентурный"? Думаю, что-то вроде "агентурный" было бы более уместно.

Чтобы не запутать читателя, в этой статье я буду использовать непосредственно английский язык.

По мере развития LLM возможности ИИ больше не ограничиваются автоматизацией простых задач; они могут обрабатывать сложные и непрерывные рабочие процессы. Например, с помощью LLM можно создать интеллектуальных помощников, которые будут автоматически заказывать товары на платформах электронной коммерции и организовывать доставку вместо пользователя. ЭтиАссистенты на основе LLM известны как агенты искусственного интеллекта.

Если говорить более конкретно, агент ИИ - это интеллектуальный помощник, управляемый LLM, который может помогать в выполнении определенных задач и инструментов на основе заранее заданных задач и инструментов. В самом базовом виде агент ИИ обладает следующими ключевыми характеристиками:

• управление памятью: Агент ИИ может хранить и управлять записями взаимодействия с пользователями.
• Взаимодействие с внешними источниками данных: Способность взаимодействовать с внешними системами для получения данных или выполнения задач.
• выполнение функций: Фактическая работа выполняется вызовом функций.

Например, агент искусственного интеллекта может выполнять следующие задачи:

• Бронирование ресторановНапример, ИИ-агент в ресторанной системе может помогать пользователям бронировать места онлайн, сравнивать различные рестораны и звонить в них напрямую с помощью голосового взаимодействия.
• Коллеги по виртуальному сотрудничествуИИ-агент может выступать в роли "маленького секретаря" вашего проекта, сотрудничая с пользователями в решении конкретных задач.
• Автоматизация ежедневных операцийАгенты искусственного интеллекта способны выполнять многоэтапные операции и даже выполнять повседневные компьютерные действия. Например, Replit Agent может имитировать действия разработчиков в среде разработки, автоматически устанавливая зависимости и редактируя код; Anthropic's Компьютер Агент по использованию может направлять Клод Работайте с компьютером обычными для пользователей способами, включая перемещение мыши, нажатие кнопок и ввод текста.

В то время как мы можем создавать ИИ-агенты с нуля, используя такие технологические стеки, как Python, React и т. д., можно создавать ИИ-агенты с нуля с помощью таких технологий, как Phidata, OpenAI Swarm, LangGraph, Microsoft Autogen, CrewAI, Vertex AI, и Langflow Процесс разработки становится более эффективным при использовании мультиагентных фреймворков, таких как AI Assistant. Эти фреймворки предоставляют готовые инструменты и функции, которые помогают быстро создавать ИИ-ассистентов.

В чем же преимущества использования этих фреймворков?

1. Выбор правильного LLM: Вы можете использовать такие LLM, как OpenAI, Anthropic, xAI, Mistral и т.д., в зависимости от конкретного сценария применения, или такие LLM, как Оллама и инструменты, такие как LM Studio, для создания агентов ИИ.
2. Добавить базу знаний: Эти фреймворки позволяют добавлять определенные документы (например, json, pdf-файлы или веб-сайты) в качестве баз знаний, чтобы помочь агенту ИИ получить и понять информацию.
3. Встроенная функция памятиНе нужно создавать сложные системы для хранения и управления транскриптами чатов или персонализированными беседами. Фреймворк оснащен функцией памяти, которая помогает ИИ-агенту запоминать и получать доступ к предыдущим взаимодействиям в течение долгого времени.
4. Инструменты настройки: Мультиагентный фреймворк позволяет нам добавлять пользовательские инструменты к ИИ-агенту и легко интегрировать его с внешними системами для выполнения таких операций, как онлайн-платежи, веб-поиск, вызовы API, поиск в базе данных, просмотр видео, отправка электронной почты и многое другое.
5. Упрощение инженерных задач: Эти фреймворки помогают нам упростить сложные инженерные задачи, такие как управление знаниями и памятью, тем самым снижая технические сложности при разработке продуктов ИИ.
6. Ускоренная разработка и развертываниеФреймворк предоставляет инструменты и инфраструктуру, необходимые для создания систем ИИ, помогая нам быстрее разрабатывать и развертывать системы ИИ на облачных платформах, таких как AWS.

С помощью этих фреймворков мы сможем легче разрабатывать эффективные и интеллектуальные агенты искусственного интеллекта для повышения скорости и качества разработки продуктов.

Далее мы рассмотрим пять лучших платформ для создания ИИ-агентов, чтобы помочь вам начать работу и создать своего собственного ИИ-ассистента!

Основная структура агента

В следующем фрагменте кода показан один из простейших агентов ИИ. Агент ИИ решает задачи с помощью языковой модели.Определение агента ИИ может включать выбор больших или малых языковых моделей, памяти, хранилища, внешних источников знаний, векторных баз данных, инструкций, описаний, имен и т. д. Определение агента ИИ может включать выбор языковых моделей, памяти, хранилища, внешних источников знаний, векторных баз данных, инструкций, описаний, имен и т. д.

Например, что-то вроде Виндсерфинг Современный ИИ-агент, подобный этому, может помочь любому человеку быстро генерировать, запускать, редактировать, создавать и развертывать полнофункциональные веб-приложения. Он поддерживает генерацию кода и создание приложений для широкого спектра веб-технологий и баз данных, таких как Astro, Vite, Next.js, Superbase и других.

Примеры применения мультиагентов на предприятиях

Агентные системы искусственного интеллекта находят широкое применение в корпоративной среде.Особенно при выполнении автоматизированных и повторяющихся задач. Вот основные сценарии применения, в которых AI Agent может быть полезен в корпоративном пространстве:

• Звонки и другие анализыАнализируйте видеозвонки участников, чтобы получить представление о настроениях, намерениях и удовлетворенности людей. Мультиагентные системы отлично справляются с анализом и составлением отчетов о намерениях, демографических характеристиках и взаимодействии пользователей. Их аналитические и отчетные возможности помогают организациям ориентироваться на клиентов или рынки.
• Классификация вызовов: Автоматическое распределение вызовов по категориям в зависимости от пропускной способности и силы сети участников для эффективной обработки.
• Слушание рынка: Мониторинг и анализ настроения клиентов в рыночных приложениях.
• Анализ опросов и комментариев: Используйте отзывы клиентов и данные опросов для получения информации и улучшения качества обслуживания клиентов.
• Управление командировками и расходами: Автоматизация отчетности о расходах, их отслеживание и утверждение.
• Диалоговое банковское дело: Помощь клиентам в банковских операциях с помощью чата или голосовых помощников на базе искусственного интеллекта.
• Универсальный искусственный интеллект поддерживает чат-боты: Агенты службы поддержки клиентов могут рассматривать жалобы клиентов, устранять неполадки и делегировать сложные задачи другим агентам.
• финансы: Финансовый агент может использоваться для прогнозирования экономических, фондовых и рыночных тенденций и предоставления практических советов по инвестированию.
• рынок: Маркетинговые команды компаний могут использовать агентов искусственного интеллекта для создания персонализированного контента и рекламных копий для различных целевых аудиторий, чтобы повысить конверсию.
• продажи (представитель, договор и т.д.)ИИ-агент поможет проанализировать модели взаимодействия с клиентами в системе и поможет отделам продаж сосредоточиться на конверсии лидов.
• навык: В технологической отрасли AI Coding Agent помогает разработчикам и инженерам стать более продуктивными, ускоряя завершение кода, генерацию, автоматизацию, тестирование и исправление ошибок.

Пятиагентная система на 2024 год

Для создания и добавления агентов в приложения и сервисы можно использовать несколько фреймворков Python. Среди этих фреймворков есть инструменты без кода (визуальные сборщики агентов ИИ), с низким и средним кодом. Сейчас я познакомлю вас с пятью лучшими конструкторами агентов на основе Python в 2024 году, чтобы вы могли выбирать в соответствии с потребностями вашего бизнеса.

1 Фидата

Phidata Это основанный на Python фреймворк для превращения LLM в агентов в продуктах искусственного интеллекта, поддерживающий закрытые и открытые LLM от таких крупных игроков, как OpenAI, Anthropic, Cohere, Ollama и Вместе AI и т. д. Благодаря поддержке баз данных и векторных хранилищ мы можем легко подключать системы искусственного интеллекта к Postgres, PgVector, Pinecone, LanceDb и многим другим. С помощью Phidata мы можем создавать базовые агенты, а также продвинутые агенты с вызовами функций, структурированным выводом и тонкой настройкой.

Ключевые особенности Phidata

• Встроенный пользовательский интерфейс агентаPhidata предоставляет готовый пользовательский интерфейс для запуска проектов Агента локально или в облаке и управления сессиями в фоновом режиме.
• развертывания: Агент можно опубликовать на GitHub или в любом облачном сервисе, а также подключить учетную запись AWS, чтобы развернуть его в производственной среде.
• Мониторинг ключевых показателей: Предоставляет снимки сессий, вызовов API, использования токенов, а также поддерживает настройку параметров и улучшение Агента.
• Поддержка шаблонов: Ускорьте процесс разработки и производства агентов ИИ с помощью предварительно настроенных шаблонов кодовой базы.
• Поддержка AWSPhidata легко интегрируется с AWS и может запускать полноценные приложения на AWS-аккаунтах.
• Независимость модели: Поддержка использования новейших технологий от OpenAI, Anthropic, Groq и Мистраль и другие продвинутые модели и API-ключи.
• Построение мультиагентных систем: Используя Phidata, вы можете создать команду агентов, которые будут передавать друг другу задания и совместно решать сложные задачи; Phidata легко справляется с координацией агентов в фоновом режиме.

Сейчас я покажу вам, как использовать фреймворк Phidata и LLM от OpenAI для создания базового ИИ-агента на Python, который запрашивает финансовые данные Yahoo Finance, предназначенные для сбора рекомендаций от аналитиков различных компаний через Yahoo Finance.

Установите зависимости:

Создайте новый файл financial_agent.py:

import openai
from phi.agent import Agent
from phi.model.openai import OpenAIChat
from phi.tools.yfinance import YFinanceTools
from dotenv import load_dotenv
import os


# 从 .env 文件加载环境变量
load_dotenv()


# 从环境中获取 API 密钥
openai.api_key = os.getenv("OPENAI_API_KEY")


# 初始化 Agent 
finance_agent = Agent(
name="Finance AI Agent",
model=OpenAIChat(id="gpt-4o"),
tools=[
YFinanceTools(
stock_price=True,
analyst_recommendations=True,
company_info=True,
company_news=True,
)
],
instructions=["Use tables to display data"],
show_tool_calls=True,
markdown=True,
)


# 输出分析师对 NVDA 的推荐摘要
finance_agent.print_response("Summarize analyst recommendations for NVDA", stream=True)

Код выше:

1. Импорт модулей и загрузка ключей API
   Сначала импортируйте необходимые модули и пакеты и загрузите API-ключ OpenAI через файл .env. Эта загрузка API-ключей также применима к другим поставщикам моделей, таким как Anthropic, Mistral и Groq.
2. Создание прокси-сервера
   Используйте класс Agent компании Phidata для создания нового агента и определения его уникальных функций и возможностей, включая модели, инструменты, команды и многое другое.
3. Печать ответа
   Вызовите метод print_response для вывода ответа агента на вопрос и укажите, следует ли отображать его в виде потока (stream=True).

2 Рой

Рой Недавно компания OpenAI выпустила экспериментальный Agent framework с открытым исходным кодом, представляющий собой легковесный Multi-Agent orchestration framework.

принимать к сведению: Swarm все еще находится на стадии эксперимента. Его можно использовать для разработки и в образовательных целях, но не рекомендуется применять в производственных средах. Для получения последней информации вы можете обратиться к официальному репозиторию:

https://github.com/openai/swarm

Использование роя Агенты ответить пением Передачи В качестве абстракции для оркестровки и координации агентов. это легковесный фреймворк, который легко тестировать и управлять. Агенты Swarm могут быть сконфигурированы с помощью инструментов, команд и других параметров для выполнения конкретных задач.

Помимо легкой и простой архитектуры, Swarm обладает следующими ключевыми особенностями:

1. передать следующему поколению: Swarm поддерживает построение многоагентных систем, в которых один агент может в любой момент передать разговор другим агентам.
2. масштабируемость: Благодаря упрощенной архитектуре передачи данных Swarm позволяет легко создавать системы агентов, способные поддерживать миллионы пользователей.
3. масштабируемостьSwarm разработан с учетом широких возможностей настройки и может быть использован для создания полностью индивидуального опыта агента.
4. Встроенная система поиска и работа с памятью: Swarm имеет встроенную функциональность для хранения и обработки диалогового контента.
5. КонфиденциальностьSwarm работает преимущественно на стороне клиента и не сохраняет состояние между вызовами, что значительно повышает конфиденциальность данных.
6. образовательные ресурсы: Swarm предоставляет разработчикам ряд примеров приложений Multi-Agent от базовых до продвинутых, на которых можно тестировать и учиться.

Далее я покажу вам, как использовать Swarm:

from swarm import Swarm, Agent

# 初始化 Swarm 客户端
client = Swarm()
mini_model = "gpt-4o-mini"

# 定义协调函数，用于将任务交接给 Agent B
def transfer_to_agent_b():
return agent_b

# 定义 Agent A
agent_a = Agent(
name="Agent A",
instructions="You are a helpful assistant.",
functions=[transfer_to_agent_b],
)

# 定义 Agent B
agent_b = Agent(
name="Agent B",
model=mini_model,
instructions="You speak only in Finnish.",
)

# 运行 Agent 系统并获取响应
response = client.run(
agent=agent_a,
messages=[{"role": "user", "content": "I want to talk to Agent B."}],
debug=False,
)

# 打印 Agent B 的响应
print(response.messages[-1]["content"])

приведённый выше код

1. 1. инициализация
      • Swarm используется для создания экземпляра клиента.
      • Агент определяет имя, функции и языковую модель агента (например, gpt-4o-mini).
   2. логика перехода

transfer_to_agent_b - функция-координатор, передающая задания от агента_a к агенту_b.

1. 1. Работающая система агентов

client.run() запускает систему агентов, передавая сообщения и отладочные параметры для отслеживания выполнения задачи.

Если вы измените язык в команде для agent_b на другой (например, английский, шведский, финский), вы получите ответ на соответствующем языке.

3 CrewAI

CrewAI Один из самых популярных фреймворков для быстрого создания ИИ-агентов и их интеграции в новейшие LLM и кодовые базы. Крупные компании, такие как Oracle, Deloitte, Accenture и другие, используют и доверяют CrewAI.

CrewAI более богата и универсальна, чем другие агент-ориентированные системы.

1. масштабируемостьПоддерживает интеграцию с более чем 700 приложениями, включая Notion, Zoom, Stripe, Mailchimp, Airtable и другие.
2. артефакт
   • Разработчики могут использовать фреймворк CrewAI для создания мультиагентных систем автоматизации с нуля.
   • Дизайнеры могут создавать полнофункциональные агенты в среде, свободной от кода, с помощью UI Studio и инструментов шаблонов.
3. развертыванияВы можете использовать предпочтительный метод развертывания для быстрого переноса агента разработки в производственную среду.
4. Мониторинг агентовКак и Phidata, CrewAI предоставляет интуитивно понятные панели для мониторинга прогресса и производительности агентов.
5. Встроенные средства обученияИспользуйте встроенные в CrewAI инструменты обучения и тестирования, чтобы повысить производительность и эффективность работы агента и обеспечить качество его ответов.

Сначала нам нужно установить CrewAI:

Приведенная выше команда устанавливает CrewAI и его инструменты и проверяет, что установка прошла успешно.

После завершения установки вы можете выполнить следующую команду для создания нового проекта CrewAI:

После выполнения этой команды нам будет предложено выбрать одного из следующих провайдеров моделей, например OpenAI, Anthropic, xAI, Mistral и т. д. После выбора провайдера можно также выбрать конкретную модель из списка, например gpt-4o-mini.

Для создания мультиагентной системы можно использовать следующие команды:

Полная версия приложения CrewAI была выложена в репозиторий GitHub, и ее можно загрузить и запустить следующей командой:

https://github.com/GetStream/stream-tutorial-projects/tree/main/AI/Multi-Agent-AI

После его выполнения вы увидите результат ответа, похожий на следующий:

4  Автоген

Автоген это фреймворк с открытым исходным кодом для создания агентских систем. С помощью этого фреймворка вы можете создавать мультиагентные совместные работы и рабочие процессы LLM.

Autogen обладает следующими ключевыми особенностями:

1. межъязыковая поддержкаСоздавайте агенты с помощью таких языков программирования, как Python и .
2. Местный агентАгенты можно запускать и экспериментировать локально, чтобы обеспечить большую конфиденциальность.
3. асинхронная передача сообщенийИспользуйте асинхронные сообщения для связи между Агентами.
4. масштабируемостьПоддерживает разработчиков в создании распределенных агентских сетей для совместной работы в организациях.
5. НастраиваемостьНастройте и создайте полностью индивидуальную систему Agent с помощью подключаемых компонентов.

Следующий блок кода создает простую систему агента погоды с искусственным интеллектом:

import asyncio
from autogen_agentchat.agents import AssistantAgent
from autogen_agentchat.task import Console, TextMentionTermination
from autogen_agentchat.teams import RoundRobinGroupChat
from autogen_ext.models import OpenAIChatCompletionClient

import os
from dotenv import load_dotenv

load_dotenv()

# 定义工具
async def get_weather(city: str) -> str:
return f"The weather in {city} is 73 degrees and Sunny."

async def main() -> None:
# 定义 Agent
weather_agent = AssistantAgent(
name="weather_agent",
model_client=OpenAIChatCompletionClient(
model="gpt-4o-mini",
api_key=os.getenv("OPENAI_API_KEY"),
),
tools=[get_weather],
)

# 定义终止条件
termination = TextMentionTermination("TERMINATE")

    # 定义 Agent 团队
agent_team = RoundRobinGroupChat([weather_agent], termination_condition=termination)

# 运行团队并将消息流至控制台
stream = agent_team.run_stream(task="What is the weather in New York?")
await Console(stream)

asyncio.run(main())

приведённый выше код

1. Определение инструмента: get_weather - пример утилитарной функции, которая возвращает информацию о погоде в городе.
2. Определение агента: Определите агента с помощью AssistantAgent и установите модель клиента на GPT-4o-mini от OpenAI. Ключ API загружается из файла .env.
3. Условия расторжения договора: Определите условие завершения через TextMentionTermination, которое завершает задачу при упоминании "TERMINATE".
4. Команда агентов: Используйте RoundRobinGroupChat, чтобы создать команду агентов, которые будут распределять задания по принципу опроса.

После выполнения этого кода в консоли появится вывод, похожий на следующий:

5 LangGraph

LangGraph LangGraph - это основанный на узлах фреймворк ИИ, предназначенный для создания мультиагентных систем, решающих сложные задачи. Являясь частью экосистемы LangChain, LangGraph представляет собой граф-структурированный агентный фреймворк. Пользователи могут строить линейные, иерархические и последовательные рабочие процессы с помощью узлов и ребер. Среди них.Узелпредставляет собой действие агента.Крайобозначающий переход между действиями.Государствоэто еще одна важная часть агента LangGraph.

Преимущества и ключевые особенности LangGraph

1. свободный и открытый исходный кодLangGraph - свободная библиотека под лицензией MIT с открытым исходным кодом.
2. Поддержка потокового вещанияОбеспечивает стенографическую поддержку, чтобы показать промежуточные шаги и мыслительные процессы агента.
3. Варианты развертыванияПоддерживается многократное масштабное развертывание, а производительность агента можно отслеживать через LangSmith. Опция Enterprise позволяет развернуть LangGraph полностью на собственной инфраструктуре пользователя.
4. Адаптация предприятияReplit Использование LangGraph для работы агента кодирования искусственного интеллекта демонстрирует возможность применения LangGraph в корпоративном секторе.
5. высокая производительностьОтсутствие дополнительной нагрузки на код при работе со сложными рабочими процессами агентов.
6. Циркуляция и управляемостьЛегко определяйте многоагентные рабочие процессы, включающие циклы, и получайте полный контроль над состоянием агента.
7. объективизацияLangGraph автоматически сохраняет состояние агента после каждого шага в графе, а также поддерживает приостановку и возобновление выполнения графа в любой момент.

Перейдите по указанному ниже адресу, чтобы загрузить пример кода:

https://langchain-ai.github.io/langgraph/