Microsoft Начало работы с агентами ИИ: обзор агентов ИИ в производственной среде

Информация о курсеОпубликовано 6 месяцев назад Круг обмена ИИ

7.8K 00

краткое содержание

В этом курсе будут рассмотрены:

Как эффективно спланировать развертывание агента искусственного интеллекта в производственной среде.
Распространенные ошибки и проблемы, с которыми можно столкнуться при развертывании AI Agent в производственной среде.
Как управлять расходами, поддерживая производительность агента ИИ.

цель обучения

Пройдя этот курс, вы будете знать, как/понимать:

Методы повышения производительности, стоимости и эффективности систем AI Agent для производственных сред.
Оцените содержание и методы работы агентов искусственного интеллекта.
Как контролировать расходы при развертывании агентов искусственного интеллекта в производственной среде.

Развертывание доверенных агентов ИИ очень важно. Также ознакомьтесь с курсом "Создание доверенных агентов ИИ".

Оценка агентов искусственного интеллекта

Очень важно иметь надлежащую систему оценки агентов ИИ до, во время и после их развертывания. Это позволит убедиться, что система соответствует вашим целям и целям ваших пользователей.

Для оценки агента искусственного интеллекта важно оценить не только его результаты, но и всю систему, в которой он работает. Это включает, но не ограничивается:

Первоначальный запрос модели.
Способность агента распознавать намерения пользователя.
Способность агента распознать нужный инструмент для выполнения задачи.
Ответ инструмента на запрос агента.
Способность агента интерпретировать ответы инструмента.
Отзывы пользователей об ответах агентов.

Это позволяет выявлять области, требующие улучшения, более модульным способом. После этого вы сможете более эффективно отслеживать последствия изменений в моделях, подсказках, инструментах и других компонентах.

Общие проблемы и потенциальные решения для агентов ИИ

вопросы	Потенциальные решения
Агент искусственного интеллекта не может последовательно выполнять задания	- Улучшите сигналы для агентов ИИ; уточните цели. - Определите, в каких случаях целесообразно разделить задачу на подзадачи и поручить их выполнение нескольким агентам.
Агент искусственного интеллекта попадает в непрерывный цикл.	- Убедитесь, что у вас есть четкие условия прекращения работы, чтобы агент знал, когда нужно остановить процесс. - Для сложных задач, требующих рассуждений и планирования, используйте более крупные модели, специально разработанные для задач рассуждений.
Плохие вызовы агента искусственного интеллекта	- Тестирование и проверка результатов работы инструмента вне системы Agent. - Улучшены заданные параметры, подсказки и именование инструментов.
Мультиагентные системы не могут работать стабильно	- Улучшите подсказки, даваемые каждому агенту, чтобы они были конкретными и отличались друг от друга. - Постройте иерархическую систему, используя "Маршрут" или агентов-контроллеров, чтобы определить, какой агент является правильным.

управленческие расходы

Вот несколько стратегий управления затратами на развертывание агентов искусственного интеллекта в производственной среде:

Ответ кэша - Выявление общих запросов и задач и предоставление ответов на них до того, как они пройдут через вашу систему Agent, - отличный способ сократить объем похожих запросов. Вы даже можете использовать более простые модели искусственного интеллекта для реализации процесса определения того, насколько запрос похож на кэшированный запрос.
Использование небольших моделей - Малые языковые модели (МЯМ) могут хорошо работать в некоторых случаях использования агента и значительно сократить расходы. Как упоминалось ранее, создание системы оценки для определения и сравнения производительности с более крупными моделями - лучший способ понять, как SLM будут работать в ваших сценариях использования.
Использование модели маршрутизатора - Аналогичная стратегия заключается в использовании различных моделей и размеров. Вы можете использовать большие языковые модели/малые языковые модели или бессерверные функции, чтобы направлять запросы к наиболее подходящей модели в зависимости от сложности. Это также помогает сократить расходы, обеспечивая производительность для нужных задач.

Поздравляем

Это последний урок курса "Агенты искусственного интеллекта для начинающих".

Мы планируем продолжать добавлять курсы, основываясь на отзывах и изменениях в этой растущей индустрии, поэтому, пожалуйста, посетите нас снова в ближайшем будущем.