Primeros pasos de Microsoft con los agentes de IA: Visión general de los agentes de IA en entornos de producción

Información sobre el cursoPublicado hace 6 meses Círculo de intercambio de inteligencia artificial

9.5K 00

breve

Este curso abarcará:

Cómo planificar eficazmente el despliegue de un agente de IA en un entorno de producción.
Errores y problemas comunes que puede encontrar al desplegar el Agente AI en un entorno de producción.
Cómo gestionar los costes manteniendo el rendimiento del agente de IA.

objetivo de aprendizaje

Tras completar este curso, sabrá cómo/comprender:

Técnicas para mejorar el rendimiento, el coste y la eficacia de los sistemas de agentes de IA para entornos de producción.
Evaluar el contenido y los métodos de los agentes de IA.
Cómo controlar los costes al implantar agentes de IA en un entorno de producción.

Desplegar Agentes de Inteligencia Artificial de confianza es importante. Consulta también el curso Creación de agentes de IA de confianza.

Evaluación de los agentes de IA

Es fundamental contar con un sistema adecuado para evaluar los agentes de IA antes, durante y después de su despliegue. Esto garantizará que su sistema esté alineado con sus objetivos y los de sus usuarios.

Para evaluar un Agente de IA, es importante evaluar no sólo la salida del Agente, sino también todo el sistema en el que se está ejecutando el Agente de IA. Esto incluye, pero no se limita a:

Solicitud de modelo inicial.
Capacidad del agente para reconocer la intención del usuario.
Capacidad del agente para reconocer la herramienta adecuada para la tarea.
Respuesta de la herramienta a la solicitud del Agente.
Capacidad del agente para interpretar las respuestas de las herramientas.
Comentarios de los usuarios sobre las respuestas de los agentes.

Esto le permite identificar áreas de mejora de forma más modular. Así podrá supervisar más eficazmente los efectos de los cambios en modelos, sugerencias, herramientas y otros componentes.

Problemas comunes y posibles soluciones para los agentes de IA

cuestiones	Posibles soluciones
El agente de IA no realiza las tareas de forma coherente	- Mejorar las indicaciones a los Agentes de IA; aclarar los objetivos. - Determine en qué casos sería útil dividir la tarea en subtareas y que varios agentes se encarguen de ellas.
El agente de la IA está atrapado en un bucle continuo.	- Asegúrese de tener claros los términos y condiciones de terminación para que el Agente sepa cuándo detener el proceso. - Para tareas complejas que requieran razonamiento y planificación, utilice modelos más grandes diseñados específicamente para tareas de razonamiento.
Malas llamadas a la herramienta AI Agent	- Pruebe y valide la salida de la herramienta fuera del sistema Agente. - Mejora de los parámetros definidos, las sugerencias y la nomenclatura de las herramientas.
Los sistemas multiagente no funcionan de forma coherente	- Mejorar las pistas que se dan a cada Agente para que sean específicas y diferentes entre sí. - Construir un sistema jerárquico utilizando Agentes "Ruta" o Controladores para determinar qué Agente es el correcto.

costes de gestión

He aquí algunas estrategias para gestionar el coste de la implantación de agentes de IA en un entorno de producción:

Respuesta de la caché - Identificar solicitudes y tareas comunes y proporcionar respuestas antes de que pasen por su sistema de Agentes es una excelente forma de reducir el volumen de solicitudes similares. Incluso puede utilizar modelos de IA más básicos para implementar un proceso que identifique la similitud entre una solicitud y otra almacenada en caché.
Uso de modelos más pequeños - Los modelos lingüísticos pequeños (SLM) pueden funcionar bien en algunos casos de uso del Agente y reducirán significativamente los costes. Como se ha mencionado anteriormente, la creación de un sistema de evaluación para determinar y comparar el rendimiento con modelos más grandes es la mejor manera de entender cómo se comportarán los SLM en sus casos de uso.
Utilizar el modelo de enrutador - Una estrategia similar consiste en utilizar una variedad de modelos y tamaños. Puede utilizar modelos lingüísticos grandes/modelos lingüísticos pequeños o funciones sin servidor para dirigir las solicitudes al modelo más adecuado en función de la complejidad. Esto también ayuda a reducir costes al tiempo que garantiza el rendimiento para las tareas adecuadas.

enhorabuena

Esta es la última lección de "Agentes de IA para principiantes".

Tenemos previsto seguir añadiendo cursos en función de los comentarios y los cambios que se produzcan en este sector en crecimiento, así que vuelva a visitarnos en un futuro próximo.