Microsoft Getting Started with AI Agents : Une vue d'ensemble des agents d'intelligence artificielle dans un environnement de production

bref

Ce cours couvre les points suivants

• Comment planifier efficacement le déploiement d'un agent d'intelligence artificielle dans un environnement de production.
• Erreurs et problèmes courants que vous pouvez rencontrer lors du déploiement d'AI Agent dans un environnement de production.
• Comment gérer les coûts tout en maintenant la performance des agents d'IA.

objectif d'apprentissage

A l'issue de cette formation, vous saurez comment/comprendre :

• Techniques visant à améliorer les performances, le coût et l'efficacité des systèmes d'agents d'intelligence artificielle dans les environnements de production.
• Évaluer le contenu et les méthodes des agents d'intelligence artificielle.
• Comment maîtriser les coûts lors du déploiement d'agents d'intelligence artificielle dans un environnement de production.

Il est important de déployer des agents d'IA de confiance. Consultez également le cours Construire des agents d'IA de confiance.

Évaluation des agents d'intelligence artificielle

Il est essentiel de disposer d'un système approprié pour évaluer les agents d'IA avant, pendant et après leur déploiement. Cela permettra de s'assurer que votre système est aligné sur vos objectifs et ceux de vos utilisateurs.

Pour évaluer un agent d'intelligence artificielle, il est important d'évaluer non seulement les résultats de l'agent, mais aussi l'ensemble du système dans lequel l'agent d'intelligence artificielle fonctionne. Cela comprend, entre autres, les éléments suivants

• Demande de modèle initial.
• Capacité de l'agent à reconnaître l'intention de l'utilisateur.
• Capacité de l'agent à reconnaître l'outil adéquat pour la tâche à accomplir.
• Réponse de l'outil à la demande de l'agent.
• Capacité de l'agent à interpréter les réponses de l'outil.
• Commentaires des utilisateurs sur les réponses de l'agent.

Cela vous permet d'identifier les domaines à améliorer de manière plus modulaire. Vous pouvez alors contrôler plus efficacement les effets des changements apportés aux modèles, aux conseils, aux outils et aux autres composants.

Problèmes courants et solutions potentielles pour les agents d'intelligence artificielle

coûts de gestion

Voici quelques stratégies pour gérer le coût du déploiement d'agents d'intelligence artificielle dans un environnement de production :

• Réponse du cache - Identifier les demandes et les tâches communes et fournir des réponses avant qu'elles ne passent par votre système d'agents est un excellent moyen de réduire le volume de demandes similaires. Vous pouvez même utiliser des modèles d'IA plus basiques pour mettre en œuvre un processus permettant d'identifier la similitude d'une demande avec une demande mise en cache.
• Utilisation de modèles plus petits - Les petits modèles linguistiques (SLM) peuvent donner de bons résultats dans certains cas d'utilisation de l'agent et réduisent considérablement les coûts. Comme nous l'avons déjà mentionné, la mise en place d'un système d'évaluation pour déterminer et comparer les performances avec des modèles plus importants est le meilleur moyen de comprendre comment les SLM se comporteront dans vos cas d'utilisation.
• Utilisation du modèle de routeur - Une stratégie similaire consiste à utiliser une variété de modèles et de tailles. Vous pouvez utiliser de grands modèles de langage/petits modèles de langage ou des fonctionnalités sans serveur pour acheminer les demandes vers le modèle le plus approprié en fonction de la complexité. Cela permet également de réduire les coûts tout en garantissant des performances pour les bonnes tâches.

félicitations

Ceci est la dernière leçon de "AI Agents for Beginners".

Nous avons l'intention de continuer à ajouter des cours en fonction des réactions et des changements dans ce secteur en pleine croissance, alors n'hésitez pas à revenir dans un avenir proche.