Introdução aos agentes de IA da Microsoft: uma visão geral dos agentes de IA em um ambiente de produção

breve

Este curso abrangerá:

• Como planejar efetivamente a implantação de um AI Agent em um ambiente de produção.
• Erros e problemas comuns que você pode encontrar ao implantar o AI Agent em um ambiente de produção.
• Como gerenciar os custos e, ao mesmo tempo, manter o desempenho do AI Agent.

meta de aprendizado

Após concluir este curso, você saberá como entender:

• Técnicas para melhorar o desempenho, o custo e a eficácia dos sistemas de agentes de IA para ambientes de produção.
• Avaliar o conteúdo e os métodos dos agentes de IA.
• Como controlar os custos ao implantar agentes de IA em um ambiente de produção.

A implantação de AI Agents confiáveis é importante. Confira também o curso Building Trusted AI Agents.

Avaliação de agentes de IA

É fundamental ter um sistema adequado para avaliar os agentes de IA antes, durante e depois de sua implementação. Isso garantirá que o sistema esteja alinhado às suas metas e às dos seus usuários.

Para avaliar um Agente de IA, é importante avaliar não apenas a saída do Agente, mas também todo o sistema no qual o Agente de IA está sendo executado. Isso inclui, mas não se limita a:

• Solicitação de modelo inicial.
• Capacidade do agente de reconhecer a intenção do usuário.
• Capacidade do agente de reconhecer a ferramenta certa para a tarefa.
• A resposta da ferramenta à solicitação do agente.
• Capacidade do agente de interpretar as respostas da ferramenta.
• Feedback do usuário sobre as respostas do agente.

Isso permite que você identifique áreas de melhoria de forma mais modular. Assim, você pode monitorar os efeitos das alterações em modelos, dicas, ferramentas e outros componentes com mais eficiência.

Problemas comuns e possíveis soluções para agentes de IA

custos de gerenciamento

Aqui estão algumas estratégias para gerenciar o custo da implantação de agentes de IA em um ambiente de produção:

• Resposta do cache - Identificar solicitações e tarefas comuns e fornecer respostas antes que elas passem pelo seu sistema de agentes é uma ótima maneira de reduzir o volume de solicitações semelhantes. Você pode até mesmo usar modelos de IA mais básicos para implementar um processo para identificar a semelhança de uma solicitação com uma solicitação armazenada em cache.
• Uso de modelos menores - Os modelos de linguagem pequenos (SLMs) podem ter um bom desempenho em alguns casos de uso do agente e reduzirão significativamente os custos. Conforme mencionado anteriormente, a criação de um sistema de avaliação para determinar e comparar o desempenho com modelos maiores é a melhor maneira de entender o desempenho dos SLMs em seus casos de uso.
• Usando o modelo de roteador - Uma estratégia semelhante é usar uma variedade de modelos e tamanhos. Você pode usar modelos de linguagem grandes/modelos de linguagem pequenos ou recursos sem servidor para rotear solicitações para o modelo mais adequado com base na complexidade. Isso também ajuda a reduzir os custos e, ao mesmo tempo, garante o desempenho das tarefas certas.

parabéns

Esta é a última lição de "Agentes de IA para iniciantes".

Planejamos continuar adicionando cursos com base no feedback e nas mudanças nesse setor em crescimento, portanto, volte a visitá-lo no futuro próximo.