Microsoft Erste Schritte mit KI-Agenten: Ein Überblick über KI-Agenten in einer Produktionsumgebung

kurz

Dieser Kurs behandelt:

• Wie man den Einsatz eines KI-Agenten in einer Produktionsumgebung effektiv plant.
• Häufige Fehler und Probleme, die bei der Bereitstellung von AI Agent in einer Produktionsumgebung auftreten können.
• Wie man die Kosten verwaltet und gleichzeitig die Leistung von AI-Agenten aufrechterhält.

Lernziel

Nach Abschluss dieses Kurses werden Sie wissen, wie man es macht/versteht:

• Techniken zur Verbesserung der Leistung, der Kosten und der Effizienz von KI-Agentensystemen für Produktionsumgebungen.
• Bewerten Sie den Inhalt und die Methoden von KI-Agenten.
• Kostenkontrolle bei der Bereitstellung von KI-Agenten in einer Produktionsumgebung.

Der Einsatz von vertrauenswürdigen KI-Agenten ist wichtig. Sehen Sie sich auch den Kurs "Aufbau vertrauenswürdiger KI-Agenten" an.

Evaluierung von AI-Agenten

Es ist von entscheidender Bedeutung, ein geeignetes System zur Bewertung von KI-Agenten vor, während und nach deren Einsatz zu haben. So wird sichergestellt, dass Ihr System mit Ihren Zielen und denen Ihrer Nutzer übereinstimmt.

Um einen KI-Agenten zu bewerten, ist es wichtig, nicht nur den Output des Agenten zu bewerten, sondern auch das gesamte System, in dem der KI-Agent läuft. Dies beinhaltet, ist aber nicht beschränkt auf:

• Ursprüngliche Modellanforderung.
• Die Fähigkeit des Agenten, die Absicht des Nutzers zu erkennen.
• Die Fähigkeit des Agenten, das richtige Werkzeug für die jeweilige Aufgabe zu erkennen.
• Die Antwort des Tools auf die Anfrage des Agenten.
• Die Fähigkeit des Agenten, die Antworten des Tools zu interpretieren.
• Benutzer-Feedback zu den Antworten des Agenten.

Auf diese Weise können Sie Bereiche mit Verbesserungsbedarf auf modularere Weise ermitteln. Sie können dann die Auswirkungen von Änderungen an Modellen, Hinweisen, Werkzeugen und anderen Komponenten besser überwachen.

Häufige Probleme und mögliche Lösungen für KI-Agenten

Verwaltungskosten

Im Folgenden finden Sie einige Strategien zur Verwaltung der Kosten für die Bereitstellung von KI-Agenten in einer Produktionsumgebung:

• Cache-Antwort - Die Identifizierung gemeinsamer Anfragen und Aufgaben und die Bereitstellung von Antworten, bevor sie Ihr Agentensystem durchlaufen, ist eine gute Möglichkeit, das Volumen ähnlicher Anfragen zu reduzieren. Sie können sogar einfachere KI-Modelle verwenden, um einen Prozess zu implementieren, der erkennt, wie ähnlich eine Anfrage einer zwischengespeicherten Anfrage ist.
• Einsatz von kleineren Modellen - Kleine Sprachmodelle (Small Language Models, SLMs) können in einigen Anwendungsfällen von Agenten gute Leistungen erbringen und die Kosten erheblich senken. Wie bereits erwähnt, ist der Aufbau eines Bewertungssystems zur Ermittlung und zum Vergleich der Leistung mit größeren Modellen der beste Weg, um zu verstehen, wie SLMs in Ihren Anwendungsfällen abschneiden werden.
• Verwendung des Router-Modells - Eine ähnliche Strategie ist die Verwendung einer Vielzahl von Modellen und Größen. Sie können große Sprachmodelle/kleine Sprachmodelle oder serverlose Funktionen verwenden, um Anfragen je nach Komplexität an das am besten geeignete Modell weiterzuleiten. Dies hilft ebenfalls, die Kosten zu senken und gleichzeitig die Leistung für die richtigen Aufgaben zu gewährleisten.

Herzlichen Glückwunsch

Dies ist die letzte Lektion von "KI-Agenten für Einsteiger".

Wir planen, auf der Grundlage von Rückmeldungen und Veränderungen in dieser wachsenden Branche weitere Kurse hinzuzufügen, besuchen Sie uns also in naher Zukunft wieder.