AgentIQ: Ein Open-Source-Tool für die flexible Anbindung und Verwaltung von KI-Intelligenzen

Allgemeine Einführung

AgentIQ ist ein Open-Source-Tool von NVIDIA, das Entwicklern helfen soll, KI-Intelligenzen effizient zu verbinden und zu verwalten. Es ermöglicht Intelligenzen aus verschiedenen Frameworks die nahtlose Zusammenarbeit, die Verbindung von Unternehmensdaten und -tools sowie die Erstellung von Workflows wie dem Aufruf von Funktionen. Die besten Eigenschaften des Tools sind Flexibilität und Wiederverwendbarkeit, die es Entwicklern ermöglichen, KI-Aufgaben schnell zu entwickeln, zu optimieren und wiederzuverwenden. agentIQ bietet Performance-Analysen und eine Visualisierungsschnittstelle für Unternehmen, um zuverlässige KI-Systeme aufzubauen. Ab März 2025 sind die offizielle Dokumentation und die GitHub-Seite die neuesten Informationsquellen.

Funktionsliste

• Unterstützung beliebiger Frameworks: Kompatibel mit LangChain, LlamaIndex usw., keine Notwendigkeit, den Technologie-Stack zu ändern.
• Wiederverwendbares Design: Intelligente Systeme, Werkzeuge und Arbeitsabläufe können wiederverwendet werden, was Entwicklungszeit spart.
• Schnelle Entwicklung: Es werden vorgefertigte Module bereitgestellt, die von Entwicklern direkt geändert und verwendet werden können.
• Leistungsanalyse: Verfolgung der Laufzeit der einzelnen Smartbodies und Token Verbrauch zu senken und die Effizienz zu optimieren.
• Beobachtbarkeit: Unterstützt OpenTelemetry-Tools zur einfachen Überwachung und Fehlersuche.
• Bewertungssystem: integrierte Tools zur Überprüfung der Genauigkeit des Arbeitsablaufs.
• Chat-Schnittstelle: Interagieren Sie mit den Intelligenzen über die Benutzeroberfläche, um die Ergebnisse anzuzeigen.
• MCP Unterstützung: Kompatibel mit dem Model Context Protocol, kann externe Tools aufrufen.

Hilfe verwenden

AgentIQ basiert auf Python Open Source Tools, ist einfach zu installieren und für Entwickler geeignet. Im Folgenden finden Sie eine detaillierte Beschreibung der Installation und Bedienung.

Einbauverfahren

Vergewissern Sie sich vor der Installation, dass Ihr Computer über Git, Git LFS und uv tools verfügt. Hier sind die Schritte:

1. Klonen der Codebasis
   Geben Sie ihn in das Terminal ein:

git clone git@github.com:NVIDIA/AgentIQ.git agentiq
cd agentiq

Dadurch wird AgentIQ lokal heruntergeladen.

2. Aktualisierung von Untermodulen
   Eingabe:

git submodule update --init --recursive

Holen Sie sich abhängige externe Module.

3. Datensatz herunterladen
   Wenn Beispieldaten erforderlich sind, führen Sie den Befehl aus:

git lfs install
git lfs fetch
git lfs pull

4. Erstellen einer Python-Umgebung
   Verwenden Sie uv, um eine virtuelle Umgebung zu erstellen:

uv venv --seed .venv
source .venv/bin/activate  # Linux/Mac
.venv\Scripts\activate     # Windows

5. Installation von Kernbibliotheken
   Installieren Sie AgentIQ und alle optionalen Abhängigkeiten:

uv sync --all-groups --all-extras

Wenn nur die Kernfunktionen installiert sind:

uv sync

Sie möchten bestimmte Plugins laden (z.B. LangChain):

uv pip install -e '.[langchain]'

Abhängigkeiten bei der Leistungsanalyse:

uv pip install -e '.[profiling]'

6. Überprüfen der Installation
   Überprüfen Sie die Version:

aiq --version

Die Anzeige der Versionsnummer ist erfolgreich.

Verwendung der wichtigsten Funktionen

Nach der Installation können Sie mit der Nutzung von AgentIQ beginnen. Im Folgenden finden Sie eine Schritt-für-Schritt-Anleitung zu den Kernfunktionen:

Arbeitsabläufe erstellen

AgentIQ bezeichnet Intelligenzen und Werkzeuge als Funktionen. Definieren Sie Aufgaben mit YAML-Dateien. Zum Beispiel:

• einrichten. workflow.yaml::

functions:
wikipedia_search:
_type: wiki_search
max_results: 2
llms:
nim_llm:
_type: nim
model_name: meta/llama-3.1-70b-instruct
temperature: 0.0
workflow:
_type: react_agent
tool_names: [wikipedia_search]
llm_name: nim_llm
verbose: true
retry_parsing_errors: true
max_retries: 3

• Laufen:

aiq run --config_file workflow.yaml --input "列出五种土豚亚种"

In der Ausgabe werden die Antworten aufgelistet.

Leistungsanalyse

Überwachen Sie die Workflow-Leistung:

aiq run --config_file workflow.yaml --profile

Die Ergebnisse zeigen die verstrichene Zeit und den Tokenverbrauch für jeden Smart Body, um die Optimierung zu erleichtern.

Visualisierungsoberfläche

Starten Sie die UI:

aiq ui

Öffnen Sie http://localhost:8000 in Ihrem Browser, geben Sie Ihre Frage ein, und der intelligente Körper wird sie in Echtzeit beantworten.

Datenintegration

Verbinden Sie sich mit der Datenquelle im workflow.yaml Hinzufügen:

data_sources:
- type: "csv"
path: "data/sales.csv"

Nach der Ausführung kann der Smart Body die Dateidaten verarbeiten.

Arbeitsablauf der Bewertung

Überprüfen Sie die Genauigkeit:

aiq evaluate --config_file workflow.yaml

Das System prüft, ob die Ausgabe den Erwartungen entspricht.

Featured Function Bedienung

Die Highlights von AgentIQ sind Flexibilität und Beobachtbarkeit. Zum Beispiel:

• Multi-Intelligenz-ZusammenarbeitKonfigurieren Sie eine Intelligenz, um Code zu erzeugen, eine andere, um ihn zu testen, und passen Sie ihn automatisch an, bis er erfolgreich ist.
• Komponenten während der Prüfung anpassenOpenTelemetry: Verwenden Sie das OpenTelemetry-Tool, um zu sehen, wie die einzelnen Schritte ablaufen und um Probleme zu erkennen.

Um den vollen Funktionsumfang zu erfahren, empfiehlt es sich, das offizielle Beispiel heranzuziehen:

cd examples/simple
uv pip install -e '.[langchain]'
aiq run --config_file workflow.yaml

Anwendungsszenario

1. Entwicklung der Automatisierung
   Generieren und testen Sie Code mit AgentIQ für schnelles Prototyping.
   Eine Intelligenz schreibt den Code, die andere führt die Tests durch, und die Ergebnisse werden direkt ausgegeben.
2. Unternehmensdatenverarbeitung
   Verbindet Verkaufsdaten und erstellt automatisch analytische Berichte.
   Intelligentsia liest CSV-Dateien und gibt Diagramme aus.
3. Kundenbetreuung
   Konfigurieren Sie Intelligenzen, um häufige Fragen zu beantworten und die Effizienz zu verbessern.
   Die Benutzer geben über die Benutzeroberfläche Fragen ein, und der intelligente Körper antwortet in Echtzeit.

QA

1. Benötigen Sie einen API-Schlüssel?
   Ja, ein NVIDIA-API-Schlüssel ist erforderlich, um die Beispiele auszuführen. Registrieren Sie sich dafür unter https://build.nvidia.com.
2. Welche Sprachmodelle werden unterstützt?
   Es werden mehrere NIM-Modelle unterstützt, die über eine Konfigurationsdatei angegeben werden können, z. B. Llama-3.1-70b.
3. Wie gebe ich Feedback zu einem Problem?
   Senden Sie die Ausgabe an https://github.com/NVIDIA/AgentIQ/issues.