Agentic Radar: Visualisierungswerkzeug für die Sicherheitsprüfung von Agentic-Workflows

Allgemeine Einführung

Agentic Radar ist ein Open-Source-Tool von SplxAI, das für das Scannen und den Schutz von KI-Workflows auf Basis großer Modelle (LLM) entwickelt wurde. Es hilft Entwicklern und Sicherheitsexperten, die Funktionsweise von KI-Systemen schnell zu verstehen und potenzielle Schwachstellen zu identifizieren, indem es den Code analysiert und klare Workflow-Diagramme und Sicherheitsberichte erstellt. Tool-Unterstützung CrewAI im Gesang antworten LangGraph Die Testergebnisse können auch anhand von Sicherheitsstandards wie den OWASP LLM Top 10 überprüft werden, so dass die Benutzer Probleme leicht erkennen können. Es ist einfach zu bedienen und alle Vorgänge werden lokal durchgeführt, um die Codesicherheit zu gewährleisten, was sich für die Verbesserung der Transparenz und Sicherheit von KI-Projekten eignet.

Funktionsliste

• Scannen von AI-WorkflowsAnalyse des Codes und Herausfinden der Struktur und der Funktionslogik des KI-Systems.
• Workflow-Diagramme generierenZeichnen Sie visuelle Abhängigkeitsdiagramme, die die Beziehungen zwischen Modulen und Werkzeugen zeigen.
• Liste der IdentifizierungsinstrumenteListe aller externen und benutzerdefinierten Tools, die vom System verwendet werden.
• Aufspüren von SicherheitsschwachstellenIdentifizierung potenzieller Risiken und Abgleich mit Kriterien wie den OWASP LLM Top 10.
• Unterstützung für mehrere FrameworksKompatibel mit CrewAI und LangGraph, mit Plänen zur Unterstützung weiterer Frameworks in der Zukunft.
• Ausgabe detaillierter BerichteGenerierung von Sicherheitsberichten im HTML-Format zur einfachen Anzeige und Weitergabe.
• lokaler BetriebAlle Scans werden auf dem Gerät des Benutzers durchgeführt und es wird kein Code hochgeladen.

Hilfe verwenden

Agentic Radar ist ein Kommandozeilen-Tool, das einfach zu installieren und zu verwenden ist. Im Folgenden finden Sie detaillierte Schritte, die Ihnen den Einstieg erleichtern.

Ablauf der Installation

1. Vorbereiten der Umgebung
   • Benötigt Python 3.9 oder höher, führen Sie python --version Prüfen.
   • Installieren Sie Git, um den Code von GitHub herunterzuladen.
   • Installieren Sie Graphviz und Cairo zur Erstellung von Workflow-Diagrammen:
     • MacMit Homebrew, führen Sie brew install graphviz im Gesang antworten brew install cairo.
     • Linux: Lauf sudo apt-get install graphviz im Gesang antworten sudo apt-get install libcairo2.
     • Windows (Computer)Installieren mit Chocolatey, ausführen choco install graphviz im Gesang antworten choco install cairo, oder laden Sie das Installationspaket manuell herunter.
2. Installation von Agentic Radar
   • Öffnen Sie ein Terminal und klonen Sie den Code:

     git clone https://github.com/splx-ai/agentic-radar.git
     

   • Besuchen Sie den Katalog:

     cd agentic-radar
     

   • Installationswerkzeuge:

     pip install .
     

   • Überprüfen Sie die Version, um die erfolgreiche Installation zu bestätigen:

     agentic-radar --version
     

     Zum Beispiel, die Rückkehr 0.2.0Das heißt, es gibt kein Problem.

3. Behandlung von Fragen der Abhängigkeit
   • Wenn eine Fehlermeldung über fehlende Bibliotheken erscheint, installieren Sie diese manuell:

     pip install pydot pydantic typer-slim jinja2
     

Verwendung

Agentic Radar ist einfach zu bedienen, da es Code scannt und Berichte über die Befehlszeile erstellt.

Basisscan

• Läuft im Terminal:

  agentic-radar -i . /Mein_Projekt -o Bericht.html

• -i Geben Sie den Code-Ordner an, z. B. . /Mein_Projekt.
• -o Geben Sie den Namen der Ausgabedatei an, z. B. bericht.html.

Spezifizierung des Rahmens

• Bei Verwendung von CrewAI:

  agentic-radar -i . /Mein_Projekt -o Bericht.html crewai
  

• Wenn Sie mit LangGraph:

  agentic-radar -i . /Mein_Projekt -o Bericht.html langgraph
  

Bericht ansehen

• Nach der Ausführung öffnen Sie die bericht.htmldie Folgendes umfasst:
  • Workflow-DiagrammZeigt die Modulbeziehungen mit Knoten und Pfeilen an, die zur Ansicht vergrößert und verkleinert werden können.
  • Liste der WerkzeugeAuflistung aller verwendeten Tools, wie APIs oder benutzerdefinierte Funktionen.
  • Schwachstellen-TabelleKennzeichnen Sie das Problem und ordnen Sie es den OWASP LLM Top 10 zu, z.B. "LLM02: Data Leakage".
  • AnregungKorrekturen wie z.B. das Hinzufügen einer Eingabevalidierung.

Probebetrieb

Nehmen wir an, Sie haben ein CrewAI-Projekt in . /chatbot Mappe:

1. Laufen:

   agentic-radar -i . /chatbot -o chatbot_report.html crewai
   

2. zeigen (eine Eintrittskarte) chatbot_berichterstattung.htmlSiehe:
   • So rufen Sie das Suchwerkzeug für Chat-Agenten auf.
   • Wenn das Suchwerkzeug nicht verschlüsselt ist, gibt der Bericht eine Warnung aus.
   • Es wird empfohlen, den API-Schlüssel zu schützen.

Featured Function Bedienung

1. Verwendung von Workflow-Diagrammen
   • Jeder Knoten im Diagramm ist ein Modul und die Pfeile stellen Abhängigkeiten dar. Zum Beispiel verweist "Datenverarbeitung" auf "Ausgabeerzeugung".
   • Ziehen oder zoomen Sie mit der Maus, um Details anzuzeigen.
2. Schwachstellenprüfung
   • Der Bericht listet das Problem auf, z. B. "Prompt Injection" (LLM01), und gibt die Codezeile an.
   • Wie vorgeschlagen behoben, z.B. Begrenzung der Länge der Benutzereingabe.
3. Erweiterte Unterstützung
   • Wenn Sie das neue Framework unterstützen möchten, können Sie den Code ändern und bei GitHub einreichen, um an der Entwicklung der Community teilzunehmen.

Häufig gestellte Fragen

• Der Befehl ist ungültig.Überprüfen Sie die Python- und PATH-Einstellungen.
• Diagramm wird nicht angezeigtVergewissern Sie sich, dass graphviz und cairo installiert sind, und starten Sie das Terminal neu.
• Geringe BerichterstattungÜberprüfen Sie den Eingabeordner, um sicherzustellen, dass Sie den vollständigen Code haben.

Hilfe bekommen

• in Bewegung sein agentic-radar --help Siehe weitere Optionen, wie z. B. die Anpassung des Ausgabepfads.

Anwendungsszenario

1. Fehlersuche in komplexen Projekten
   Das KI-System hat zu viele Module und läuft falsch. Durchsuchen Sie es mit Agentic Radar, und Sie können im Bild sehen, welche Teile nicht verbunden sind.
2. Inspektion vor dem Start
   Projekte in Betrieb genommen werden, verwenden Sie es, um zu scannen und sicherzustellen, dass es keine Schwachstellen gibt, insbesondere wenn es um Benutzerdaten geht.
3. Teamarbeit
   Bei der Entwicklung mit mehreren Personen ermöglichen die generierten Workflow-Diagramme allen Beteiligten, die Codestruktur schnell zu verstehen und die Effizienz zu verbessern.
4. Rahmen für das Lernen
   Wenn Sie neu in CrewAI sind, führen Sie das Tool aus und sehen Sie sich die Diagramme an, um zu verstehen, wie das Framework den Code organisiert.

QA

1. Kostet das Agentic Radar etwas?
   Völlig kostenlos, Open-Source-Projekt, Code auf GitHub nach Belieben.
2. Welche Sprachen werden unterstützt?
   Derzeit wird nur Python unterstützt, da die meisten KI-Frameworks in Python geschrieben sind.
3. Wird der Code hochgeladen?
   Nein, das Ganze läuft lokal und der Code verlässt Ihr Gerät nicht.
4. Wie kann ich sie aktualisieren?
   Gehen Sie zu GitHub, ziehen Sie den neuesten Code und führen Sie ihn erneut aus. pip install ..
5. Werden in Zukunft auch andere Frameworks unterstützt werden?
   Geplant ist, LlamaIndex, Swarm, AutoGen usw. hinzuzufügen, abhängig von den Beiträgen der Gemeinschaft.