Agentic Radar : outil de visualisation pour l'inspection de la sécurité du flux de travail Agentic

Introduction générale

Agentic Radar est un outil open source de SplxAI conçu pour analyser et protéger les flux de travail d'IA basés sur de grands modèles (LLM). Il aide les développeurs et les experts en sécurité à comprendre rapidement le fonctionnement des systèmes d'IA et à identifier les vulnérabilités potentielles en analysant le code et en générant des diagrammes de flux de travail clairs et des rapports de sécurité. Support de l'outil CrewAI répondre en chantant LangGraph Les résultats des tests peuvent également être comparés à des normes de sécurité telles que OWASP LLM Top 10, ce qui permet aux utilisateurs de localiser facilement les problèmes. Il est facile à utiliser et toutes les opérations sont effectuées localement pour garantir la sécurité du code, ce qui convient pour améliorer la transparence et la sécurité des projets d'IA.

Liste des fonctions

• Analyse des flux de travail de l'IAAnalyse du code et détermination de la structure et de la logique opérationnelle du système d'intelligence artificielle.
• Générer des diagrammes de flux de travailLes outils d'aide à la décision : Dessinez des diagrammes de dépendance visuels montrant les relations entre les modules et les outils.
• Liste des outils d'identificationOutils : liste de tous les outils externes et personnalisés utilisés par le système.
• Détection des failles de sécuritéIdentifier les risques potentiels et les faire correspondre à des critères tels que le Top 10 de l'OWASP LLM.
• Prise en charge de plusieurs cadresCompatible avec CrewAI et LangGraph, avec des projets de prise en charge d'autres frameworks à l'avenir.
• Produire des rapports détaillésLes rapports de sécurité sont générés au format HTML pour une visualisation et un partage aisés.
• opération localeLa numérisation s'effectue sur l'appareil de l'utilisateur et aucun code n'est téléchargé.

Utiliser l'aide

Agentic Radar est un outil en ligne de commande facile à installer et à utiliser. Vous trouverez ci-dessous les étapes détaillées pour vous aider à démarrer à partir de zéro.

Processus d'installation

1. Préparation de l'environnement
   • Nécessite Python 3.9 ou plus, exécuter python --version Vérifier.
   • Installer Git pour télécharger du code depuis GitHub.
   • Installer graphviz et cairo pour générer des diagrammes de flux de travail :
     • MacPour l'utilisation de Homebrew, lancez brew install graphviz répondre en chantant brew install cairo.
     • Linux: Run sudo apt-get install graphviz répondre en chantant sudo apt-get install libcairo2.
     • Windows (ordinateur)Installation avec Chocolatey, exécutez choco install graphviz répondre en chantant choco install cairoou téléchargez le paquet d'installation manuellement.
2. Installation d'un radar agentique
   • Ouvrez un terminal et clonez le code :

     git clone https://github.com/splx-ai/agentic-radar.git
     

   • Accéder au catalogue :

     cd agentic-radar
     

   • Outils d'installation :

     pip install .
     

   • Vérifiez la version pour confirmer la réussite de l'installation :

     agentic-radar --version
     

     Par exemple, en renvoyant 0.2.0Cela signifie qu'il n'y a pas de problème.

3. Aborder les questions de dépendance
   • Si une erreur est signalée concernant des bibliothèques manquantes, installez-les manuellement :

     pip install pydot pydantic typer-slim jinja2
     

Utilisation

Agentic Radar est facile à utiliser en analysant le code et en générant des rapports à partir de la ligne de commande.

balayage de base

• S'exécute dans le terminal :

  agentic-radar -i ./my_project -o report.html

• -i Spécifiez le dossier du code, par exemple ./my_project.
• -o Indiquez le nom du fichier de rapport de sortie, par exemple report.html.

Spécification du cadre

• Si vous utilisez CrewAI :

  agentic-radar -i ./my_project -o report.html crewai
  

• Si vous utilisez LangGraph :

  agentic-radar -i ./my_project -o report.html langgraph
  

Voir le rapport

• Après l'exécution, ouvrez le report.htmlqui est inclus :
  • diagramme de flux de travailLa page des relations entre les modules montre les relations entre les modules à l'aide de nœuds et de flèches qui peuvent être agrandis ou réduits pour être visualisés.
  • Liste des outils: liste tous les outils utilisés, tels que les API ou les fonctions personnalisées.
  • tableau de vulnérabilité: Étiqueter le problème et le faire correspondre au Top 10 LLM de l'OWASP, par exemple "LLM02 : Data Leakage" (fuite de données).
  • suggestionLes corrections à apporter, telles que l'ajout d'une validation des données saisies.

opération d'échantillonnage

Supposons que vous ayez un projet CrewAI dans ./chatbot Dossier :

1. La course à pied :

   agentic-radar -i ./chatbot -o chatbot_report.html crewai
   

2. spectacle (un billet) chatbot_report.htmlVoir :
   • Comment appeler l'outil de recherche pour les agents de chat.
   • Si l'outil de recherche n'est pas crypté, le rapport prévient.
   • Il est recommandé d'ajouter la protection de la clé API.

Fonction en vedette Fonctionnement

1. Utilisation de diagrammes de flux de travail
   • Chaque nœud du diagramme est un module et les flèches représentent les dépendances. Par exemple, "Traitement des données" pointe vers "Génération de sorties".
   • Faites glisser ou zoomez avec votre souris pour afficher les détails.
2. tests de vulnérabilité
   • Le rapport énumère le problème, tel que "prompt injection" (LLM01), et indique la ligne de code.
   • Corrigé comme suggéré, par exemple en limitant la longueur de la saisie de l'utilisateur.
3. Soutien étendu
   • Si vous souhaitez soutenir le nouveau cadre, vous pouvez modifier le code et le soumettre à GitHub pour participer au développement de la communauté.

Problèmes courants résolus...

• La commande n'est pas valide.: Vérifier les paramètres de Python et de PATH.
• Le graphique ne s'affiche pas: Assurez-vous que graphviz et cairo sont installés et redémarrez le terminal.
• Peu de rapportsLe code d'entrée : Vérifiez le dossier d'entrée pour vous assurer que vous avez bien le code complet.

Obtenir de l'aide

• être en mouvement agentic-radar --help Voir d'autres options, telles que le réglage du chemin de sortie.

scénario d'application

1. Débogage de projets complexes
   Le système d'IA a trop de modules et fonctionne mal. Balayez-le avec le radar agentique, et vous pourrez voir sur l'image quelles parties ne sont pas connectées.
2. Inspection avant le lancement
   Les projets sont en cours de mise en œuvre, utilisez-le pour analyser et vérifier qu'il n'y a pas de vulnérabilités, en particulier en ce qui concerne les données des utilisateurs.
3. Travail d'équipe
   Lorsque le développement se fait avec plusieurs personnes, les diagrammes de flux de travail générés permettent à chacun de comprendre rapidement la structure du code et d'améliorer l'efficacité.
4. Cadre d'apprentissage
   Si vous ne connaissez pas CrewAI, lancez l'outil et regardez les diagrammes pour comprendre comment le cadre organise le code.

QA

1. Le Radar Agentic coûte-t-il quelque chose ?
   Projet totalement gratuit, open source, code sur GitHub à volonté.
2. Quelles sont les langues prises en charge ?
   Seul Python est pris en charge pour l'instant, car les frameworks d'IA sont principalement écrits en Python.
3. Le code sera-t-il téléchargé ?
   Non, l'ensemble fonctionne localement et le code ne quitte pas votre appareil.
4. Comment puis-je le mettre à jour ?
   Allez sur GitHub, récupérez le dernier code et exécutez-le à nouveau. pip install ..
5. D'autres cadres seront-ils pris en charge à l'avenir ?
   Nous prévoyons d'ajouter LlamaIndex, Swarm, AutoGen, etc., en fonction des contributions de la communauté.