Agentic Radar: herramienta de visualización para la inspección de la seguridad del flujo de trabajo de Agentic

Introducción general

Agentic Radar es una herramienta de código abierto de SplxAI diseñada para escanear y proteger grandes flujos de trabajo de IA basados en modelos (LLM). Ayuda a los desarrolladores y expertos en seguridad a comprender rápidamente cómo funcionan los sistemas de IA y a identificar posibles vulnerabilidades analizando el código y generando diagramas de flujo de trabajo e informes de seguridad claros. Soporte de herramientas CrewAI responder cantando LangGraph Los resultados de las pruebas también se pueden cotejar con estándares de seguridad como OWASP LLM Top 10, lo que facilita a los usuarios la localización de problemas. Es fácil de usar y todas las operaciones se realizan localmente para garantizar la seguridad del código, lo que resulta adecuado para mejorar la transparencia y la seguridad de los proyectos de IA.

Lista de funciones

• Exploración de flujos de trabajo de IAAnaliza el código y determina la estructura y la lógica de funcionamiento del sistema de inteligencia artificial.
• Generar diagramas de flujo de trabajo: Dibuja diagramas de dependencia visuales que muestren las relaciones entre módulos y herramientas.
• Lista de herramientas de identificaciónLista todas las herramientas externas y personalizadas utilizadas por el sistema.
• Detección de vulnerabilidades de seguridadIdentificar riesgos potenciales y criterios de coincidencia como OWASP LLM Top 10.
• Compatibilidad con varios marcosCompatible con CrewAI y LangGraph, con planes para soportar más frameworks en el futuro.
• Informes detalladosGenerar informes de seguridad en formato HTML para visualizarlos y compartirlos fácilmente.
• funcionamiento localEl escaneado se realiza en el dispositivo del usuario y no se carga ningún código.

Utilizar la ayuda

Agentic Radar es una herramienta de línea de comandos fácil de instalar y utilizar. A continuación se detallan los pasos para ayudarle a empezar desde cero.

Proceso de instalación

1. Preparar el entorno
   • Requiere Python 3.9 o superior, ejecutar python --version Compruébalo.
   • Instala Git para descargar código de GitHub.
   • Instale graphviz y cairo para generar diagramas de flujo de trabajo:
     • MacUtilizando Homebrew, ejecute brew install graphviz responder cantando brew install cairo.
     • Linux: Ejecutar sudo apt-get install graphviz responder cantando sudo apt-get install libcairo2.
     • Windows (ordenador)Instalar con Chocolatey, ejecute choco install graphviz responder cantando choco install cairoo descargue el paquete de instalación manualmente.
2. Instalación de Agentic Radar
   • Abre un terminal y clona el código:

     git clone https://github.com/splx-ai/agentic-radar.git
     

   • Ir al catálogo:

     cd agentic-radar
     

   • Herramientas de instalación:

     pip install .
     

   • Compruebe la versión para confirmar que la instalación se ha realizado correctamente:

     agentic-radar --version
     

     Por ejemplo, devolver 0.2.0Eso significa que no hay ningún problema.

3. Abordar los problemas de dependencia
   • Si se informa de un error por falta de bibliotecas, instálelas manualmente:

     pip install pydot pydantic typer-slim jinja2
     

Utilización

Agentic Radar es fácil de usar, ya que escanea el código y genera informes desde la línea de comandos.

exploración básica

• Se ejecuta en el terminal:

  agentic-radar -i ./my_project -o report.html

• -i Especifique la carpeta de códigos, por ejemplo ./my_project.
• -o Especifique el nombre del archivo del informe de salida, por ejemplo report.html.

Especificación del marco

• Si utiliza CrewAI:

  agentic-radar -i ./my_project -o report.html crewai
  

• Si utiliza LangGraph:

  agentic-radar -i ./my_project -o report.html langgraph
  

Ver informe

• Después de ejecutarlo, abra el report.htmlque incluye:
  • diagrama de flujo de trabajo: Muestra las relaciones entre módulos con nodos y flechas que pueden ampliarse y reducirse para su visualización.
  • Lista de herramientas: Enumera todas las herramientas utilizadas, como API o funciones personalizadas.
  • tabla de vulnerabilidadesEtiqueta el problema y corresponde al OWASP LLM Top 10, por ejemplo "LLM02: Data Leakage".
  • sugerencia: Dar correcciones como añadir validación de entrada.

operación de muestreo

Digamos que tienes un proyecto CrewAI en ./chatbot Carpeta:

1. Corriendo:

   agentic-radar -i ./chatbot -o chatbot_report.html crewai
   

2. espectáculo (una entrada) chatbot_report.htmlVer:
   • Cómo llamar a la herramienta de búsqueda de agentes de chat.
   • Si la herramienta de búsqueda no está encriptada, el informe avisará.
   • Se recomienda añadir la protección de la clave API.

Función destacada Operación

1. Utilización de diagramas de flujo de trabajo
   • Cada nodo del diagrama es un módulo y las flechas son dependencias. Por ejemplo, "Procesamiento de datos" apunta a "Generación de salida".
   • Arrastre o haga zoom con el ratón para ver los detalles.
2. pruebas de vulnerabilidad
   • El informe enumerará el problema, como "inyección puntual" (LLM01), e indicará la línea de código.
   • Corregido según lo sugerido, por ejemplo, limitando la longitud de la entrada del usuario.
3. Asistencia ampliada
   • Si quieres apoyar el nuevo framework, puedes cambiar el código y enviarlo a GitHub para participar en el desarrollo de la comunidad.

Preguntas frecuentes

• El comando no es válido.Compruebe la configuración de Python y PATH.
• Gráfico no visualizado: Asegúrese de que graphviz y cairo están instalados y reinicie el terminal.
• Información escasa: Comprueba la carpeta de entrada para asegurarte de que tienes el código completo.

Obtener ayuda

• estar en movimiento agentic-radar --help Ver más opciones, como ajustar la ruta de salida.

escenario de aplicación

1. Depuración de proyectos complejos
   El sistema de IA tiene demasiados módulos y funciona mal. Barrelo con el Radar Agentico, y podras ver en la imagen que partes no estan conectadas.
2. Inspección previa al lanzamiento
   Los proyectos se están poniendo en marcha, utilícelo para escanear y asegurarse de que no hay vulnerabilidades, especialmente en lo que se refiere a los datos de los usuarios.
3. Trabajo en equipo
   Cuando se desarrolla con varias personas, los diagramas de flujo de trabajo generados permiten que todos comprendan rápidamente la estructura del código y mejoran la eficacia.
4. Marco de aprendizaje
   Si eres nuevo en CrewAI, ejecuta la herramienta y observa los diagramas para comprender cómo organiza el código el marco de trabajo.

CONTROL DE CALIDAD

1. ¿Tiene algún coste el Radar Agentic?
   Totalmente gratuito, proyecto de código abierto, código en GitHub a voluntad.
2. ¿Qué idiomas se admiten?
   Ahora sólo se admite Python, porque la mayoría de los marcos de IA están escritos en Python.
3. ¿Se cargará el código?
   No, todo se ejecuta localmente y el código no sale de tu dispositivo.
4. ¿Cómo se actualiza?
   Ve a GitHub, extrae el código más reciente y ejecútalo de nuevo. pip install ..
5. ¿Se admitirán otros marcos en el futuro?
   Will, planea añadir LlamaIndex, Swarm, AutoGen, etc., dependiendo de las contribuciones de la comunidad.