Agentic Radar: ferramenta de visualização para inspeção de segurança do fluxo de trabalho Agentic

Introdução geral

O Agentic Radar é uma ferramenta de código aberto da SplxAI projetada para escanear e proteger fluxos de trabalho de IA baseados em modelos grandes (LLM). Ele ajuda os desenvolvedores e especialistas em segurança a entender rapidamente como os sistemas de IA funcionam e a identificar possíveis vulnerabilidades, analisando o código e gerando diagramas claros de fluxo de trabalho e relatórios de segurança. Suporte à ferramenta CrewAI responder cantando LangGraph Os resultados dos testes também podem ser verificados em relação aos padrões de segurança, como o OWASP LLM Top 10, facilitando a localização de problemas pelos usuários. Ele é fácil de usar e todas as operações são feitas localmente para garantir a segurança do código, o que é adequado para melhorar a transparência e a segurança dos projetos de IA.

Lista de funções

• Fluxos de trabalho de IA de varreduraAnálise do código e classificação da estrutura e da lógica operacional do sistema de IA.
• Gerar diagramas de fluxo de trabalhoDiagramas de dependência visual: desenhe diagramas de dependência visual mostrando as relações entre módulos e ferramentas.
• Lista de ferramentas de identificaçãoFerramenta externa: Lista todas as ferramentas externas e personalizadas usadas pelo sistema.
• Detecção de vulnerabilidades de segurançaIdentificação de riscos potenciais e critérios de correspondência, como o OWASP LLM Top 10.
• Suporte a várias estruturasCompatível com CrewAI e LangGraph, com planos de oferecer suporte a mais estruturas no futuro.
• Emitir relatórios detalhadosGeração de relatórios de segurança em formato HTML para facilitar a visualização e o compartilhamento.
• operação localDigitalização: Toda a digitalização é feita no dispositivo do usuário e nenhum código é carregado.

Usando a Ajuda

O Agentic Radar é uma ferramenta de linha de comando fácil de instalar e usar. Abaixo estão as etapas detalhadas para ajudá-lo a começar do zero.

Processo de instalação

1. Preparação do ambiente
   • Requer Python 3.9 ou superior, execute python --versão Verificar.
   • Instale o Git para fazer download do código do GitHub.
   • Instale o graphviz e o cairo para gerar diagramas de fluxo de trabalho:
     • Mac: Usando o Homebrew, execute brew install graphviz responder cantando brew install cairo.
     • Linux: Executar sudo apt-get install graphviz responder cantando sudo apt-get install libcairo2.
     • Windows (computador): Instale com o Chocolatey, execute choco install graphviz responder cantando choco install cairoou faça o download do pacote de instalação manualmente.
2. Instalação do Agentic Radar
   • Abra um terminal e clone o código:

     git clone https://github.com/splx-ai/agentic-radar.git
     

   • Acesse o catálogo:

     cd agentic-radar
     

   • Ferramentas de instalação:

     pip install .
     

   • Verifique a versão para confirmar a instalação bem-sucedida:

     agentic-radar --versão
     

     Por exemplo, retornar 0.2.0Isso significa que não há problema algum.

3. Abordagem de problemas de dependência
   • Se for relatado um erro sobre bibliotecas ausentes, instale-as manualmente:

     pip install pydot pydantic typer-slim jinja2
     

Uso

O Agentic Radar é fácil de usar, pois examina o código e gera relatórios a partir da linha de comando.

varredura básica

• É executado no terminal:

  agentic-radar -i . /my_project -o report.html

• -i Especifique a pasta do código, por exemplo. . /meu_projeto.
• -o Especifique o nome do arquivo do relatório de saída, por exemplo relatório.html.

Especificando a estrutura

• Se estiver usando o CrewAI:

  agentic-radar -i . /my_project -o report.html crewai
  

• Se você usar o LangGraph:

  agentic-radar -i . /my_project -o report.html langgraph
  

Exibir relatório

• Após a execução, abra o relatório.htmlque está incluído:
  • diagrama de fluxo de trabalhoMódulo de relacionamento: Mostra os relacionamentos do módulo com nós e setas que podem ser ampliados e reduzidos para visualização.
  • Lista de ferramentasLista de todas as ferramentas usadas, como APIs ou funções personalizadas.
  • tabela de vulnerabilidadeIdentificação do problema e correspondência com o OWASP LLM Top 10, por exemplo, "LLM02: vazamento de dados".
  • sugestãoCorreções, como a adição de validação de entrada.

operação de amostra

Digamos que você tenha um projeto CrewAI em . /chatbot Pasta:

1. Em execução:

   agentic-radar -i . /chatbot -o chatbot_report.html crewai
   

2. show (um ingresso) chatbot_report.htmlVeja:
   • Como chamar a ferramenta de pesquisa para agentes de chat.
   • Se a ferramenta de pesquisa não estiver criptografada, o relatório avisará.
   • É recomendável que você adicione proteção de chave de API.

Operação da função em destaque

1. Uso de diagramas de fluxo de trabalho
   • Cada nó do diagrama é um módulo e as setas são dependências. Por exemplo, "Data Processing" (Processamento de dados) aponta para "Output Generation" (Geração de saída).
   • Arraste ou dê zoom com o mouse para visualizar os detalhes.
2. teste de vulnerabilidade
   • O relatório listará o problema, como "prompt injection" (LLM01), e indicará a linha de código.
   • Corrigido conforme sugerido, por exemplo, limitando o comprimento da entrada do usuário.
3. Suporte estendido
   • Se você quiser oferecer suporte à nova estrutura, poderá alterar o código e enviá-lo ao GitHub para participar do desenvolvimento da comunidade.

Perguntas frequentes

• O comando é inválido.Verifique as configurações de Python e PATH.
• O gráfico não é exibidoVerifique se o graphviz e o cairo estão instalados e reinicie o terminal.
• Baixo número de relatóriosVerifique a pasta de entrada para ter certeza de que você tem o código completo.

Obtendo ajuda

• estar em movimento agentic-radar --help Veja mais opções, como o ajuste do caminho de saída.

cenário do aplicativo

1. Depuração de projetos complexos
   O sistema de IA tem muitos módulos e está funcionando de forma errada. Faça uma varredura com o Agentic Radar e você poderá ver na imagem quais partes não estão conectadas.
2. Inspeção pré-lançamento
   Se os projetos estiverem em andamento, use-o para fazer uma varredura e garantir que não haja vulnerabilidades, especialmente no que diz respeito aos dados do usuário.
3. Trabalho em equipe
   Ao desenvolver com várias pessoas, os diagramas de fluxo de trabalho gerados permitem que todos entendam rapidamente a estrutura do código e aumentem a eficiência.
4. Estrutura de aprendizado
   Quando for novo no CrewAI, execute a ferramenta e examine os diagramas para entender como a estrutura organiza o código.

QA

1. O Agentic Radar tem algum custo?
   Totalmente gratuito, projeto de código aberto, código no GitHub à vontade.
2. Quais são os idiomas suportados?
   Somente o Python é suportado agora, porque as estruturas de IA são, em sua maioria, escritas em Python.
3. O código será carregado?
   Não, tudo é executado localmente e o código não sai de seu dispositivo.
4. Como faço para atualizá-lo?
   Acesse o GitHub, obtenha o código mais recente e execute-o novamente. pip install ..
5. Haverá suporte para outras estruturas no futuro?
   Planejará adicionar LlamaIndex, Swarm, AutoGen, etc., dependendo das contribuições da comunidade.