AI个人学习
和实操指南
豆包Marscode1

Agentic Radar:对 Agentic 工作流安全检测的可视化工具

综合介绍

Agentic Radar 是 SplxAI 推出的一款开源工具,专为扫描和保护基于大模型(LLM)的 AI 工作流设计。它通过分析代码,生成清晰的工作流图和安全报告,帮助开发者、安全专家快速了解 AI 系统怎么运行,并找出潜在漏洞。工具支持 CrewAILangGraph 等框架,检测结果还能对照 OWASP LLM Top 10 等安全标准,方便用户定位问题。它简单易用,所有操作都在本地完成,确保代码安全,适合提升 AI 项目的透明度和安全性。

Agentic Radar:对 Agentic 工作流安全检测的可视化工具-1


 

功能列表

  • 扫描 AI 工作流:分析代码,梳理 AI 系统的结构和运行逻辑。
  • 生成工作流图:绘制直观的依赖图,展示模块和工具间的关系。
  • 识别工具清单:列出系统用到的所有外部和自定义工具。
  • 检测安全漏洞:找出潜在风险,并匹配 OWASP LLM Top 10 等标准。
  • 支持多种框架:兼容 CrewAI 和 LangGraph,未来计划支持更多框架。
  • 输出详细报告:生成 HTML 格式的安全报告,方便查看和分享。
  • 本地运行:所有扫描都在用户设备上完成,不上传代码。

 

使用帮助

Agentic Radar 是一个命令行工具,安装和使用都很简单。以下是详细步骤,帮你从零开始上手。

安装流程

  1. 准备环境
    • 需要 Python 3.9 或以上版本,运行 python --version 检查。
    • 安装 Git,用于从 GitHub 下载代码。
    • 安装 graphviz 和 cairo,用于生成工作流图:
      • Mac:用 Homebrew,运行 brew install graphviz 和 brew install cairo
      • Linux:运行 sudo apt-get install graphviz 和 sudo apt-get install libcairo2
      • Windows:用 Chocolatey 安装,运行 choco install graphviz 和 choco install cairo,或手动下载安装包。
  2. 安装 Agentic Radar
    • 打开终端,克隆代码:
      git clone https://github.com/splx-ai/agentic-radar.git
      
    • 进入目录:
      cd agentic-radar
      
    • 安装工具:
      pip install .
      
    • 检查版本确认安装成功:
      agentic-radar --version
      

      比如返回 0.2.0,就说明没问题。

  3. 解决依赖问题
    • 如果报错缺少库,手动安装:
      pip install pydot pydantic typer-slim jinja2
      

使用方法

Agentic Radar 通过命令行扫描代码并生成报告,操作简单。

基本扫描

  • 在终端运行:
    agentic-radar -i ./my_project -o report.html
  • -i 指定代码文件夹,比如 ./my_project
  • -o 指定输出报告文件名,比如 report.html

指定框架

  • 如果用 CrewAI:
    agentic-radar -i ./my_project -o report.html crewai
    
  • 如果用 LangGraph:
    agentic-radar -i ./my_project -o report.html langgraph
    

查看报告

  • 运行后,打开 report.html,里面包括:
    • 工作流图:用节点和箭头展示模块关系,可缩放查看。
    • 工具清单:列出所有用到的工具,比如 API 或自定义函数。
    • 漏洞表:标出问题并对应 OWASP LLM Top 10,比如 “LLM02:数据泄露”。
    • 建议:给出修复方法,比如加输入验证。

示例操作

假设你有个 CrewAI 项目在 ./chatbot 文件夹:

  1. 运行:
    agentic-radar -i ./chatbot -o chatbot_report.html crewai
    
  2. 打开 chatbot_report.html,看到:
    • 聊天代理怎么调用搜索工具。
    • 如果搜索工具没加密,报告会警告。
    • 建议你加 API 密钥保护。

特色功能操作

  1. 工作流图使用
    • 图里每个节点是模块,箭头是依赖关系。比如 “数据处理” 指向 “输出生成”。
    • 用鼠标拖动或缩放,查看细节。
  2. 漏洞检测
    • 报告会列出问题,比如 “提示注入”(LLM01),并指出代码行。
    • 根据建议修复,比如限制用户输入长度。
  3. 扩展支持
    • 如果想支持新框架,可以改代码后提交到 GitHub,参与社区开发。

常见问题解决

  • 命令无效:检查 Python 和 PATH 设置。
  • 图不显示:确保 graphviz 和 cairo 装好,重启终端试试。
  • 报告内容少:检查输入文件夹,确保有完整代码。

获取帮助

  • 运行 agentic-radar --help 查看更多选项,比如调整输出路径。

 

应用场景

  1. 调试复杂项目
    AI 系统模块太多,运行出错。用 Agentic Radar 扫一下,图里能看出哪个部分没连好。
  2. 上线前检查
    项目要上线,用它扫描,确保没漏洞,尤其是涉及用户数据的地方。
  3. 团队协作
    多人开发时,生成的工作流图能让大家快速懂代码结构,提高效率。
  4. 学习框架
    新手用 CrewAI 时,跑一下工具,看图理解框架怎么组织代码。

 

QA

  1. Agentic Radar 要钱吗?
    完全免费,开源项目,代码在 GitHub 上随便用。
  2. 支持哪些语言?
    现在只支持 Python,因为 AI 框架多用 Python 写。
  3. 代码会上传吗?
    不会,全程本地运行,代码不离开你的设备。
  4. 怎么更新?
    去 GitHub 拉最新代码,重新跑 pip install .
  5. 未来会支持其他框架吗?
    会,计划加 LlamaIndex、Swarm、AutoGen 等,具体看社区贡献。
未经允许不得转载:首席AI分享圈 » Agentic Radar:对 Agentic 工作流安全检测的可视化工具

首席AI分享圈

首席AI分享圈专注于人工智能学习,提供全面的AI学习内容、AI工具和实操指导。我们的目标是通过高质量的内容和实践经验分享,帮助用户掌握AI技术,一起挖掘AI的无限潜能。无论您是AI初学者还是资深专家,这里都是您获取知识、提升技能、实现创新的理想之地。

联系我们
zh_CN简体中文