Agentic Radar: инструмент визуализации для проверки безопасности рабочего процесса Agentic

Общее введение

Agentic Radar - это инструмент с открытым исходным кодом от SplxAI, предназначенный для сканирования и защиты рабочих процессов ИИ на основе больших моделей (LLM). Он помогает разработчикам и экспертам по безопасности быстро понять, как работают системы искусственного интеллекта, и выявить потенциальные уязвимости, анализируя код и генерируя четкие диаграммы рабочих процессов и отчеты по безопасности. Поддержка инструментов CrewAI ответить пением LangGraph Результаты тестирования также можно проверить на соответствие стандартам безопасности, таким как OWASP LLM Top 10, что облегчает пользователям поиск проблем. Он прост в использовании, а все операции выполняются локально для обеспечения безопасности кода, что подходит для повышения прозрачности и безопасности проектов искусственного интеллекта.

Список функций

• Сканирование рабочих процессов ИИ: Проанализируйте код и разберитесь в структуре и логике работы системы искусственного интеллекта.
• Создание диаграмм рабочих процессов: Рисуйте визуальные диаграммы зависимостей, показывающие взаимосвязи между модулями и инструментами.
• Список средств идентификации: Перечисляет все внешние и пользовательские инструменты, используемые системой.
• Обнаружение уязвимостей в системе безопасности: Определение потенциальных рисков и соответствие критериям, таким как OWASP LLM Top 10.
• Поддержка нескольких фреймворков: Совместим с CrewAI и LangGraph, в будущем планируется поддержка других фреймворков.
• Вывод подробных отчетов: Генерируйте отчеты о безопасности в формате HTML для удобного просмотра и совместного использования.
• локальная операция: Все сканирование осуществляется на устройстве пользователя, код не загружается.

Использование помощи

Agentic Radar - это инструмент командной строки, который легко установить и использовать. Ниже приведены подробные шаги, которые помогут вам начать работу с нуля.

Процесс установки

1. Подготовка среды
   • Требуется Python 3.9 или выше, запустите python --version Проверьте.
   • Установите Git для загрузки кода с GitHub.
   • Установите graphviz и cairo для создания диаграмм рабочих процессов:
     • Мак: Используя Homebrew, запустите brew install graphviz ответить пением brew install cairo.
     • Linux: Беги sudo apt-get install graphviz ответить пением sudo apt-get install libcairo2.
     • Windows (компьютер): Установите с помощью Chocolatey, запустите choco install graphviz ответить пением choco install cairo, или загрузите установочный пакет вручную.
2. Установка Agentic Radar
   • Откройте терминал и клонируйте код:

     git clone https://github.com/splx-ai/agentic-radar.git
     

   • Перейдите в каталог:

     cd agentic-radar
     

   • Инструменты для установки:

     pip install .
     

   • Проверьте версию, чтобы убедиться в успешной установке:

     agentic-radar --version
     

     Например, возвращение 0.2.0Это значит, что проблем нет.

3. Решение проблем зависимости
   • Если выдается ошибка об отсутствии библиотек, установите их вручную:

     pip install pydot pydantic typer-slim jinja2
     

Использование

Agentic Radar прост в использовании: сканирование кода и генерация отчетов из командной строки.

базовое сканирование

• Запускается в терминале:

  agentic-radar -i ./my_project -o report.html

• -i Укажите папку с кодом, например ./my_project.
• -o Укажите имя файла выходного отчета, например report.html.

Определение рамок

• Если вы используете CrewAI:

  agentic-radar -i ./my_project -o report.html crewai
  

• Если вы используете LangGraph:

  agentic-radar -i ./my_project -o report.html langgraph
  

Посмотреть отчет

• После запуска откройте report.htmlВ комплект входят:
  • диаграмма рабочего процесса: Показывает взаимосвязи модулей с помощью узлов и стрелок, которые можно увеличивать и уменьшать для просмотра.
  • Список инструментов: Перечисляет все используемые инструменты, такие как API или пользовательские функции.
  • таблица уязвимостей: Пометьте проблему и соотнесите ее с OWASP LLM Top 10, например, "LLM02: Утечка данных".
  • предложение: Исправления, такие как добавление проверки ввода.

пробная операция

Допустим, у вас есть проект CrewAI в ./chatbot Папка:

1. Бег:

   agentic-radar -i ./chatbot -o chatbot_report.html crewai
   

2. показать (билет) chatbot_report.htmlСм:
   • Как вызвать инструмент поиска для агентов чата.
   • Если инструмент поиска не зашифрован, в отчете появится предупреждение.
   • Рекомендуется добавить защиту ключей API.

Функциональное управление

1. Использование диаграмм рабочих процессов
   • Каждый узел на диаграмме - это модуль, а стрелки - зависимости. Например, "Обработка данных" указывает на "Генерацию выходных данных".
   • Перетащите или увеличьте масштаб с помощью мыши, чтобы просмотреть детали.
2. тестирование уязвимостей
   • В отчете будет перечислена проблема, например "prompt injection" (LLM01), и указана строка кода.
   • Исправлено, как было предложено, например, ограничение длины вводимого пользователем текста.
3. Расширенная поддержка
   • Если вы хотите поддержать новый фреймворк, вы можете изменить код и отправить его на GitHub, чтобы принять участие в развитии сообщества.

Часто задаваемые вопросы

• Команда недействительна.: Проверьте настройки Python и PATH.
• График не отображается: Убедитесь, что graphviz и cairo установлены, и перезапустите терминал.
• Низкий уровень отчетности: Проверьте папку input, чтобы убедиться, что у вас есть полный код.

Получение помощи

• быть в движении agentic-radar --help Дополнительные возможности, например, настройка выходного тракта.

сценарий применения

1. Отладка сложных проектов
   В системе ИИ слишком много модулей, и она работает неправильно. Проведите по ней агентурным радаром, и вы увидите на картинке, какие части не соединены.
2. Предпусковая проверка
   При запуске проектов используйте его для сканирования и убедитесь в отсутствии уязвимостей, особенно если речь идет о пользовательских данных.
3. Работа в команде
   При разработке с участием нескольких человек генерируемые диаграммы рабочих процессов позволяют всем быстро понять структуру кода и повысить эффективность.
4. Система обучения
   Если вы новичок в CrewAI, запустите инструмент и посмотрите на диаграммы, чтобы понять, как фреймворк организует код.

QA

1. Стоит ли Agentic Radar сколько-нибудь?
   Абсолютно бесплатный проект с открытым исходным кодом, код на GitHub по желанию.
2. Какие языки поддерживаются?
   Сейчас поддерживается только Python, потому что фреймворки ИИ в основном написаны на Python.
3. Будет ли загружен код?
   Нет, все выполняется локально, и код не покидает ваше устройство.
4. Как его обновить?
   Зайдите на GitHub, возьмите последнюю версию кода и запустите его снова. pip install ..
5. Будут ли в будущем поддерживаться другие фреймворки?
   Планируется добавить LlamaIndex, Swarm, AutoGen и т.д., в зависимости от вклада сообщества.