Agentic Security: инструмент для сканирования уязвимостей LLM с открытым исходным кодом, который обеспечивает всестороннее тестирование и методы атаки.

Общее введение

Agentic Security - это инструмент сканирования уязвимостей LLM (Large Language Model) с открытым исходным кодом, предназначенный для предоставления разработчикам и специалистам по безопасности комплексного тестирования и атак. Инструмент поддерживает пользовательские наборы правил или атаки на основе агентов, способен интегрировать LLM API для стресс-тестирования и предлагает широкий спектр методов тестирования и атак.Agentic Security был изначально разработан как инструмент сканирования безопасности, помогающий выявлять и устранять потенциальные уязвимости, но не гарантирующий полной защиты от всех возможных угроз.

Список функций

• Наборы пользовательских правил: Поддержка определяемых пользователем правил сканирования безопасности в соответствии с требованиями.
• прокси-атака: Моделирование атак на основе агентов для проверки безопасности системы.
• Полный нечеткий тест: Выполните комплексный fuzz-тест против любого LLM для выявления потенциальных уязвимостей.
• Интеграция API LLM: Поддерживает интеграцию с различными API LLM для стресс-тестирования и оценки безопасности.
• Моделирование многоступенчатых атакПоддержка многоэтапного моделирования атак для проверки работоспособности системы в сложных сценариях атак.
• Импорт данных: Поддерживает импорт пользовательских наборов данных для тестирования.

Использование помощи

Процесс установки

1. установщик: Установите пакет Agentic Security с помощью pip:

   pip install agentic_security

2. запустить приложение: После завершения установки Agentic Security можно запустить с помощью следующей команды:

   python -m agentic_security

или

   agentic_security --help

Функции Поток операций

1. Инициализация Конфигурация: Конфигурационный файл должен быть инициализирован при первом использовании:

   agentic_security init

В результате будет создан файл конфигурации по умолчаниюagesec.tomlПользователь может изменять конфигурацию в соответствии с требованиями.

2. сканирование: Используйте следующую команду для запуска сканирования системы безопасности:

   agentic_security --port=PORT --host=HOST

среди нихPORTответить пениемHOSTОн может быть установлен в зависимости от реальной ситуации.

3. Наборы пользовательских правил: Пользователи могут настраивать правила сканирования безопасности в файле конфигурации в следующем формате:

   [general]
llmSpec = """
POST http://0.0.0.0:8718/v1/self-probe
Authorization: Bearer XXXXX
Content-Type: application/json
{
"prompt": "<<PROMPT>>"
}
"""
maxBudget = 1000000
max_th = 0.3
optimize = false
enableMultiStepAttack = false

4. Импорт наборов данных: Пользователи могут поместить пользовательские наборы данных (CSV-файлы) в указанный каталог, который будет автоматически загружаться при запуске:

   agentic_security.probe_data.data:load_local_csv

5. Выполните проверку CIAgentic Security можно интегрировать в процесс CI/CD для автоматизации сканирования безопасности:

   agentic_security ci-check

Подробные функции

• Наборы пользовательских правил: Пользователи могут настраивать правила сканирования безопасности в соответствии со своими конкретными потребностями и гибко реагировать на различные сценарии тестирования безопасности.
• прокси-атака: Проверка безопасности и стабильности системы перед лицом прокси-атак путем моделирования прокси-атак.
• Полный нечеткий тест: Проведение комплексного fuzz-тестирования для LLM с целью выявления потенциальных уязвимостей и обеспечения безопасности системы.
• Интеграция API LLM: Поддерживает интеграцию с различными API LLM для проведения стресс-тестирования и оценки безопасности, чтобы обеспечить стабильность системы при высокой нагрузке.
• Моделирование многоступенчатых атакПоддержка многоэтапного моделирования атак для проверки работоспособности системы при сложных сценариях атак и выявления потенциальных рисков безопасности.
• Импорт данных: Пользователи могут импортировать пользовательские наборы данных для тестирования и гибко реагировать на различные потребности в тестировании.