에이전트 레이다: 에이전트 워크플로 보안 검사를 위한 시각화 도구

최신 AI 리소스게시됨 6 개월 전 AI 공유 서클
10.2K 00

일반 소개

에이전틱 레이더는 대규모 모델(LLM) 기반 AI 워크플로우를 스캔하고 보호하기 위해 설계된 SplxAI의 오픈 소스 도구입니다. 개발자와 보안 전문가가 코드를 분석하고 명확한 워크플로 다이어그램과 보안 보고서를 생성하여 AI 시스템의 작동 방식을 빠르게 이해하고 잠재적인 취약점을 식별할 수 있도록 도와줍니다. 도구 지원 CrewAI 노래로 응답 LangGraph 또한 테스트 결과를 OWASP LLM Top 10과 같은 보안 표준과 비교하여 확인할 수 있어 사용자가 문제를 쉽게 찾을 수 있습니다. 사용이 간편하고 모든 작업이 로컬에서 수행되어 코드 보안이 보장되므로 AI 프로젝트의 투명성과 보안을 향상시키는 데 적합합니다.

Agentic Radar:对 Agentic 工作流安全检测的可视化工具

 

기능 목록

  • 스캔 AI 워크플로코드를 분석하여 AI 시스템의 구조와 작동 논리를 정리합니다.
  • 워크플로 다이어그램 생성모듈과 도구 간의 관계를 보여주는 시각적 종속성 다이어그램을 그립니다.
  • 식별 도구 목록시스템에서 사용하는 모든 외부 및 사용자 지정 도구를 나열합니다.
  • 보안 취약점 탐지잠재적 위험을 식별하고 OWASP LLM Top 10과 같은 기준을 일치시킵니다.
  • 여러 프레임워크 지원CrewAI 및 LangGraph와 호환되며, 향후 더 많은 프레임워크를 지원할 계획입니다.
  • 상세 보고서 출력쉽게 보고 공유할 수 있도록 HTML 형식으로 보안 보고서를 생성합니다.
  • 로컬 운영모든 스캔은 사용자 디바이스에서 이루어지며 코드가 업로드되지 않습니다.

 

도움말 사용

에이전트 레이더는 설치 및 사용이 간편한 명령줄 도구입니다. 다음은 처음부터 시작하는 데 도움이 되는 자세한 단계입니다.

설치 프로세스

  1. 환경 준비하기
    • Python 3.9 이상, 실행 필요 python --version 확인.
    • GitHub에서 코드를 다운로드하려면 Git을 설치하세요.
    • 워크플로 다이어그램을 생성하기 위해 그래프비즈와 카이로를 설치하세요:
      • Mac홈브루를 사용하여 실행 brew install graphviz 노래로 응답 brew install cairo.
      • Linux: 실행 sudo apt-get install graphviz 노래로 응답 sudo apt-get install libcairo2.
      • Windows(컴퓨터)초콜릿으로 설치, 실행 choco install graphviz 노래로 응답 choco install cairo를 클릭하거나 설치 패키지를 수동으로 다운로드하세요.
  2. 에이전트 레이더 설치
    • 터미널을 열고 코드를 복제합니다:
      git clone https://github.com/splx-ai/agentic-radar.git
      
    • 카탈로그로 이동합니다:
      cd agentic-radar
      
    • 설치 도구:
      pip install .
      
    • 버전을 확인하여 설치가 완료되었는지 확인합니다:
      agentic-radar --version
      

      예를 들어 0.2.0즉, 문제가 없다는 뜻입니다.

  3. 종속성 문제 해결
    • 누락된 라이브러리에 대한 오류가 보고되면 수동으로 라이브러리를 설치하세요:
      pip install pydot pydantic typer-slim jinja2
      

사용법

에이전트 레이더는 명령줄에서 코드를 스캔하고 보고서를 생성하여 쉽게 사용할 수 있습니다.

기본 스캔

  • 터미널에서 실행됩니다:
    agentic-radar -i ./my_project -o report.html
  • -i 코드 폴더를 지정합니다(예 ./my_project.
  • -o 출력 보고서 파일 이름을 지정합니다(예 report.html.

프레임워크 지정

  • CrewAI를 사용하는 경우:
    agentic-radar -i ./my_project -o report.html crewai
    
  • LangGraph를 사용하는 경우
    agentic-radar -i ./my_project -o report.html langgraph
    

보고서 보기

  • 실행 후 report.html이 포함되어 있습니다:
    • 워크플로 다이어그램: 모듈 관계를 노드와 화살표로 표시하고 확대/축소하여 볼 수 있습니다.
    • 도구 목록API 또는 사용자 지정 함수 등 사용된 모든 도구를 나열합니다.
    • 취약성 표문제에 라벨을 붙이고 OWASP LLM Top 10에 해당합니다(예: "LLM02: 데이터 누출").
    • 제안입력 유효성 검사 추가 등의 수정 사항을 제공합니다.

샘플 작업

에 CrewAI 프로젝트가 있다고 가정해 보겠습니다. ./chatbot 폴더:

  1. 실행 중입니다:
    agentic-radar -i ./chatbot -o chatbot_report.html crewai
    
  2. 쇼(티켓) chatbot_report.html참조:
    • 채팅 상담원 검색 툴을 호출하는 방법.
    • 검색 도구가 암호화되지 않은 경우 보고서에서 경고를 표시합니다.
    • API 키 보호 기능을 추가하는 것이 좋습니다.

주요 기능 작동

  1. 워크플로 다이어그램 사용
    • 다이어그램의 각 노드는 모듈이며 화살표는 종속성을 나타냅니다. 예를 들어 '데이터 처리'는 '출력 생성'을 가리킵니다.
    • 마우스로 끌거나 확대/축소하여 세부 정보를 확인합니다.
  2. 취약성 테스트
    • 보고서에는 '프롬프트 주입'(LLM01)과 같은 문제가 나열되고 해당 코드 줄이 표시됩니다.
    • 사용자 입력 길이 제한 등 제안된 대로 수정되었습니다.
  3. 확장 지원
    • 새 프레임워크를 지원하려면 코드를 변경하여 GitHub에 제출하여 커뮤니티 개발에 참여할 수 있습니다.

자주 묻는 질문

  • 명령이 유효하지 않습니다.파이썬 및 PATH 설정을 확인합니다.
  • 차트가 표시되지 않음그래프비즈와 카이로가 설치되어 있는지 확인하고 터미널을 다시 시작합니다.
  • 낮은 보고입력 폴더를 확인하여 전체 코드가 있는지 확인하세요.

도움 받기

  • 움직여야 합니다. agentic-radar --help 출력 경로 조정 등 더 많은 옵션에 대해 자세히 알아보세요.

 

애플리케이션 시나리오

  1. 복잡한 프로젝트 디버깅
    AI 시스템에 모듈이 너무 많아 잘못 실행되고 있습니다. 에이전트 레이더로 스윕하면 어떤 부분이 연결되지 않았는지 그림에서 확인할 수 있습니다.
  2. 출시 전 검사
    프로젝트가 시작되면 이를 사용하여 특히 사용자 데이터와 관련된 취약점이 없는지 검사하고 확인합니다.
  3. 팀워크
    여러 사람과 함께 개발할 때 생성된 워크플로 다이어그램을 사용하면 모든 사람이 코드 구조를 빠르게 이해하고 효율성을 높일 수 있습니다.
  4. 학습 프레임워크
    CrewAI를 처음 사용하는 경우, 도구를 실행하고 다이어그램을 살펴보고 프레임워크가 코드를 구성하는 방식을 이해하세요.

 

QA

  1. 에이전트 레이더는 비용이 발생하나요?
    완전 무료 오픈 소스 프로젝트, GitHub에서 마음대로 코드를 작성하세요.
  2. 어떤 언어가 지원되나요?
    AI 프레임워크는 대부분 파이썬으로 작성되기 때문에 현재는 파이썬만 지원됩니다.
  3. 코드가 업로드되나요?
    아니요, 모든 것이 로컬에서 실행되며 코드가 디바이스를 떠나지 않습니다.
  4. 어떻게 업데이트하나요?
    GitHub로 이동하여 최신 코드를 가져와서 다시 실행하세요. pip install ..
  5. 향후 다른 프레임워크도 지원되나요?
    커뮤니티 기여도에 따라 LlamaIndex, Swarm, AutoGen 등을 추가할 계획입니다.
© 저작권 정책

관련 문서

댓글 없음

댓글에 참여하려면 로그인해야 합니다!
지금 로그인
없음
댓글 없음...