Agentic Radar: Agentic ワークフローのセキュリティ検査用可視化ツール

はじめに

Agentic Radarは、大規模モデル（LLM）ベースのAIワークフローをスキャンして保護するために設計されたSplxAIのオープンソースツールです。開発者やセキュリティ専門家がAIシステムがどのように動作するかを迅速に理解し、コードを分析し、明確なワークフロー図とセキュリティレポートを生成することで潜在的な脆弱性を特定するのに役立ちます。ツールサポート クルーAI 歌で応える ラングラフ テスト結果は、OWASP LLM Top 10などのセキュリティ標準と照合することもでき、ユーザーは簡単に問題を発見することができる。使いやすく、すべての操作がローカルで行われるためコードの安全性が確保され、AIプロジェクトの透明性と安全性の向上に適している。

機能一覧

• AIワークフローのスキャンコードを分析し、AIシステムの構造と操作ロジックを整理する。
• ワークフロー図の作成モジュールとツールの関係を示すビジュアルな依存関係図を描きます。
• 識別ツールのリストシステムで使用されるすべての外部ツールおよびカスタムツールのリスト。
• セキュリティ脆弱性の検出潜在的なリスクを特定し、OWASP LLM Top 10などの基準に適合させる。
• 複数のフレームワークをサポートCrewAIとLangGraphに対応し、将来的にはさらに多くのフレームワークをサポートする予定です。
• 詳細レポートの出力セキュリティレポートをHTML形式で作成し、閲覧や共有が簡単にできます。
• ローカルオペレーションすべてのスキャンはユーザーのデバイス上で行われ、コードはアップロードされません。

ヘルプの使用

Agentic Radarは、インストールと使用が簡単なコマンドラインツールです。以下は、ゼロから始めるための詳細な手順です。

設置プロセス

1. 環境を整える
   • Python 3.9以上が必要です。 python --バージョン チェックする。
   • GitHubからコードをダウンロードするためにGitをインストールする。
   • ワークフロー図を生成するために、graphvizとcairoをインストールする：
     • マックHomebrewを使用する場合 brew install graphviz 歌で応える brew install cairo.
     • リナックス走る sudo apt-get install graphviz 歌で応える sudo apt-get install libcairo2.
     • ウィンドウズChocolateyでインストール choco install graphviz 歌で応える チョコ・インストール・カイロまたは手動でインストールパッケージをダウンロードする。
2. エージェントレーダーのインストール
   • ターミナルを開き、コードをクローンする：

     git clone https://github.com/splx-ai/agentic-radar.git
     

   • カタログを見る

     cd agentic-radar
     

   • インストールツール：

     pip install .
     

   • バージョンを確認し、インストールが成功したことを確認する：

     agentic-radar --バージョン
     

     例えば 0.2.0つまり、問題はないということだ。

3. 依存問題への対応
   • ライブラリーが見つからないというエラーが報告された場合は、手動でインストールしてください：

     pip install pydot pydantic typer-slim jinja2
     

使用方法

Agentic Radarは、コードをスキャンし、コマンドラインからレポートを生成することで簡単に使用できます。

ベーシック・スキャン

• ターミナルで実行：

  agentic-radar -i ./my_project -o report.html

• -i コード・フォルダを指定する。 ./マイプロジェクト.
• -o 出力レポートファイル名を指定する。 レポート.html.

フレームワークの指定

• CrewAIを使う場合：

  agentic-radar -i ./my_project -o report.html クルーアイ
  

• LangGraphを使用する場合：

  agentic-radar -i ./my_project -o report.html langgraph
  

レポートを見る

• 実行後 レポート.htmlを含む：
  • ワークフロー図: モジュールの関係をノードと矢印で表示し、拡大・縮小して見ることができる。
  • ツール一覧APIやカスタム関数など、使用されているすべてのツールをリストアップします。
  • ぜいじゃくせいひょう例：「LLM02：データ漏えい」。
  • 提案入力バリデーションの追加などの修正。

サンプル操作

にCrewAIプロジェクトがあるとしよう。 ./チャットボット フォルダー

1. 走っている：

   agentic-radar -i ./chatbot -o chatbot_report.html crewai
   

2. 見せる chatbot_report.html見てください：
   • チャットエージェントの検索ツールの呼び出し方。
   • 検索ツールが暗号化されていない場合、レポートには警告が表示されます。
   • APIキーの保護を追加することを推奨する。

注目の機能操作

1. ワークフロー図の使用
   • ダイアグラムの各ノードはモジュールであり、矢印は依存関係である。例えば、"Data Processing "は "Output Generation "を指している。
   • マウスでドラッグまたはズームして詳細を表示します。
2. ぜいじゃくせいしけん
   • レポートには、「プロンプト・インジェクション」（LLM01）などの問題が列挙され、コードの行が示される。
   • ユーザー入力の長さを制限するなど、提案通りに修正。
3. 延長サポート
   • 新しいフレームワークをサポートしたい場合は、コードを変更してGitHubに提出し、コミュニティ開発に参加することができる。

よくある質問

• コマンドが無効です。PythonとPATHの設定を確認してください。
• チャートが表示されないgraphvizとcairoがインストールされていることを確認し、ターミナルを再起動する。
• 低調な報道入力フォルダをチェックして、完全なコードがあることを確認してください。

ヘルプを得る

• うごきだす agentic-radar --help 出力経路の調整など、その他のオプションもご覧ください。

アプリケーションシナリオ

1. 複雑なプロジェクトのデバッグ
   AIシステムはモジュールが多すぎて、動作がおかしくなっている。エージェントレーダーでスキャンしてみると、どのパーツが接続されていないかがわかる。
2. 打ち上げ前検査
   プロジェクトを稼動させる際には、特にユーザーデータに関する脆弱性がないことをスキャンして確認するために使用する。
3. チームワーク
   複数人で開発する場合、生成されたワークフロー図により、全員がコード構造を素早く理解し、効率を向上させることができます。
4. 学習フレームワーク
   CrewAIを初めて使うときは、ツールを実行し、ダイアグラムを見て、フレームワークがどのようにコードを構成するかを理解しよう。

品質保証

1. エージェンティック・レーダーは有料ですか？
   完全無料のオープンソースプロジェクトで、GitHubで自由にコードを書くことができる。
2. 対応言語は？
   現在サポートされているのはPythonのみで、これはAIフレームワークのほとんどがPythonで書かれているからだ。
3. コードはアップロードされますか？
   いや、全体がローカルで実行され、コードがあなたのデバイスから離れることはない。
4. どうすれば更新できますか？
   GitHubに行き、最新のコードを引っ張ってきて、もう一度実行する。 pip install ..
5. 将来的には他のフレームワークもサポートされるのでしょうか？
   コミュニティの貢献次第で、LlamaIndex、Swarm、AutoGenなどを追加する予定。