エージェントのAIセキュリティとは

概要

エージェントのAIセキュリティを活用すれば、データアクセスやツールの利用、アクション実行方法を可視化し、制御することなく、組織内でAIエージェントを安全に導入できます。 エージェントのワークフローを、プロンプトインジェクション、許可されていないデータアクセス、機密データの露出、その他セキュリティまたはコンプライアンスリスクにつながる悪用から保護できます。

CatoはAIエージェントを以下のカテゴリに分類します:

ローカルエージェントは通常、ユーザーエンドポイントで動作し、多くはサードパーティによって提供されます。 マネージドエージェントは、一般的に低コードまたはコードレスのエージェントで、クラウドプラットフォームやSaaSプロバイダによって提供されます。 カスタムエージェントは、完全にコード化されたエージェントであり、エンドポイントやクラウド環境で構築および実行されます。

エージェントのAIセキュリティにより、管理する環境全体でこれらのエージェントタイプを一元的に監視し、管理できます。 これにより、ポリシーの施行を維持し、オペレーションリスクを軽減し、コンプライアンス要件をサポートしながらAIエージェントを自信を持って導入できます。

AIエージェントによって提起されるリスク

自律的に動作し、ツール、データ、外部システムと対話するAIエージェントは、従来のAIチャットボットの脅威を超えた独自のセキュリティ、コンプライアンス、およびガバナンスのリスクをもたらします。

• AI固有の攻撃 - プロンプトインジェクション、脱獄試行、エージェントの挙動を操作するために設計されたマルチターン攻撃を含む。 チャットボットとは異なり、エージェントはツールの応答（間接プロンプトインジェクション）を通じても攻撃される可能性があり、ツールの出力に悪意のあるペイロードが含まれると、エージェントのアクションがハイジャックされる場合があります。
• データ流出 - コードリポジトリ、内部API、CRMシステム、またはファイルシステムにアクセスするエージェント。 これらのエージェントは、ソースコード、資格情報、個人識別子、または財務データなどの機密データを、ツールのコールまたはモデルの出力を通じて意図せずまたは悪意を持ってリークする可能性があります。
• シャドウエージェント - IT承認なしで従業員によってインストールされた非管理または無許可のAIエージェントがあり、セキュリティ態勢において盲点を作成します。 これには、エンタープライズライセンスまたはセキュリティコントロールなしで実行される個人のコードアシスタントのインスタンスが含まれます。
• MCPサーバーのリスク - 悪意のある、または誤設定されたMCPサーバーは、機密データを公開したり、許可されていないコマンドを実行したり、エージェントのワークフローに脆弱性を導入する可能性があります。
• コンプライアンス違反 - EU AI法やコード生成、データ処理、自動意思決定を管理する内部ポリシーなど、AIシステムに関する規制要件を満たさない場合。
• ガバナンスのギャップ - どのエージェントがデプロイされているか、どのツールに接続されているか、どのデータにアクセスできるかについての可視性が欠如しているため、組織全体で一貫したセキュリティポリシーを施行することができません。