管理されたAIエージェントのセキュリティとは

概要

管理エージェント用のAIセキュリティにより、AWS Bedrock、Azure AI Foundry、Microsoft Copilot Studioなどの管理されたAIプラットフォームで稼働するAIエージェントを発見、追跡、保護できます。 どのエージェントが存在し、どのデータソースやツールにアクセスできるのか、そして実行時にどのように動作するのかを把握できます。 

管理されたプラットフォームはAIエージェントの作成、展開、スケーリングのためのインフラストラクチャを提供しますが、セキュリティとガバナンスの課題も新たにもたらします。 組織は、これらのプラットフォーム間でどのエージェントが存在し、どのデータやツールにアクセス可能であるか、さらには実行時にどのように動作するのかについての集中化された可視性を欠くことが多いです。

管理エージェント用のAIセキュリティは、不正アクセス、機密データの露出、無謀なエージェントの動作のリスクを軽減しながら、ガバナンスおよびコンプライアンスの要件をサポートします。

ユースケース

管理エージェントの発見

管理されたエージェントを保護する第一歩は、何が存在するかを知ることです。 CatoはAPI経由で管理されたAIプラットフォームに接続し、環境内に展開されているすべてのエージェントを自動的に発見します。 各エージェントに対して、エージェントの名前、目的、構成手順、接続されているツールとコネクタ、ナレッジベースとデータソース、割り当てられた権限とアクセス制御を含む包括的なインベントリを収集します。

エージェンティックAIの活動の追跡

管理されたAIプラットフォームはエージェントの実行時に追跡データを生成し、各エージェントセッションを構成するプロンプトのシーケンス、モデル応答、ツール呼び出し、結果を記録します。 Catoはプラットフォームからこの追跡データを直接クエリーし、エージェンティックAIダッシュボードにストリームし、本番環境で管理エージェントが実際にどのように動作しているかのリアルタイムの可視性を提供します。

追跡はエージェントのインタラクションのフルライフサイクルをキャプチャします。ユーザーが何を尋ね、モデルがどのように応答し、エージェントがどのツールを呼び出したか（そしてそのパラメータ）、それらのツールが何を返し、エージェントがそれらの工具の結果を最終出力にどのように活用したかを示します。 このレベルの詳細は、エージェンティックな行動を理解するために不可欠です。シンプルなチャットボットとは異なり、エージェントは応答を生成する前に、前の結果に基づいて複数のツール呼び出しの連鎖を実行することがあります。 単一のユーザーリクエストが、追跡なしでは見えない複雑なアクションの連鎖をトリガーする可能性があります。

セキュリティとコンプライアンスチームに対して、追跡は事件の調査や監査に必要な証拠を提供します。 管理されたエージェントがデータに不適切にアクセスした場合、予期しないツール呼び出しを行った場合、ポリシーに違反する出力を生成した場合、追跡記録はステップバイステップで何が起こったかを正確に示します。 これは事件の影響範囲を理解するために非常に重要です。追跡は何が間違っていたのかだけでなく、どのデータに触れたのか、どのアクションが取られたのかを明らかにします。

AIファイアウォール統合による保護

発見と追跡は可視性を提供しますが、組織は管理エージェントのためにアクティブな保護も必要です。 Catoは、追跡されたエージェントの呼び出しをAIファイアウォール（AI-FW）にストリームし、他のエージェントセキュリティスタック全体で使用される同じガードとポリシーに対して評価されることでこれを実現します。

この統合により、管理されたエージェントを通過するすべてのプロンプト、モデル応答、ツール呼び出し、ツールメッセージがAI-FWエンジンによって検査されます。 エンジンはローカルおよびカスタムエージェントを保護するために同じ四点検査を適用し、プロンプトインジェクション、ジェイルブレイクの試み、機密データの露出、ポリシー違反を検出するモデルを適用します。 AI-FWが脅威を検出すると、セキュリティチームにアラートを発し、イベントをコンプライアンス目的でログに記録し、統合および施行モードに応じて違反行動をブロックすることができます。