管理的AI代理的安全性是什么

概述

管理代理的AI安全性可帮助您发现、追踪和保护在AWS Bedrock、Azure AI Foundry和Microsoft Copilot Studio等管理的AI平台上运行的AI代理。 您可以了解哪些代理存在，数据源和工具的访问权限，以及它们在运行时的行为方式。 

管理的平台提供了创建、部署和扩展AI代理的基础设施，但同时也带来了独特的安全性和治理挑战。 组织常常缺乏对这些平台中代理存在情况的数据和工具访问权限以及其运行时行为的集中可见性。

管理代理的AI安全性帮助您降低未经授权访问、敏感数据暴露和不安全代理行为的风险，同时支持治理和合规性需求。

使用实例

发现管理代理

确保管理代理安全的第一步是了解存在哪些代理。 Cato通过API连接至管理的AI平台，并自动发现环境中部署的所有代理。 对于每个代理，系统都会收集一个全面的库存，包括代理的名称、用途、配置说明、其已连接的工具和连接器、其知识库和数据源，以及为其分配的权限和访问控制。

跟踪代理AI活动

管理的AI平台生成跟踪数据，记录每个代理会话中生成的提示、模型响应、工具调用和结果的序列。 Cato直接从平台查询这些跟踪数据，并将其传输至Agentic AI仪表板，提供管理代理在生产中实际行为的实时可见性。

跟踪捕获了代理交互的完整生命周期：用户提问、模型如何响应、代理调用了哪些工具（及其参数）、那些工具返回了什么，以及代理如何利用工具结果来形成最终输出。 这种详细信息对于理解代理行为至关重要，因为与简单的聊天机器人不同，代理可能需要执行多个工具调用链条，每一步都建立在前一结果基础上，然后才能生成响应。 一个单一的用户请求可以触发一个复杂的行动序列，若无跟踪将是不可见的。

对于安全和合规团队来说，跟踪提供了事件调查和审计所需的证据。 如果一个管理代理访问了不应访问的数据，进行了一次意外的工具调用，或产生了违反政策的输出，跟踪记录准确显示了发生的一切 - 一步一步。 这对于理解事件的影响范围也有不可估量的价值：跟踪揭示了不仅是哪个地方出了问题，还揭示了哪些数据被触及以及沿途采取了哪些行动。

通过AI防火墙集成来保护

发现和跟踪提供了可见性，但组织还需要对其管理的代理进行主动保护。 Cato通过将跟踪的代理调用流入AI防火墙(AI-FW)来实现这一点，在那里它们根据整个代理安全堆栈中使用的相同护栏和政策进行评估。

这种集成意味着流经管理代理的每个提示、模型响应、工具调用和工具消息都会由AI-FW引擎检查。 引擎应用检测模型以防止提示插入、越狱尝试、敏感数据暴露和政策违规，这四点检查同样保护本地和自定义代理。 当AI-FW检测到威胁时，它可以向安全团队发出警报、为合规目的记录事件，或根据集成和执行模式阻止违规交互。