本地AI代理的安全性是什么

概述

本地代理的AI安全性使您能够发现和确保在用户端点上运行的AI代理，例如编码代理。 您可以了解已安装代理、它们的配置、许可证类型、连接的MCP服务器和运行时活动。 这有助于您控制隐形代理并降低数据泄露和间接提示注入的风险。

发现和保护隐形编码代理

一个工程组织允许某些团队使用带有企业许可证的托管编码助手，如Cursor和 Claude Code。 然而，公司内的个人开发人员未经IT批准或没有企业级安全控制，已安装了额外的AI编码工具。

代理的AI安全性使用Cato AI Scout扫描整个组织中的端点，识别所有已安装的AI代理，它们的配置、许可证类型和连接的MCP服务器。 安全团队获得了管理与非管理代理的完整清单，使他们能够实施一致的安全姿态，确保只有经过批准和正确配置的代理在使用中。

通过代理工具调用防止数据泄露

一个开发团队使用连接到内部和外部系统的MCP服务器和其他类型工具的AI编码代理。 虽然这些集成提高了生产力，但它们也为敏感数据流经该代理工具并可能被暴露创造了通道。

代理的AI安全性在所有四个检查点实施运行时策略：用户提示、模型输出、工具调用和工具信息。 当一个代理试图通过工具调用发送敏感数据、凭证或PII，或当一个工具响应包含的敏感信息不应传递给模型时，策略引擎会实时检测并阻止/编辑该操作。 这确保了代理支持的工作流在不引入数据泄露风险的情况下保持高效。

保护本地AI代理免受间接提示注入

本地和编码代理易受来自工具的间接提示注入攻击。 例如，"EchoLeak"和"CurXecute"。

代理的AI安全性提供运行时保护，不仅检查与LLM交换的提示和响应，还检查工具调用和工具信息的内容。 当一个工具响应包含恶意负载，例如试图劫持代理行为的间接提示注入时，Cato AI防火墙会在内容到达代理之前检测并阻止它。 确保外部数据源不能被用来操纵代理的操作。