与 AI 交互访问权限策略一起用户保护工作

概览

用户经常作为其日常工作的一部分与 AI 聊天应用程序交互,未充分考虑涉及的安全性、合规性或数据曝光风险。 完全阻止访问这些工具可以降低风险,但也消除了 AI 驱动工作流所提供的生产力优势。

AI 交互访问权限策略允许您通过实时检查提示来控制用户如何与 AI 聊天应用程序交互,检测到有风险的内容时进行响应。 您可以应用细粒度的保护措施,以帮助防止敏感数据曝光、政策违规和合规风险,同时仍允许批准的 AI 使用,而不是完全阻止 AI 聊天。

使用 AI 交互访问权限策略,您可以根据组织的安全性和治理要求,阻止、匿名化、警报或监控特定类型的提示内容。 这种方法使您能够保护敏感信息并实施 AI 使用访问权限策略,而不干扰 AI 工具的合法和富有成效的使用。

注意: 使用AI安全性API集成模块时,AI交互策略仅支持监控操作。

先决条件

在账户级别必须启用TLS检查,以便AI交互策略检查AI流量。 如果账户的 TLS 检查已禁用,AI 交互策略不会检查 AI 流量。

AI 交互策略根据账户级别的 TLS 检查设置检查匹配的 AI 流量,并且不需要特定的 TLS 检查规则。

配置 AI 交互访问权限策略

在创建规则之前,在 Cato 管理应用程序中为终端用户启用 AI 交互访问权限策略。

启用终端用户的 AI 交互访问权限策略:

  1. 从导航菜单中选择 AI 安全性
  2. 用户保护下,选择 AI 交互访问权限策略
  3. 启用 终端用户提示规则开关。

配置 AI 交互访问权限策略规则

创建 AI 交互访问权限策略规则:

  1. 从 AI 交互访问权限策略页面,点击 新建
  2. 常规 部分,配置字段,例如,名称描述
  3. 来源部分中,选择规则适用的用户或组,或者保留 任何以便将规则应用于所有来源。
  4. 应用程序部分中,选择规则适用的 AI 应用程序,或者保留 任何以便将规则应用于所有支持的应用程序。
  5. 引擎配置文件部分中,选择配置文件用于评估 AI 提示。
  6. 操作部分,选择当提示匹配内容配置文件时要应用的操作,例如阻止。

    如果您正在创建 API 规则,唯一可用的操作是监控。

  7. (可选)选择一个 通知模板来在执行操作时通知用户。
  8. 点击 保存

当提示匹配已配置标准时,选定操作会被执行。

了解操作

AI互动策略支持以下操作用于每个规则:

  • 阻止 - 提示被阻止,且不向AI供应商发送任何信息
  • 监控 - 提示被发送到AI供应商,且互动被监控
  • 匿名和阻止 - 如果所选的引擎资料包括检测器:

    • 支持匿名化内容,内容被匿名化并发送
    • 不支持匿名化内容;提示被阻止
  • 匿名和监控 - 如果所选的引擎资料包括检测器:

    • 支持匿名化内容,内容被匿名化,并发送
    • 不支持匿名化内容。 提示被发送到 AI 供应商,并对交互进行监控。

这篇文章有帮助吗?

0 人中有 0 人觉得有帮助

0 条评论