本文说明如何在组织中保持对 AI 应用程序的安全访问。
使用基于 AI 的工具可以提高生产力，但也为您的组织带来了新的安全挑战和风险。 例如，用户可能会在 AI 应用程序的免费版中输入专有数据，导致应用程序供应商有权使用这些信息。 不法分子可能会查询 AI 应用程序的 LLM 来提取专有数据。 随着 AI 应用程序数量的迅速增加，安全团队面临着了解正在使用哪些应用程序以及在哪里共享敏感数据的挑战。
为了在启用安全 AI 应用程序使用的同时保护您的组织及其敏感数据，Cato 建议采取三部分策略：
-
获取可见性：了解哪些 AI 应用程序正在使用，由谁使用，以及如何使用
-
控制访问：实施策略以规范对 AI 应用程序的访问并执行安全措施
-
保护数据：通过防止未经授权的访问或在 AI 应用程序中共享敏感信息来保护敏感数据
结合多种功能可以实现该策略，并监控和保护 AI 应用流量。 您可以定义互联网防火墙规则以控制对 AI 应用程序类别的访问，并为特定 AI 应用程序设置规则。 此外，定义应用程序控制访问权限策略以确保用户仅访问企业租户的 AI 应用程序或阻止细粒度操作，确保您的专有信息安全。 作为进一步的保护层，您可以配置数据控制访问权限策略，以防止敏感数据传输到 AI 应用程序。
了解和理解您的组织中使用的 AI 应用程序所带来的风险，可以防止数据泄漏风险、合规性违规和潜在的安全漏洞。 了解哪些 AI 应用程序正在使用，谁在使用这些程序，以及如何与敏感数据交互，使您能够强制执行策略，减轻威胁，确保负责任的 AI 采用。 可见性还有助于评估 AI 应用程序的潜在风险，维护治理，并使 AI 的使用与贵组织的安全框架保持一致。
GenAI 应用程序仪表板和应用程序目录为您提供了能见度和对环境中使用的 AI 应用程序的了解。
GenAI 应用程序仪表板提供对内联 GenAI 应用使用（包括影子 AI）的集中全面的可见性。 仪表板详细列出了整个组织中正在使用哪些 AI 应用程序和由谁使用，并跟踪所有用户互动和敏感数据共享。 通过 GenAI 应用程序仪表板提供的可见性，您可以主动识别风险，以预防数据泄露。 有关更多信息，请参见如何使用 GenAI 应用程序仪表板。
应用程序目录包含数百个 AI 应用程序和服务的安全数据、合规性和一般信息的广泛范围。 这包括提供进行第三方风险管理（TPRM）以评估使用该应用程序风险的所有见解。 您可以利用目录了解更多关于应用程序的信息，并决定如何在组织中使用它。 有关更多信息，请参见使用应用程序目录。
审核活动为您提供即便用户未连接到 Cato 云，也能对连接的 SaaS 应用程序中任意用户的所有活动提供带外可见性。 可以将微软 Copilot 和 ChatGPT 与 Cato 集成，以为您提供与这些应用共享的聊天和数据的可见性。 有关更多信息，请参见什么是通过 API 进行应用程序活动管理。
如果没有适当的访问控制，用户可能会无意间将机密信息输入 AI 模型，导致数据泄露或法规违规。 此外，未经审查的 AI 应用程序可能带来安全漏洞、暴露专有代码或生成误导性或有害内容。 通过执行严格的访问策略，您可以确保只有授权用户与授权 AI 工具进行互动，最大限度降低风险的同时支持 AI 采用。
除了通用的 生成式 AI 工具类别外，Cato 还保持着 8 个系统类别的 AI 应用程序。 这些可用于互联网防火墙来控制对一类 AI 应用程序的访问，例如，代码助手应用程序或最受欢迎的 AI 应用程序，包括 ChatGPT、AgentGPT、Google Bard、Elicit AI、MagicPen AI、Poe AI、OpenAI 等。
您还可以为特定的 AI 应用程序或应用程序类别定义规则。 例如，在创建阻止对 生成式 AI 工具类别的流量的规则后，您可以创建具有更高优先级的规则，允许对特定需要访问的用户组的 ChatGPT 的流量。 有关更多信息，请参阅什么是 Cato 互联网防火墙？.
以下示例互联网防火墙规则允许 用户组 研究团队访问 ChatGPT，同时阻止对 生成式 AI 工具类别的所有其他访问：
应用程序控制访问权限策略让您可以根据特定标准对应用程序访问进行细粒度控制，例如应用程序的风险分数或合规性等级。 有关配置应用程序控制规则的更多信息，请参阅管理应用程序控制访问权限策略。
为了防止在应用程序的免费版中暴露专有信息，您可以在应用程序控制访问权限策略中创建规则，阻止用户访问私人账户，仅允许访问您的企业租户。 例如，您可以为OpenAI 应用定义规则，只允许使用公司域名的用户名进行登录活动，阻止所有其他登录（例如，使用私人邮箱登录）。
以下是一个示例规则库，其中第一条规则允许包含公司域名的用户名登录 OpenAI，然后接下来的规则阻止通过直接和第三方身份验证登录 OpenAI。
为了增加粒度，对于某些应用程序，您可以通过允许用户访问必要的应用程序，同时阻止其中的高风险活动，在安全和生产力之间取得平衡。 为此，您可以在应用程序控制访问权限策略中创建包含细粒度活动的规则。 例如，您可以允许访问 Wordtune，但阻止用户上传文件。
GenAI 应用程序常常以可能导致数据泄露的方式处理用户输入，例如用户无意中分享专有代码、个人可识别信息 (PII) 或机密业务数据。 Cato DLP 服务扫描内容，并在 AI 应用程序中执行策略，帮助您防止用户在使用应用程序时危害敏感数据。 通过为 GenAI 应用程序创建 DLP 规则，您可以执行检测并阻止敏感数据输入 AI 模型的策略。
Cato 的 DLP 服务使用数十种模型，能够利用先进的技术检测流量中的敏感数据。 这包括诸如金融、法律、人力资源、移民和医疗等类别。 此外，DLP 还包括用于 GenAI 应用程序的数据类型。 例如，PII 数据配置文件包括信用卡信息和驾驶证等数据类型。 这让您可以创建仅应用于相关敏感数据的细粒度策略，并防止其在 AI 应用程序中使用。
如果预定义的数据配置文件可以提供您自己的文件/数据来训练定制的 ML 模型。 高级 AI 引擎从这些输入中学习，推断上下文，并稍后在同一领域内检测敏感数据。
有关更多信息，详见与 DLP 的自定义数据类型合作。
注意
注意：对于 2025 年 3 月 25 日之后创建的账户，此功能默认可用。 对于在此日期之前创建的账户，您可以手动创建数据类型。 更多信息，请参阅监控AI应用程序的推荐DLP配置。
应用程序控制和 DLP 访问权限策略包括预定义的 Cato 推荐规则。 其中包括保护您的 AI 应用程序的规则。 默认情况下，DLP 监听并为上传到 GenAI 工具的数据类型创建事件：
-
PII
-
金融数据
-
访问密钥和令牌
-
法律数据
0 条评论
文章评论已关闭。