本文说明了如何在您的组织中维护对 AI 应用程序的安全访问。
使用基于AI的工具可以提高生产力，但也会给您的组织带来新的安全挑战和风险。 例如，用户可以在AI应用程序的免费版本中输入专有数据，导致应用程序供应商有权使用这些信息。 恶意活动者可能会查询AI应用程序的LLM以提取专有数据。 随着AI应用程序数量的快速增长，安全团队面临着了解哪些应用程序在使用以及敏感数据共享在哪里的挑战。
为了在支持安全AI应用程序使用的同时保护您的组织及其敏感数据，Cato建议采用三部分策略：
-
获取可见性：了解哪些AI应用程序正在使用、谁在使用它们以及如何使用它们
-
控制访问：实施策略以调节对AI应用程序的访问并执行安全措施
-
保护数据：通过防止未经授权的访问或在AI应用程序中共享来保护敏感信息
利用一系列功能可以实施此策略并监控和保护AI应用程序流量。 您可以定义互联网防火墙规则来控制对某类AI应用程序的访问并为特定AI应用程序设置规则。 此外，定义应用控制策略以确保用户仅访问企业租户的AI应用程序或阻止细粒度操作，从而保持您的专有信息安全。 作为保护的进一步层，您可以配置数据控制策略以防止将敏感数据传输到AI应用程序。
了解和理解组织内部使用的AI应用程序相关的风险可以防止数据泄漏风险、合规性违规和潜在的安全漏洞。 了解哪些AI应用程序正在使用、谁在使用它们以及它们如何与敏感数据交互能够让您执行策略、减轻威胁并确保负责任的AI采用。 可见性还有助于评估AI应用程序的潜在风险、维护治理并使AI的使用与组织的安全框架相一致。
GenAI应用程序仪表板和应用程序目录为您提供了关于环境中使用的AI应用程序的可见性和理解。
GenAI应用程序仪表板提供了对内联GenAI应用程序使用的集中、全面的可见性，包括阴影AI。 仪表板详细说明了您的组织中正在使用的AI应用程序是什么，以及由谁使用的，并跟踪所有用户交互和敏感数据共享。 通过GenAI应用程序仪表板提供的可见性，您可以主动识别风险，从而防止数据泄露。 有关更多信息，请参见使用GenAI应用程序仪表板。
应用程序目录包含广泛的安全数据、合规性和数百个AI应用程序和服务的一般信息。 这包括提供用于进行TPRM（第三方风险管理）的所有洞察力，以评估使用此应用程序的风险。 您可以使用目录了解有关应用程序的更多信息，并决定如何在您的组织中使用它。 有关更多信息，请参见使用应用目录。
审计活动为您提供了任何用户在连接的SaaS应用程序中所做的所有活动的带外可见性，即使用户未连接到Cato云。 Microsoft Copilot和ChatGPT可以与Cato集成，为您提供与这些应用程序共享的聊天和数据的可见性。 有关更多信息，请参见通过API和应用活动进行应用控制是什么。
如果没有适当的访问控制，用户可能无意中将机密信息输入到AI模型中，导致数据泄露或违反监管规定。 此外，未经审查的AI应用程序可能会引入安全漏洞、暴露专有代码或生成误导性或有害内容。 通过执行严格的访问策略，您可以确保只有授权用户与授权AI工具互动，从而在支持AI采用的同时尽量减少风险。
Cato除了通用的生成式AI工具类别外，还维护8个AI应用程序的系统类别。 这些类别可用于互联网防火墙以控制对某类AI应用程序的访问，例如代码助手应用程序，或对最流行的AI应用程序，包括ChatGPT、AgentGPT、Google Bard、Elicit AI、MagicPen AI、Poe AI、OpenAI等的访问。
您还可以为特定的AI应用程序或应用程序类别定义规则。 例如，在创建阻止对生成式 AI 工具类别的流量的规则后，您可以创建具有更高优先级的规则，允许对ChatGPT的流量用于需要访问的特定用户组。 有关更多信息，请参见Cato互联网防火墙是什么？。
以下示例互联网防火墙规则允许用户组研究团队访问ChatGPT，同时阻止对生成式 AI 工具类别的所有其他访问：
应用控制策略允许您根据特定条件，细粒度地控制应用访问，例如应用的风险评分或合规性水平。 有关配置应用控制规则的更多信息，请参见管理应用程序控制策略。
为了防止在应用程序的免费版本中暴露专有信息，您可以在应用程序控制策略中创建规则，阻止用户访问私人账户，仅允许访问您的企业租户。 例如，您可以为OpenAI 应用程序定义规则，仅允许登录活动到您组织的租户，并阻止所有其他登录（例如，使用私人电子邮件地址登录）。
以下是一个示例规则库，其中第一条规则允许使用公司域名的用户名登录到OpenAI，接下来的规则阻止通过直接和第三方认证登录到 OpenAI 的所有登录。
GenAI应用程序通常以可能导致数据泄漏的方式处理用户输入，例如用户无意中共享专有代码、个人身份信息（PII）或机密商业数据。 Cato数据泄露防护服务扫描内容并在AI应用程序中执行策略，帮助您防止用户在使用应用程序时影响敏感数据。 通过为GenAI应用程序创建数据泄露防护规则，您可以执行能够检测并阻止敏感数据输入到AI模型中的策略。
Cato的数据泄露防护服务使用数十个模型，能够使用高级技术在流量中检测敏感数据。 这包括如 财务、法律、人力资源、移民和医疗等类别。 此外，数据泄露防护还包括可与GenAI应用程序一起使用的数据类型。 例如，个人身份信息数据配置文件包括信用卡信息和驾照等数据类型。 这让您可以创建适用于相关敏感数据的细粒度策略，防止其在AI应用程序中被使用。
如果预定义数据配置文件可以提供您自己的文件/数据以训练自定义机器学习模型。 高级AI引擎从此输入中学习，推断上下文，随后检测同一域中的敏感数据。
有关更多信息，请参见使用自定义数据类型进行数据泄露防护。
注意
注意： 此功能默认可用于2025年3月25日之后创建的账户。 对于此日期之前创建的账户，您可以手动创建数据类型。 有关更多信息，请参见推荐的数据泄露防护规则以监控AI应用程序。
应用控制和数据泄露防护策略包括预定义的Cato推荐规则。 其中包括保护您的AI应用程序的规则。 默认情况下，数据泄露防护监控并为以下数据类型上传到GenAI工具创建事件：
-
PII
-
财务数据
-
访问密钥&令牌
-
法律数据
0 条评论
文章评论已关闭。