内容是影子AI信息搜集

影子AI信息搜集可以让您了解生成性AI和未被组织正式批准或管理的AI驱动服务的使用情况。 它帮助您了解用户与AI工具交互的地点和方式,使您在定义执行或访问权限策略之前能评估潜在的数据暴露和风险。

影子AI信息搜集注重于意识和洞察。 它默认不会阻止流量,也不会检查AI提示或响应的内容。

Shadow AI信息搜集内容

影子AI信息搜集识别与互联网流量中的AI服务的交互,包含:

  • 公开生成型AI工具
  • AI增强功能嵌入SaaS应用程序
  • 直接用户与站点或远程用户AI服务交互

这些交互可能在没有明确的IT批准的情况下发生,并且是在批准的企业AI平台之外。

影子 AI 信息搜集方法如何运作

影子AI信息搜集基于网络级可见性和流量分析。

Cato 通过应⽤程式签名、域名和⾏为模式结合识别 AI 服务。 这包括独立的 AI 应用程式以及嵌入在广泛 SaaS 平台中的 AI 功能。

根据协定、目的地与使用行为分析和分类流量,以发现与 AI 有关的活动。 此方法不依赖于与 AI 供应商的 API 集成或基于代理的端点检查。

然后, AI 使用量与网络上下文相结合,实现对使用 AI 服务的用户位置及设备的可见性, 而不检测用户互动内容。

此外,Cato 为嵌入在SaaS应用程序中的AI模型(例如 Microsoft 365 Copilot 或 Google Workspace AI 功能)提供信息搜集、配置可见性和风险评估。 这些嵌入式AI功能通过同样的分析过程进行识别,确保不会被忽视。

Cato AI 安全性评估嵌入 AI 功能的风险状况,包括使用中的具体计划或配置,并使组织能够执行管理如何访问和使用这些应用程序内 AI 的策略。

 

收集什么内容信息

影子AI信息搜集收集与AI使用相关的元数据和上下文信息。 收集的信息包括:

  • AI应用程序或服务身份
  • 应用程序类别和AI分类
  • 来源上下文,例如用户、站点或IP地址
  • 目的地AI服务
  • AI相关活动的频率和量

理解影子AI洞察

影子AI信息搜集洞察在Cato管理应用程序中的专用影子AI页面上呈现。 此页面旨在向您提供组织中通过AI使用的聚合、风险感知视图。

影子AI页面帮助您回答以下关键问题:

  • 环境中使用了哪些AI应用程序
  • 根据用户和交互,每个AI应用程序的使用广度
  • 哪些AI应用程序代表更高风险并需要更深入的审查

利用这些洞察理解AI采纳模式,识别未经批准或高风险的AI服务,并决定是否需要额外的治理或访问权限策略控制。

使用案例

ABC公司让员工自由访问互联网,以支持生产力和协作。 随着时间推移,用户开始采用公开的生成性AI工具和AI驱动的功能来协助完成内容创建、研究和编程等任务。 这些服务通常在没有正式批准或IT可见性的情况下使用。

作为IT管理员,您使用影子AI信息搜集分析通过Cato云路由的互联网流量,并识别与AI服务的交互。 影子AI页面建立正在使用的AI应用程序的清单,显示它们被采纳的广度,并突出显示可能带来更高风险的应用程序。

利用这些洞察,您可以了解AI在整个组织中的使用情况,识别未经批准或高风险的AI服务,评估潜在的数据暴露,并就AI治理和批准的平台做出明智的决策。

这篇文章有帮助吗?

1 人中有 1 人觉得有帮助

0 条评论