影子AI信息搜集可以让您了解生成性AI和未被组织正式批准或管理的AI驱动服务的使用情况。 它帮助您了解用户与AI工具交互的地点和方式,使您在定义执行或访问权限策略之前能评估潜在的数据暴露和风险。
影子AI信息搜集注重于意识和洞察。 它默认不会阻止流量,也不会检查AI提示或响应的内容。
Shadow AI信息搜集内容
影子AI信息搜集识别与互联网流量中的AI服务的交互,包含:
公开生成型AI工具
AI增强功能嵌入SaaS应用程序
直接用户与站点或远程用户AI服务交互
这些交互可能在没有明确的IT批准的情况下发生,并且是在批准的企业AI平台之外。
影子 AI 信息搜集方法如何运作
影子AI信息搜集基于网络级可见性和流量分析。
Cato 通过应⽤程式签名、域名和⾏为模式结合识别 AI 服务。 这包括独立的 AI 应用程式以及嵌入在广泛 SaaS 平台中的 AI 功能。
根据协定、目的地与使用行为分析和分类流量,以发现与 AI 有关的活动。 此方法不依赖于与 AI 供应商的 API 集成或基于代理的端点检查。
然后, AI 使用量与网络上下文相结合,实现对使用 AI 服务的用户位置及设备的可见性, 而不检测用户互动内容。
此外,Cato 为嵌入在SaaS应用程序中的AI模型(例如 Microsoft 365 Copilot 或 Google Workspace AI 功能)提供信息搜集、配置可见性和风险评估。 这些嵌入式AI功能通过同样的分析过程进行识别,确保不会被忽视。
Cato AI 安全性评估嵌入 AI 功能的风险状况,包括使用中的具体计划或配置,并使组织能够执行管理如何访问和使用这些应用程序内 AI 的策略。
收集什么内容信息
影子AI信息搜集收集与AI使用相关的元数据和上下文信息。 收集的信息包括:
AI应用程序或服务身份
应用程序类别和AI分类
来源上下文,例如用户、站点或IP地址
目的地AI服务
AI相关活动的频率和量
理解影子AI洞察
影子AI信息搜集洞察在Cato管理应用程序中的专用影子AI页面上呈现。 此页面旨在向您提供组织中通过AI使用的聚合、风险感知视图。
影子AI页面帮助您回答以下关键问题:
环境中使用了哪些AI应用程序
根据用户和交互,每个AI应用程序的使用广度
哪些AI应用程序代表更高风险并需要更深入的审查
利用这些洞察理解AI采纳模式,识别未经批准或高风险的AI服务,并决定是否需要额外的治理或访问权限策略控制。
Use Case
ABC公司让员工自由访问互联网,以支持生产力和协作。 随着时间推移,用户开始采用公开的生成性AI工具和AI驱动的功能来协助完成内容创建、研究和编程等任务。 这些服务通常在没有正式批准或IT可见性的情况下使用。
作为IT管理员,您使用影子AI信息搜集分析通过Cato云路由的互联网流量,并识别与AI服务的交互。 影子AI页面建立正在使用的AI应用程序的清单,显示它们被采纳的广度,并突出显示可能带来更高风险的应用程序。
利用这些洞察,您可以了解AI在整个组织中的使用情况,识别未经批准或高风险的AI服务,评估潜在的数据暴露,并就AI治理和批准的平台做出明智的决策。