--- title: "保护 AI 应用程序流量" slug: "securing-ai-app-traffic" tags: ["Internet Security"] updated: 2026-07-30T03:29:40Z published: 2026-07-30T03:29:40Z canonical: "knowledge.catonetworks.com/securing-ai-app-traffic" --- > ## Documentation Index > Fetch the complete documentation index at: https://knowledge.catonetworks.com/llms.txt > Use this file to discover all available pages before exploring further. # 保护 AI 应用程序流量 本文说明如何在组织中保持对 AI 应用程序的安全访问。 ## 概概览 使用基于 AI 的工具可以提高生产力,但也为您的组织带来了新的安全挑战和风险。 例如,用户可能会在 AI 应用程序的免费版中输入专有数据,导致应用程序供应商有权使用这些信息。 不法分子可能会查询 AI 应用程序的 LLM 来提取专有数据。 随着 AI 应用程序数量的迅速增加,安全团队面临着了解正在使用哪些应用程序以及在哪里共享敏感数据的挑战。 为了在启用安全 AI 应用程序使用的同时保护您的组织及其敏感数据,Cato 建议采取三部分策略: 1. **获取可见性**:了解哪些 AI 应用程序正在使用,由谁使用,以及如何使用 2. **控制访问**:实施策略以规范对 AI 应用程序的访问并执行安全措施 3. **保护数据**:通过防止未经授权的访问或在 AI 应用程序中共享敏感信息来保护敏感数据 结合多种功能可以实现该策略,并监控和保护 AI 应用流量。 您可以定义互联网防火墙规则以控制对 AI 应用程序类别的访问,并为特定 AI 应用程序设置规则。 此外,定义应用程序控制访问权限策略以确保用户仅访问企业租户的 AI 应用程序或阻止细粒度操作,确保您的专有信息安全。 作为进一步的保护层,您可以配置数据控制访问权限策略,以防止敏感数据传输到 AI 应用程序。 ## 在您的环境中获取 AI 应用程序的可见性 了解和理解您的组织中使用的 AI 应用程序所带来的风险,可以防止数据泄漏风险、合规性违规和潜在的安全漏洞。 了解哪些 AI 应用程序正在使用,谁在使用这些程序,以及如何与敏感数据交互,使您能够强制执行策略,减轻威胁,确保负责任的 AI 采用。 可见性还有助于评估 AI 应用程序的潜在风险,维护治理,并使 AI 的使用与贵组织的安全框架保持一致。 GenAI 应用程序仪表板和应用程序目录为您提供了能见度和对环境中使用的 AI 应用程序的了解。 ### GenAI 仪表板 GenAI 应用程序仪表板提供对内联 GenAI 应用使用(包括影子 AI)的集中全面的可见性。 仪表板详细列出了整个组织中正在使用哪些 AI 应用程序和由谁使用,并跟踪所有用户互动和敏感数据共享。 通过 GenAI 应用程序仪表板提供的可见性,您可以主动识别风险,以预防数据泄露。 有关更多信息,请参见[如何使用 GenAI 应用程序仪表板](/v1/docs/using-the-genai-apps-dashboard)。 ### 应用目录 应用程序目录包含数百个 AI 应用程序和服务的安全数据、合规性和一般信息的广泛范围。 这包括提供进行第三方风险管理(TPRM)以评估使用该应用程序风险的所有见解。 您可以利用目录了解更多关于应用程序的信息,并决定如何在组织中使用它。 有关更多信息,请参见[使用应用程序目录](/v1/docs/using-the-app-catalog)。 ### 审核活动支持 GenAI 应用 审核活动为您提供即便用户未连接到 Cato 云,也能对连接的 SaaS 应用程序中任意用户的所有活动提供带外可见性。 可以将微软 Copilot 和 ChatGPT 与 Cato 集成,以为您提供与这些应用共享的聊天和数据的可见性。 更多信息,请参见[什么是通过API实现应用控制与 应用活动](/v1/docs/what-is-application-control-via-api-with-app-activities)。 ### 用例 - 识别影子 AI 公司 ABC 查看 GenAI 应用程序仪表板并识别出未知的 AI 驱动代码分析工具。 他们在应用程序目录中搜索该应用,并发现该应用程序的风险评分为 6。 为规避敏感信息被披露的风险,他们创建了一个应用程序控制角色来阻止对该应用的访问。 ## 控制对 AI 应用程序的访问 如果没有适当的访问控制,用户可能会无意间将机密信息输入 AI 模型,导致数据泄露或法规违规。 此外,未经审查的 AI 应用程序可能带来安全漏洞、暴露专有代码或生成误导性或有害内容。 通过执行严格的访问策略,您可以确保只有授权用户与授权 AI 工具进行互动,最大限度降低风险的同时支持 AI 采用。 ### 控制应用程序类别访问 除了通用的 **生成式 AI 工具**类别外,Cato 还保持着 8 个系统类别的 AI 应用程序。 这些可用于互联网防火墙来控制对一类 AI 应用程序的访问,例如,代码助手应用程序或最受欢迎的 AI 应用程序,包括 ChatGPT、AgentGPT、Google Bard、Elicit AI、MagicPen AI、Poe AI、OpenAI 等。 您还可以为特定的 AI 应用程序或应用程序类别定义规则。 例如,在创建阻止对 **生成式 AI 工具**类别的流量的规则后,您可以创建具有更高优先级的规则,允许对特定需要访问的用户组的 **ChatGPT** 的流量。 有关更多信息,请参阅[什么是 Cato 互联网防火墙?](/v1/docs/what-is-the-cato-internet-firewall). 以下示例互联网防火墙规则允许 **用户组** 研究团队访问 **ChatGPT**,同时阻止对 **生成式 AI 工具**类别的所有其他访问: ![AI_Tools_FW_Rule.png](https://cdn.document360.io/81d0367c-2b69-4ba8-b412-1c8f46ce677e/Images/Documentation/28862955832349.png?sv=2026-02-06&spr=https&st=2026-11-19T05%3A18%3A44Z&se=2026-11-19T06%3A18%3A44Z&sr=b&sp=r&sig=RcJihrYQlWYr3m%2BjdPmLpKbWU0Ll9F15XPgScBJSWjg%3D) 应用程序控制访问权限策略让您可以根据特定标准对应用程序访问进行细粒度控制,例如应用程序的风险分数或合规性等级。 有关配置应用控制规则的更多信息,请参阅[管理应用控制策略](/v1/docs/managing-the-application-control-policy)。 ### 控制租户访问 为了防止在应用程序的免费版中暴露专有信息,您可以在应用程序控制访问权限策略中创建规则,阻止用户访问私人账户,仅允许访问您的企业租户。 例如,您可以为**OpenAI** 应用定义规则,只允许使用公司域名的用户名进行登录活动,阻止所有其他登录(例如,使用私人邮箱登录)。 以下是一个示例规则库,其中第一条规则允许包含公司域名的用户名登录 **OpenAI**,然后接下来的规则阻止通过直接和第三方身份验证登录 OpenAI。 ![AI_Tools_CASB_Rules.png](https://cdn.document360.io/81d0367c-2b69-4ba8-b412-1c8f46ce677e/Images/Documentation/28862943269277.png?sv=2026-02-06&spr=https&st=2026-11-19T05%3A18%3A44Z&se=2026-11-19T06%3A18%3A44Z&sr=b&sp=r&sig=siHXejGihBWnquIjf2KTsSWnUO27RS2dSXFasd%2F7vco%3D) ### 控制细粒度活动 为了增加粒度,对于某些应用程序,您可以通过允许用户访问必要的应用程序,同时阻止其中的高风险活动,在安全和生产力之间取得平衡。 为此,您可以在应用程序控制访问权限策略中创建包含细粒度活动的规则。 例如,您可以允许访问 Wordtune,但阻止用户上传文件。 ![Gran_actv.png](https://cdn.document360.io/81d0367c-2b69-4ba8-b412-1c8f46ce677e/Images/Documentation/28862946018461.png?sv=2026-02-06&spr=https&st=2026-11-19T05%3A18%3A44Z&se=2026-11-19T06%3A18%3A44Z&sr=b&sp=r&sig=YP3zpJ9Y%2FaYwgCNYo6U1gpwsYOl%2FrTMyEP%2F3KDfOz%2FA%3D) ### 强制临时聊天(ChatGPT) ChatGPT提供了一项旨在增强用户隐私的临时聊天功能。 根据OpenAI,这些聊天不会出现在用户的历史记录中,不会存储在内存中,也不会用于训练模型。 但是,这种隐私保护默认是禁用的。 除非用户手动启用,否则所有互动都会被保存,对于与工作相关的使用可能存在风险。 应用程序控制策略可以检测用户是否处于临时聊天状态,并在不是临时聊天时阻止流量。 这使组织能够让用户访问ChatGPT,同时确保敏感数据不会被意外泄露。 ![ChatGPT.png](https://cdn.document360.io/81d0367c-2b69-4ba8-b412-1c8f46ce677e/Images/Documentation/28862926094877.png?sv=2026-02-06&spr=https&st=2026-11-19T05%3A18%3A44Z&se=2026-11-19T06%3A18%3A44Z&sr=b&sp=r&sig=RzlSJppKIRLb9p%2FTkTwYJGpmzRslHqAEIWDmODgHbbI%3D) ## 保护敏感数据 GenAI 应用程序常常以可能导致数据泄露的方式处理用户输入,例如用户无意中分享专有代码、个人可识别信息 (PII) 或机密业务数据。 Cato DLP 服务扫描内容,并在 AI 应用程序中执行策略,帮助您防止用户在使用应用程序时危害敏感数据。 通过为 GenAI 应用程序创建 DLP 规则,您可以执行检测并阻止敏感数据输入 AI 模型的策略。 ### 预定义数据配置文件 Cato 的 DLP 服务使用数十种模型,能够利用先进的技术检测流量中的敏感数据。 这包括诸如金融、法律、人力资源、移民和医疗等类别。 此外,DLP 还包括用于 GenAI 应用程序的数据类型。 例如,PII 数据配置文件包括信用卡信息和驾驶证等数据类型。 这让您可以创建仅应用于相关敏感数据的细粒度策略,并防止其在 AI 应用程序中使用。 如果预定义的数据配置文件可以提供您自己的文件/数据来训练定制的 ML 模型。 高级 AI 引擎从这些输入中学习,推断上下文,并稍后在同一领域内检测敏感数据。 有关更多信息,请参阅[处理自定义数据类型](/v1/docs/working-with-custom-data-types-for-dlp)。 ### 预定义的数据违规监控 > [!NOTE] > 注意: > > 此功能对 2025 年 3 月 25 日后创建的账户默认可用。 对于在此日期之前创建的账户,您可以手动创建数据类型。 更多信息,请参阅[监控AI应用程序的推荐DLP配置](/v1/docs/recommended-dlp-configuration-to-monitor-ai-apps)。 应用程序控制和 DLP 访问权限策略包括预定义的 Cato 推荐规则。 其中包括保护您的 AI 应用程序的规则。 默认情况下,DLP 监听并为上传到 GenAI 工具的数据类型创建事件: - PII - 金融数据 - 访问密钥和令牌 - 法律数据 ### 用例 - 识别数据访问权限策略违规 公司 ABC 正在签署一项订阅新 SaaS 应用程序的协议。 他们收到合同用于签署,用户将其上传到高风险 GenAI 应用程序的免费级别以审阅和总结合同。 预定义的 DLP 规则创建了事件以警告安全团队这种访问策略违规。