自定义AI应用程序可以处理包含敏感数据、不安全内容、攻击尝试或违反您组织的AI使用访问权限策略的请求的提示。 阻止对这些应用程序的访问可以降低风险,但也可能限制已批准的AI工作流程的价值。
访问权限策略允许您通过实时检查内容并在检测到有风险或不合规内容时应用操作来控制具体卫士如何处理AI交互。 您可以为选择的卫士创建细化的规则,并分配匹配每个应用程序安全要求的引擎配置文件和操作,而不是将相同的保护应用于每个被保护的工作流程。
使用卫士交互访问权限策略规则,您可以根据组织的安全和治理要求检测、阻止、匿名化或监控AI交互。 这可以帮助您保护敏感信息并在不妨碍合法业务使用的情况下,为您构建的AI应用程序实施AI使用访问权限策略。
配置卫士交互访问权限策略
在创建规则之前,需在Cato管理应用程序中为终端用户启用卫士交互访问权限策略。
启用访问权限策略:
从导航菜单中选择 AI 安全性。
在 AI 应用安全性下,选择 卫士交互访问权限策略
启用 AI 应用策略切换。
配置卫士交互访问权限策略规则
卫士交互访问权限策略中的规则会被评估,而不考虑它们在规则库中的位置。 如果多个规则被触发,将应用最严格的操作。 例如,如果有一个带有监控操作的规则和另一个带有阻止操作的规则,将应用阻止操作。

要创建规则:
从 AI 交互访问权限策略页面,点击 新建。
在 常规部分,配置字段,例如 名称 和 描述,以及规则的位置。
在 卫士 部分,选择规则适用的具体卫士,或者点击 全选,将规则应用于所有卫士。
在 引擎配置文件部分中,选择用于评估AI提示的配置文件。
引擎配置文件是用于检查内容的数据类型。 例如,PII可用于查看提示中是否包含社会安全号码。
在 操作 部分,选择当提示匹配内容配置文件时要应用的操作,例如阻止。
要确定规则的范围,至少选择一个要应用规则的 方向。
点击 保存。