守卫是您自定义AI应用程序中AI安全的执行点。 您使用守卫来检查AI交互,应用访问权限策略操作,并查看受保护应用程序的使用情况。 有关守卫概念和使用案例的更多信息,请参阅 与AI安全守卫一起工作。
本文说明如何创建守卫,使用生成的认证密钥将其连接到您的AI应用程序,并在部署后监控守卫活动。
定义Guard
您可以在AI安全性> 守卫页面上创建和管理守卫。 此页面列出了您账户中的所有守卫,并包含摘要信息,例如守卫类型、托管位置、AI交互、违规计数和创建日期。
创建守卫
从导航菜单中,选择AI安全> 守卫,然后点击新建。
输入守卫名称。 Cato建议您提供一个描述性名称,以帮助您记住守卫应用于哪些应用程序。
选择守卫类型:
代理:守卫内联拦截提示,Cato执行已配置的操作
API:守卫扫描提示而不拦截它们,Cato返回检测结果,以便您的应用程序应用操作
AI网关:守卫与现有AI网关集成,自动扫描和拦截提示
如果您选择了代理守卫类型,请选择AI服务,该守卫将与它进行接口,并输入服务的API密钥。
点击验证以确保您输入了正确的密钥
如果您选择了API守卫类型,请确定是否要在Outpost上托管守卫。
(可选)确定 Cato 如何处理无法检查的请求。 启用 允许直通 切换按钮,将请求转发到 AI 服务端点,而无需提示检查。 禁用允许直通以拒绝这些请求。
单击 保存。
在您的AI应用程序中实现Guard
创建守卫后,从守卫页面打开它,以查看应用程序的实施细节。 守卫详情页提供了将您的应用程序流量连接到守卫所需的信息。
根据守卫类型和服务,页面可以包括:
端点详细信息
必填头
请求体格式
Guard API密钥
页面还包括可以复制并作为应用程序集成起点使用的示例请求代码。
使用生成的代码段更新您的应用程序,以便根据选择的集成类型,流量通过守卫发送或由守卫评估。
监控Guard活动
部署守卫后,您可以查看其活动以了解如何使用它,哪些规则应用于它,以及是否检测到政策违规。 如果您点击特定会话,您还可以看到发送到和从模型的实际交互数据。
注意:查看会话数据只有在您拥有必要的读取敏感内容权限时才可能。 有关角色和权限的更多信息,请参见 使用RBAC管理管理员角色。

守卫概览页面显示所选守卫的摘要信息,包括交互、违规率、活跃规则等。
您可以使用这些数据了解守卫的使用频率,哪些策略正在积极执行,以及交互触发检测或违规的频率。
守卫日志
守卫日志页面提供了守卫处理的流量的会话级可见性。 对于每个会话,您可以查看摘要字段,例如:
会话ID
调用
检测数
首次活动
最后活动
展开某个会话以查看更多详细信息,例如采取了什么操作、会话的时间戳等。

这些数据可以帮助您更详细地调查守卫活动,并验证守卫是否按预期执行政策。