配置和监控Guard

Prev Next

守卫是您自定义AI应用程序中AI安全的执行点。 您使用守卫来检查AI交互,应用访问权限策略操作,并查看受保护应用程序的使用情况。 有关守卫概念和使用案例的更多信息,请参阅 与AI安全守卫一起工作。

本文说明如何创建守卫,使用生成的认证密钥将其连接到您的AI应用程序,并在部署后监控守卫活动。

定义Guard

您可以在AI安全性> 守卫页面上创建和管理守卫。 此页面列出了您账户中的所有守卫,并包含摘要信息,例如守卫类型、托管位置、AI交互、违规计数和创建日期。

创建守卫

  1. 从导航菜单中,选择AI安全> 守卫,然后点击新建。

  2. 输入守卫名称。 Cato建议您提供一个描述性名称,以帮助您记住守卫应用于哪些应用程序。

  3. 选择守卫类型:

    • 代理:守卫内联拦截提示,Cato执行已配置的操作

    • API:守卫扫描提示而不拦截它们,Cato返回检测结果,以便您的应用程序应用操作

    • AI网关:守卫与现有AI网关集成,自动扫描和拦截提示

  4. 如果您选择了代理守卫类型,请选择AI服务,该守卫将与它进行接口,并输入服务的API密钥。

    1. 点击验证以确保您输入了正确的密钥

      如果您选择了API守卫类型,请确定是否要在Outpost上托管守卫。

    2. (可选)确定 Cato 如何处理无法检查的请求。 启用 允许直通 切换按钮,将请求转发到 AI 服务端点,而无需提示检查。 禁用允许直通以拒绝这些请求。

  5. 单击 保存。

在您的AI应用程序中实现Guard

创建守卫后,从守卫页面打开它,以查看应用程序的实施细节。 守卫详情页提供了将您的应用程序流量连接到守卫所需的信息。

根据守卫类型和服务,页面可以包括:

  • 端点详细信息

  • 必填头

  • 请求体格式

  • Guard API密钥

页面还包括可以复制并作为应用程序集成起点使用的示例请求代码。

使用生成的代码段更新您的应用程序,以便根据选择的集成类型,流量通过守卫发送或由守卫评估。

监控Guard活动

部署守卫后,您可以查看其活动以了解如何使用它,哪些规则应用于它,以及是否检测到政策违规。 如果您点击特定会话,您还可以看到发送到和从模型的实际交互数据。

注意:查看会话数据只有在您拥有必要的读取敏感内容权限时才可能。 有关角色和权限的更多信息,请参见 使用RBAC管理管理员角色。

guard-monitoring-overview.png

守卫概览页面显示所选守卫的摘要信息,包括交互、违规率、活跃规则等。

您可以使用这些数据了解守卫的使用频率,哪些策略正在积极执行,以及交互触发检测或违规的频率。

守卫日志

守卫日志页面提供了守卫处理的流量的会话级可见性。 对于每个会话,您可以查看摘要字段,例如:

  • 会话ID

  • 调用

  • 检测数

  • 首次活动

  • 最后活动

展开某个会话以查看更多详细信息,例如采取了什么操作、会话的时间戳等。

guard-monitoring-logging.png

这些数据可以帮助您更详细地调查守卫活动,并验证守卫是否按预期执行政策。