在 Playground 中测试引擎数据丢失防护配置文件

Prev Next

引擎 Playground 允许您在将其应用于生产 AI 交互策略规则之前验证您的 AI 安全引擎数据丢失防护配置文件的行为。 它提供了一个受控的模拟环境,您可以在其中针对选定的数据丢失防护配置文件测试提示,并实时查看检测结果。

在 Playground 中,您可以选择激活哪些数据丢失防护配置文件,选择预定义的测试场景或创建自定义场景,然后运行模拟器。 系统评估提示与活动的数据丢失防护配置文件,并显示是否触发了任何配置文件违规。

示例-概述.png

此功能帮助您:

  • 在执行前验证检测逻辑

  • 识别数据丢失防护配置文件覆盖中的差距

  • 减少误报

  • 优化自定义检测器和数据丢失防护配置文件组合

由于数据丢失防护配置文件经常在多个访问权限策略规则中重复使用,提前测试它们可以确保一旦执行,它们的表现与预期完全一致。

用例

作为公司 ABC 的安全管理员,您最近创建了一个名为个人标识符保护的数据丢失防护配置文件,以防止员工与 AI 工具共享敏感个人数据。

在将数据丢失防护配置文件应用于您的 AI 交互策略中的阻止规则之前,您想要验证它是否正确检测到:

  • SSNs

  • 电子邮件地址

  • 客户账户号码(自定义正则表达式检测器)

您导航到引擎 Playground 并仅启用个人标识符保护数据丢失防护配置文件。

接下来,您选择预定义的个人信息场景并运行模拟器。 系统评估场景中的提示与您的数据丢失防护配置文件,并显示是否触发了违规。

您注意到 SSNs 和电子邮件地址正确检测到了,但您的内部账户号码模式未触发。

您更新自定义正则表达式检测器,返回到 Playground,并再次运行模拟。 这次,违规被正确识别。

现在您确信,当您将数据丢失防护配置文件应用于阻止规则时,它将在生产中表现如预期。

在 Playground 中测试数据丢失防护配置文件

使用引擎 Playground 模拟提示与选定的数据丢失防护配置文件,并查看检测结果。

示例_例子.png

在引擎 Playground 中测试数据丢失防护配置文件:

  1. 从导航菜单中选择 Security > AI Security > Playground。

  2. 在左侧的选择引擎数据丢失防护配置文件以激活面板中,启用您想要测试的数据丢失防护配置文件。

  3. 在会话区域中,选择您想要使用的场景:

    • 选择一个预定义的场景,例如:

      • 个人信息

      • 越狱 & 提示注入

      • 代码中的 API 密钥和秘密

    • 或者选择自定义会话以创建您自己的测试提示

      如果使用自定义会话,请在 User Prompt 字段中输入您的提示

  4. 单击Run Simulator。

  5. 查看模拟结果。

    系统显示提示评估了多少数据丢失防护配置文件。 您看到是否触发了任何数据丢失防护配置文件违规。 如果违规发生,您可以查看匹配了哪些数据丢失防护配置文件

  6. 根据需要调整数据丢失防护配置文件或提示,然后再次运行模拟器以验证您的变更:

    • 修改检测器或数据丢失防护配置文件逻辑

    • 启用或禁用其他数据丢失防护配置文件

    • 更新您的测试提示