エンジンプレイグラウンドを使用すると、AIセキュリティエンジンプロファイルを本番AIインタラクションポリシールールに適用する前にその動作を検証できます。 選択したプロファイルに対してプロンプトをテストし、検出結果をリアルタイムで確認できる制御されたシミュレーション環境を提供します。
プレイグラウンドでは、アクティブ化するプロファイルを選択し、定義済みのテストシナリオを選択するかカスタムシナリオを作成してシミュレーターを実行します。 システムはアクティブなプロファイルに対してプロンプトを評価し、プロフィール違反がトリガーされたかどうかを表示します。
この機能は以下のことに役立ちます:
施行前に検出ロジックを検証する
プロファイルカバレッジのギャップを特定する
偽陽性を減らす
カスタム検出器とプロファイルの組み合わせを微調整する
プロファイルは複数のポリシールールに再利用されることが多いため、事前にテストすることで施行されたときに意図通りに動作することを確認します。
Use Case
会社ABCのセキュリティ管理者として、従業員がAIツールで個人の敏感なデータを共有するのを防ぐために「個人識別子保護」というプロファイルを最近作成しました。
AIインタラクションポリシーのブロッキングルールにプロファイルを適用する前に、正確に検出できるかを検証したいです:
SSNs
メールアドレス
顧客アカウント番号（カスタム正規表現検出器）
エンジンプレイグラウンドに移動し、「個人識別子保護」プロファイルのみを有効化します。
次に、定義済みの「個人情報」シナリオを選択してシミュレーターを実行します。 システムはシナリオ内のプロンプトをプロファイルに対して評価し、違反がトリガーされたかどうかを表示します。
SSNsとメールアドレスが正しく検出されることに気付きますが、内部アカウント番号のパターンはトリガーされていません。
カスタム正規表現検出器を更新し、プレイグラウンドに戻って再度シミュレーションを実行します。 今回は違反が正しく識別されます。
プロファイルをブロッキングルールに適用した場合、それがプロダクションで期待通りに動作することに自信が持てます。
プレイグラウンドでプロファイルをテストする
エンジンプレイグラウンドを使用して選択したプロファイルに対してプロンプトをシミュレートし、検出結果をレビューします。
エンジンプレイグラウンドでプロファイルをテストするために:
ナビゲーションメニューから、セキュリティ > AIセキュリティ > プレイグラウンドを選択します。
左側の「エンジンプロファイルをアクティブ化する」を選択し、テストしたいプロファイルを有効化します。
セッションエリアで、使用するシナリオを選択します:
以下のように定義済みシナリオを選択します:
個人情報
ジェイルブレイク＆プロンプトインジェクション
コード内のAPIキーと秘密情報
または、「カスタムセッション」を選択して独自のテストプロンプトを作成します
カスタムセッションを使用する場合、「ユーザープロンプト」フィールドにプロンプトを入力します。
シミュレーターを実行をクリックします。
シミュレーション結果をレビューします。
システムは、プロンプトが評価されたプロファイルの数を表示します。 いくつかのプロファイル違反がトリガーされたかどうかを確認できます。 違反が発生した場合、どのプロファイルが一致したかをレビューできます。
必要に応じてプロファイルまたはプロンプトを調整し、シミュレーターを再度実行して変更を検証します。
検出器またはプロファイルロジックを修正する
追加のプロファイルを有効化または無効化する
テストプロンプトを更新する