Песочница двигателей позволяет проверить, как ваши профили DLP движка безопасности AI работают, прежде чем применить их к правилам AI политики взаимодействия. Она предоставляет контролируемую среду моделирования, в которой вы можете тестировать запросы на выбранных профилях и просматривать результаты обнаружения в реальном времени.
В песочнице вы выбираете, какие профили активировать, выбираете предопределенный сценарий тестирования или создаете пользовательский, и запускаете симулятор. Система оценивает запрос относительно активных профилей и показывает, были ли вызваны какие-либо нарушения профиля.
Эта функция помогает вам:
Проверить логику обнаружения перед применением
Выявить пробелы в покрытии профиля
Уменьшить количество ложных срабатываний
Тонко настроить пользовательские детекторы и комбинации профилей
Поскольку профили часто повторно используются в нескольких правилах политики развертывания, предварительное тестирование позволяет убедиться, что после их применения они работают точно так, как задумано.
Вариант использовать
Как администратор безопасности компании ABC, вы недавно создали профиль, названный «Защита идентификатора», чтобы предотвратить обмен сотрудниками конфиденциальными личными данными с AI инструментами.
Перед применением профиля к правилу блокировки в вашей AI политике взаимодействия вы хотите убедиться, что он правильно обнаруживает:
SSNs
Адреса электронной почты
Номера учетных записей клиентов (пользовательский детектор регулярных выражений)
Вы переходите в песочницу двигателей и включаете только профиль «Защита идентификатора».
Затем вы выбираете предопределенный сценарий «Персональная информация» и запускаете симулятор. Система оценивает запросы в сценарии относительно вашего профиля и показывает, были ли вызваны нарушения.
Вы замечаете, что SSNs и адреса электронной почты правильно обнаруживаются, но ваша внутренняя схема номеров учетных записей не вызывается.
Вы обновляете пользовательский детектор регулярных выражений, возвращаетесь в песочницу и запускаете симуляцию заново. На этот раз нарушение правильно идентифицировано.
Теперь вы уверены, что при применении профиля к правилу блокировки он будет работать как ожидается в производственной среде.
Тест профилей DLP в песочнице
Используйте песочницу двигателей, чтобы моделировать запросы на выбранных профилях и просматривать результаты обнаружения.
Для тестирования профилей DLP в песочнице двигателей:
Из меню навигации выберите AI Безопасность > Песочница.
В панели «Активировать профили DLP двигателей» слева включите профили, которые хотите протестировать.
В области сессии выберите сценарий, который хотите использовать:
Выберите предопределенный сценарий, например:
Персональная информация
Jailbreak & Запрос инъекции
API ключи & секреты в коде
Или выберите Пользовательскую сессию, чтобы создать свои собственные тестовые запросы
Если вы используете пользовательскую сессию, введите ваш запрос в поле Запрос пользователя
Нажмите Запустить симулятор.
Просмотрите результаты симуляции.
Система показывает, как много профилей был оценен запрос. Вы видите, были ли вызваны нарушения профиля. Если произошли нарушения, вы можете просмотреть, какие профили были сопоставлены
Отрегулируйте профили или запросы по мере необходимости и запустите симулятор снова, чтобы подтвердить свои изменения:
Измените детекторы или логику профиля
Включите или отключите дополнительные профили
Обновите ваши тестовые запросы