엔진 플레이그라운드를 통해 AI 보안 엔진 DLP 프로필이 프로덕션 AI 상호작용 정책 규칙에 적용되기 전에 어떻게 행동하는지 검증할 수 있습니다. 선택한 DLP 프로필에 대한 프롬프트를 테스트하고 실시간으로 탐지 결과를 검토할 수 있는 제어된 시뮬레이션 환경을 제공합니다.
플레이그라운드에서 활성화할 DLP 프로필을 선택하고 사전 정의된 테스트 시나리오를 선택하거나 사용자 정의 시나리오를 생성하여 시뮬레이터를 실행합니다. 시스템은 활성 DLP 프로필에 대한 프롬프트를 평가하고 프로필 위반이 발생했는지 여부를 보여줍니다.
이 기능은 다음과 같은 도움을 줍니다:
강제 적용 전에 탐지 로직 검증
DLP 프로필 범위의 공백 식별
오탐 줄이기
사용자 정의 탐지기 및 DLP 프로필 조합을 미세 조정
DLP 프로필이 여러 정책 규칙에서 자주 재사용되므로 사전에 테스트하면 강제 적용 시 의도대로 행동한다는 것을 확인할 수 있습니다.
사용 케이스
회사 ABC의 보안 관리자로서 직원이 AI 도구와 민감한 개인 데이터를 공유하지 않도록 하기 위해 개인 식별자 보호라는 이름의 DLP 프로필을 최근에 생성했습니다.
AI 상호작용 정책에서 차단 규칙에 DLP 프로필을 적용하기 전에 올바르게 탐지하는지 확인하고자 합니다:
SSN
이메일 주소
고객 계정 번호 (사용자 정의 정규 표현식 탐지기)
엔진 플레이그라운드로 이동하여 개인정보 보호 DLP 프로필만 활성화합니다.
다음으로 사전 정의된 개인정보 시나리오를 선택하고 시뮬레이터를 실행합니다. 시스템은 시나리오에서 프롬프트를 DLP 프로필에 맞춰 평가하고 위반이 발생했는지 여부를 보여줍니다.
SSN과 이메일 주소가 올바르게 감지되었지만 내부 계정 번호 패턴이 트리거되지 않았음을 확인합니다.
사용자 정의 정규 표현식 탐지기를 업데이트하고 플레이그라운드로 돌아가 다시 시뮬레이션을 실행합니다. 이번에는 위반이 올바르게 식별됩니다.
차단 규칙에 프로필을 적용할 때 프로덕션에서 예상대로 행동할 것이라고 확신하게 됩니다.
플레이그라운드에서 DLP 프로필 테스트
엔진 플레이그라운드를 사용하여 선택된 DLP 프로필에 대한 프롬프트를 시뮬레이션하고 탐지 결과를 검토합니다.
엔진 플레이그라운드에서 DLP 프로필을 테스트하려면:
탐색 메뉴에서 보안 > AI 보안 > 플레이그라운드를 선택합니다.
왼쪽의 엔진 DLP 프로필 활성화 패널에서 테스트할 DLP 프로필을 활성화합니다.
세션 영역에서 사용할 시나리오를 선택합니다:
사전 정의된 시나리오를 선택합니다, 예를 들어:
개인정보
탈옥 & 프롬프트 삽입
코드 내 API 키 및 비밀
또는 사용자 정의 세션을 선택하여 자체 테스트 프롬프트를 생성합니다
사용자 정의 세션을 사용하는 경우 사용자 프롬프트 필드에 프롬프트를 입력합니다
시뮬레이터 실행을 클릭합니다.
시뮬레이션 결과를 검토합니다.
시스템은 프롬프트가 몇 개의 DLP 프로필에 대해 평가되었는지 보여줍니다. 어떤 DLP 프로필 위반이 발생했는지 확인합니다. 위반이 발생한 경우 일치된 DLP 프로필을 검토할 수 있습니다
DLP 프로필 또는 프롬프트를 조정하고 시뮬레이터를 다시 실행하여 변경사항을 검증합니다:
탐지기 또는 DLP 프로필 로직 수정
추가 DLP 프로필을 활성화하거나 비활성화
테스트 프롬프트 업데이트