El área de pruebas del Motor de Detección te permite validar cómo se comportan tus Perfiles de Motor de Detección de Seguridad antes de aplicarlos a las reglas de Política de Implementación de Interacción de IA en producción. Ofrece un entorno de simulación controlado donde puedes probar solicitudes contra perfiles seleccionados y revisar los resultados de detección en tiempo real.
En el área de pruebas, eliges qué perfiles activar, seleccionas un escenario de prueba predefinido o creas uno personalizado y ejecutas el simulador. El sistema evalúa la solicitud contra los perfiles activos y muestra si se desencadenaron violaciones de perfil.
Esta característica te ayuda:
Validar la lógica de detección antes de la aplicación
Identificar brechas en la cobertura del perfil
Reducir falsos positivos
Afinar detectores personalizados y combinaciones de perfil
Debido a que los perfiles a menudo se reutilizan en múltiples reglas de política de implementación, probarlos de antemano asegura que una vez que se apliquen, se comporten exactamente como se intencionó.
Caso de uso
Como administrador de seguridad para la empresa ABC, recientemente creaste un perfil llamado Protección de Identificador Personal para evitar que los empleados compartan datos personales sensibles con herramientas de IA.
Antes de aplicar el perfil a una regla de bloqueo en tu Política de Implementación de Interacción de IA, deseas verificar que detecta correctamente:
SSNs
Direcciones de correo electrónico
Números de cuenta de clientes (detector regex personalizado)
Navegas al área de pruebas del Motor de Detección y habilitas solo el perfil de Protección de Identificador Personal.
A continuación, seleccionas el escenario de Información Personal predefinido y ejecutas el simulador. El sistema evalúa las solicitudes en el escenario contra tu perfil y muestra si se desencadenaron violaciones.
Notas que los SSNs y las direcciones de correo electrónico se detectan correctamente, pero el patrón de número de cuenta interna no se desencadena.
Actualizas el detector regex personalizado, regresas al área de pruebas y ejecutas la simulación nuevamente. Esta vez, la violación se identifica correctamente.
Ahora estás seguro de que cuando apliques el perfil a una regla de bloqueo, se comportará como se espera en producción.
Probar Perfiles en el área de pruebas
Utiliza el área de pruebas del Motor de Detección para simular solicitudes contra perfiles seleccionados y revisar los resultados de detección.
Para probar perfiles en el área de pruebas del Motor de Detección:
Desde el menú de navegación, selecciona Seguridad > Seguridad de IA > Área de pruebas.
En el panel de Seleccionar Perfiles de Motor de Detección para Activar a la izquierda, habilita los perfiles que deseas probar.
En el área de Sesión, selecciona el escenario que deseas usar:
Elige un escenario predefinido, como:
Información Personal
Jailbreak & Inyección de Solicitud
Claves API & Secretos en Código
O selecciona Sesión Personalizada para crear tus propias solicitudes de prueba
Si usas una sesión personalizada, ingresa tu solicitud en el campo Solicitud del Usuario
Haz clic en Ejecutar Simulador.
Revisa los resultados de la simulación.
El sistema muestra cuántos perfiles se evaluó la solicitud. Ves si se desencadenaron violaciones de Perfil. Si ocurren violaciones, puedes revisar qué perfiles coinciden
Ajusta los perfiles o solicitudes según sea necesario y ejecuta el simulador nuevamente para validar tus cambios:
Modifica detectores o lógica de perfil
Habilita o deshabilita perfiles adicionales
Actualiza tus solicitudes de prueba