Los Perfiles del Motor de Detección de Seguridad de IA te permiten definir cómo Cato evalúa las interacciones de IA y aplica tu política de uso de IA. Un perfil es un contenedor lógico para uno o más detectores que identifican tipos específicos de datos, comportamientos o contenidos en las solicitudes y respuestas de IA. Vinculas un perfil a una regla de Política de Interacción de IA, y la acción de la regla determina cómo Cato maneja el tráfico coincidente.
Los detectores son los bloques de construcción de un perfil. Cada detector identifica una categoría específica de contenido, como identificadores personales, información empresarial sensible, secretos o escenarios de uso regulado de IA. Puede usar los detectores predefinidos proporcionados por Cato o crear detectores personalizados basados en Tema Personalizado & Intención o expresiones regulares (regex) para cumplir con los requisitos únicos de su organización.
Al separar la lógica de detección (perfiles y detectores) de la lógica de aplicación (reglas de política y acciones), ganas flexibilidad y reutilización. Puedes aplicar el mismo perfil en múltiples reglas y actualizar el perfil centralmente para afectar inmediatamente a todas las reglas asociadas.
Después de crear un perfil, lo seleccionas en el campo de Perfil de Motor de Detección de una Política de Interacción de IA regla y defines la acción apropiada, como Bloquear o otra opción de aplicación.
Caso de uso
Como administrador de seguridad para la Empresa ABC, eres responsable de prevenir que los empleados compartan datos sensibles con herramientas públicas de IA.
Decides crear un Perfil de Motor de Detección llamado Protección de Identificador Personal para detectar cuando los usuarios intentan enviar información personal o regulada a aplicaciones de IA.
Primero, creas el perfil y agregas detectores predefinidos de la categoría Identificadores Personales, incluyendo:
Nombre
Número de ID/SSN
Correo electrónico
Número de teléfono
También creas un detector personalizado usando un patrón regex para identificar los números de cuenta de cliente internos de tu organización, que no están cubiertos por los detectores predefinidos.
A continuación, creas una regla de Política de Interacción de IA y seleccionas el perfil Protección de Identificador Personal en el campo de Perfil de Motor de Detección. En la sección de Acción, eliges Bloquear.
Ahora, cuando un usuario intenta ingresar información personal de clientes o números de cuenta internos en una aplicación de IA, la interacción se bloquea de acuerdo con la política.
Este enfoque dirigido te permite proteger datos confidenciales sin restringir todo el uso de IA en la organización.
Crear un Perfil de Motor
Crea un Perfil de Motor de Detección para agrupar detectores que representen los tipos de datos o contenidos que deseas controlar.
Para crear un Perfil de Motor:
Desde el menú de navegación, seleccione Seguridad > AI Seguridad > Perfiles de Motor.
Haga clic en Nuevo Perfil.
Ingrese un Nombre del Perfil y una Descripción opcional. Cato recomienda que proporcione una descripción que facilite la identificación del perfil al aplicarlo en una regla.
Haga clic en Agregar Detectores.
Selecciona los detectores para incluir en el perfil:
Elija entre las categorías de detectores predefinidas
O seleccione detectores personalizados que creó previamente
Configura la lógica de coincidencia.
Selecciona si el perfil satisface Cualquiera (O) o Todos (Y) los detectores seleccionados
Haga clic en Aplicar y después Guardar.
El perfil ya está disponible para seleccionar en el campo de Perfil de Motor de Detección cuando creas o editas una regla de Política de Interacción de IA.
Configuración de Detectores
Puedes crear detectores basados en categorías predefinidas proporcionadas por Cato o definir detectores personalizados para coincidir con patrones específicos de la organización. Para cada detector, puedes configurar el nivel de confianza y las cadenas a ignorar para el detector dado.
La configuración del Nivel de Confianza determina qué tan estrictos son los criterios de detección.
Un nivel de confianza más alto genera menos alertas y se enfoca en problemas con una mayor probabilidad de ser verdaderos positivos.
Un nivel de confianza más bajo aumenta la sensibilidad y puede detectar más problemas potenciales, pero puede generar alertas adicionales marginales o falsos positivos.
Excluyendo una cadena permite definir cadenas que normalmente serían relevantes para el detector, p. ej. un nombre propio, pero deseas ignorar por alguna razón, por ejemplo, si es el nombre de tu empresa.
Uso de Detectores Predefinidos
Cato proporciona detectores listos para usar organizados por categoría, tales como:
Identificadores Personales
Código & Identificadores Técnicos
Regulación del Uso de AI
Información Empresarial Sensible
Estos detectores (y más) están listos para usar y no requieren configuración adicional.
Para agregar detectores predefinidos a un perfil:
Durante la creación del perfil, haga clic en Agregar Detectores.
Haga clic en Seleccionar de Detectores.
Determine la lógica que se aplicará entre los diferentes detectores.
Explore o busque detectores en el panel Seleccionar Detectores.
Expanda una categoría, por ejemplo, Identificadores Personales o Código & Identificadores Técnicos y seleccione los detectores relevantes.
Haga clic en Aplicar.
(Opcional) En el panel de Perfil, puedes hacer clic en los 3 puntos al lado de un detector para determinar:
Cadenas para excluir
Umbrales de confianza
Haz clic en Guardar.
Creando un Detector Personalizado
Crea un detector personalizado cuando los detectores predefinidos no cumplen tus requisitos.
Puedes definir un detector personalizado usando:
Expresiones regulares (regex) para patrones estructurados
Para crear un detector personalizado:
Durante la creación del perfil, haga clic en Agregar Detectores.
Haga clic en Crear Detector Personalizado.
Ingresa un Nombre y bajo Tipo de Detector Personalizado, selecciona cualquiera de las siguientes:
Regex
Define los criterios de coincidencia.
Para regex, ingrese el patrón de expresión regular
Haga clic en aplicar.