Las aplicaciones AI personalizadas pueden procesar solicitudes que contengan datos sensibles, contenido no seguro, intentos de ataques o solicitudes que violen las políticas de uso de AI de su organización. Bloquear el acceso a estas aplicaciones puede reducir el riesgo, pero también puede limitar el valor de los flujos de trabajo de AI aprobados.
La Política de Interacción de los Guardias te permite controlar cómo los guardias específicos manejan interacciones de AI al inspeccionar contenido en tiempo real y aplicar acciones cuando se detecta contenido riesgoso o no cumplidor. En lugar de aplicar la misma protección a cada flujo de trabajo protegido, puedes crear reglas granuladas para los guardias seleccionados y asignar los perfiles de motor y acciones que coincidan con los requisitos de seguridad de cada aplicación.
Usando reglas de Política de Interacción de los Guardias, puedes detectar, bloquear, anonimizar o monitorear interacciones de AI basadas en los requisitos de seguridad y gobernanza de tu organización. Esto te ayuda a proteger información sensible y aplicar las políticas de uso de AI para las aplicaciones AI que desarrolles sin interrumpir el uso legítimo del negocio.
Configurando Políticas de Interacción de los Guardias
Antes de crear reglas, habilita la Política de Interacción de los Guardias para usuarios finales en la Aplicación de Gestión de Cato.
Para habilitar la política:
Desde el menú de navegación, selecciona Seguridad AI.
En Seguridad de Aplicaciones AI, selecciona Política de Interacción de los Guardias
Habilita el interruptor Política de Aplicaciones AI.
Configurando una Regla de Política de Interacción de los Guardias
Las reglas en la política de Interacción de los Guardias se evalúan independientemente de su posición en la base de reglas. Si se activa más de una regla, se aplica la acción más estricta. Por ejemplo, si hay una regla con una acción de Monitorear, y otra regla con una acción de Bloquear, se aplicará la acción de Bloquear.
Para crear una regla:
Desde la página de Política de Interacción AI, haz clic en Nuevo.
En la sección General, configura los campos, por ejemplo Nombre y Descripción, así como la posición de la regla.
En la sección Guardias, selecciona los guardias específicos a los que la regla se aplica, o haz clic en Seleccionar Todo para aplicar la regla a todos los guardias.
En la sección Perfil de Motor, selecciona el perfil usado para evaluar las solicitudes AI.
Los perfiles de motor son el tipo de datos contra los cuales se verifica el contenido. Por ejemplo, PII para ver si se incluyen números de Seguridad Social en la solicitud.
En la sección Acción, selecciona la acción para aplicar cuando una solicitud coincide con el perfil de contenido, como Bloquear.
Para determinar el alcance de la regla, selecciona al menos una Dirección en la que aplicar la regla.
Haz clic en Guardar.