"Visión general"
Los usuarios a menudo interactúan con aplicaciones de chat AI como parte de su trabajo diario, sin considerar completamente los riesgos de seguridad, cumplimiento o exposición de datos involucrados. Bloquear completamente el acceso a estas herramientas puede reducir el riesgo, pero también elimina los beneficios de productividad que proporcionan los flujos de trabajo impulsados por AI.
La Política de Interacción de Seguridad AI te permite controlar cómo interactúan los usuarios con aplicaciones de chat AI al inspeccionar solicitudes y el contenido basado en texto en archivos adjuntos en tiempo real, respondiendo cuando se detecta contenido riesgoso. En lugar de bloquear completamente los chats AI, puedes aplicar protecciones granulares que ayudan a prevenir la exposición de datos sensibles, violaciones de políticas y riesgos de cumplimiento, mientras se permite el uso aprobado de AI. Cada regla inspecciona el tráfico a través de un plugin de navegador, una integración API directa o tu infraestructura de red existente, para que puedas emparejar la cobertura con las aplicaciones AI y dispositivos que necesitas proteger.
Define reglas de Interacción de Usuario para bloquear, anonimizar, alertar sobre o monitorear tipos específicos de contenido de solicitud basado en los requisitos de seguridad y gobernanza de tu organización. Este enfoque te permite proteger información sensible y aplicar las políticas de uso de AI sin interrumpir el uso legítimo y productivo de las herramientas de AI.
Nota: Cuando utilices el módulo de Integración API de Seguridad AI, la Política de Interacción de Usuario solo admite monitorización de acciones.
"Requisitos previos"
La Inspección TLS debe estar activada a nivel de cuenta para que las Políticas de Interacción AI inspeccionen el Tráfico AI. Si la Inspección TLS está desactivada para la cuenta, la Política de Interacción de Usuario no inspecciona el tráfico AI.
Las reglas de la Política de Interacción de Usuario inspeccionan el tráfico AI coincidente basado en la configuración de Inspección TLS a nivel de cuenta y no requieren una regla específica de Inspección TLS.
Las reglas de la Política de Interacción AI tienen precedencia sobre las políticas de Inspección TLS e inspeccionan el tráfico cifrado incluso cuando se configura una regla de omisión TLS para la aplicación o el destino.
El cortafuegos de Internet debe estar habilitado para inspeccionar el tráfico de red, y debes asegurarte de que la regla predeterminada para QUIC esté activada en el cortafuegos de Internet.
Configurando la Política de Interacción de Usuario
Habilitando la Política
Antes de crear reglas, habilita las Políticas de Interacción de Usuario para usuarios finales en la Aplicación de Gestión de Cato.
Para habilitar las Políticas de Interacción AI para usuarios finales:
From the navigation menu, click AI Security > User Interaction Policy.
Habilitar la Política de Interacción de Usuario en el interruptor.
Comprensión de Tipos de Intercepción
Cada regla de la Política de Interacción del Usuario utiliza un Tipo de Intercepción para definir cómo Cato inspecciona el tráfico de IA para esa regla según las aplicaciones de IA que necesita cubrir y el nivel de aplicación que requiere.
Complemento del Navegador: Una extensión liviana para Chrome y Edge, desplegada a través de su solución MDM. Inspecciona el tráfico de aplicaciones de IA directamente en el navegador, proporcionando visibilidad confiable sobre quién está usando qué herramientas de IA, incluso en dispositivos no gestionados que no están enrutados a través de su red. El tráfico se inspecciona en línea, por lo que este método puede bloquear el tráfico de IA.
Red: Funciona con la infraestructura Cato Cloud: Cliente Cato, Navegador Empresarial Cato o un Socket. Para las cuentas que desplegaron el Cliente Cato a sus usuarios, este Tipo de Intercepción no requiere implementación o configuraciones adicionales. El tráfico se inspecciona en línea, por lo que este método puede bloquear el tráfico de IA.
Integración API: Se conecta directamente a aplicaciones de IA autorizadas y aprobadas por la empresa, por ejemplo, integraciones con Microsoft, GitHub o Anthropic, a través de su API. Este método proporciona monitoreo y alertas sobre violaciones de políticas casi en tiempo real, pero no bloquea el tráfico. Está diseñado para visibilidad en aplicaciones de IA confiables y ya aprobadas en lugar de para aplicación.
Comprensión de la Inspección de Archivos Adjuntos
La Política de Interacción del Usuario puede inspeccionar el contenido basado en texto en archivos que los usuarios adjuntan a solicitudes en aplicaciones de IA compatibles. La inspección de archivos adjuntos funciona independientemente de DLP y aplica la Política de Interacción del Usuario al contenido extraído del archivo adjunto.
La inspección de archivos adjuntos es compatible con ChatGPT, Gemini, Copilot y Claude.
La inspección de archivos adjuntos tiene las siguientes limitaciones:
Se admiten archivos de hasta 10 MB
Archivos textuales compatibles, por ejemplo, TXT, JSON, XLS, PDF y DOCX. OCR, archivos de imagen y fotografías no son compatibles.
Solo se admiten acciones de Bloquear y Monitorear para el contenido de los archivos. La anonimización no es compatible para el contenido de archivos.
La inspección de archivos evalúa el contenido de archivos seleccionados, por lo que la detección puede variar cuando aparece contenido riesgoso en secciones que no se escanean.
La inspección de archivos adjuntos solo es compatible para Seguridad de IA para Usuarios.
Configurando una Regla de Política de Interacción de Usuario
Para crear una regla de Política de Interacción de Usuario
From the navigation menu, click AI Security > User Interaction Policy.
Haga clic en Nuevo, y seleccione el Tipo de Interacción para la regla.
En la Sección de Configuración general, configuren los campos, por ejemplo, Nombre y Descripción.
En la sección Fuente, selecciona los usuarios o grupos a los que se aplica la regla, o deja Cualquiera para aplicar la regla a todas las fuentes.
En la sección Aplicaciones, selecciona las aplicaciones AI a las que se aplica la regla, o deja Cualquiera para aplicar la regla a todas las aplicaciones soportadas.
En la sección Perfiles de Motor, selecciona el perfil utilizado para evaluar las solicitudes AI.
En la sección de Acción, seleccione la Acción para aplicar cuando una Solicitud coincide con el Perfil de contenido, como Bloquear.
Si estás creando una regla de API, la única acción disponible es Monitorear.
(Opcional) Seleccione una Plantilla de Notificación para notificar a los usuarios cuando se aplique la acción.
Click Save. The panel closes, and the settings are updated in the policy.
The changes are saved to your unpublished revision and are available for editing until they are published or discarded.Haga clic Publicar. Se abre una ventana de confirmación, haga clic en Publicar.
Comprender Acciones
La política de interacción de IA admite las siguientes acciones para cada Regla:
Bloquear - la solicitud está bloqueada y no se envía información al proveedor de IA.
Monitorear - la solicitud se envía al proveedor de IA y la interacción se monitorea.
Anonimizar y Bloquear - Si el Perfil del Motor que seleccionó incluye Detectores que:
Soporte para anonimizar contenido, el contenido se anonimiza y se envía
No soporta anonimizar contenido; la Solicitud está bloqueada
Anonimizar y Monitorear - Si el Perfil del Motor que seleccionó incluye Detectores que:
Soporte para anonimizar contenido, el contenido se anonimiza y se envía
No soporte contenido de anonimización. La solicitud se envía al proveedor de AI, y la interacción es monitoreada.
Nota: La anonimización solo es compatible para contenido de texto que el detector pueda anonimizar. Cuando selecciona una acción de anonimización, Cato anonimiza el contenido compatible. Para contenido que no puede ser anonimizado, incluyendo contenido de archivos, Cato aplica la otra acción en la regla: Bloquear o Monitorear.