Este artículo explica el flujo completo para crear un Guardia de Seguridad de IA, conectar una aplicación personalizada al guardia y configurar la Política de Interacción de los Guardias.
"Visión general"
Los Guardias de Seguridad de IA de Cato permiten asegurar aplicaciones de IA personalizadas al enrutar el tráfico de la aplicación a través de Cato antes de que llegue al proveedor de modelos de lenguaje grande (LLM). Esto proporciona a los administradores visibilidad en las interacciones de IA y les permite aplicar reglas de política para las solicitudes, respuestas, entradas de herramientas y salidas de herramientas.
Paso 1 - Crear el Guardia de Seguridad de IA
Cree un guardia para definir cómo Cato se conecta al servicio de IA o endpoint LLM personalizado. En modo proxy, la aplicación envía tráfico al endpoint del guardia, y el guardia reenvía el tráfico al endpoint del proveedor después de la inspección.
Para crear un Guardia de Seguridad de IA:
Desde el menú de navegación, selecciona Seguridad AI > Guardias.
Haz clic Nuevo.
Ingrese un Nombre del Guardia.
Debajo de Seleccionar Tipo de Guardia, selecciona Proxy.
Bajo Seleccionar Servicio de IA, selecciona el servicio de IA relevante o endpoint personalizado.
En URL del Endpoint, introduce el endpoint del proveedor.
Configura la configuración de alojamiento del guardia.
Haz clic Guardar.
El guardia está creado y disponible desde la página de Guardias.
Paso 2 - Recuperar los Detalles de Conexión del Guardia
Después de crear el guardia, recupere los detalles de conexión que la aplicación usa para enviar tráfico a través de Cato. Estos valores identifican el endpoint del guardia, autentican la aplicación con el guardia y definen los detalles de autenticación requeridos por el proveedor.
Para recuperar los detalles de conexión del guardia:
Desde la página de Guardias, abre el guardia.
Copia el endpoint del guardia.
Copia la Clave API del Guardia.
Revisa los encabezados de solicitud requeridos.
Revisa los requisitos de autenticación del proveedor.
Revisa los requisitos del encabezado de ID de sesión, cuando sea relevante.
Usa estos valores cuando actualices la configuración de la aplicación.
Paso 3 - Conectar la Aplicación al Guardia
Actualiza la aplicación para que envíe solicitudes de IA al endpoint del guardia en lugar de directamente al proveedor de LLM. La aplicación se autentica con el guardia, y el guardia reenvía el tráfico al endpoint del proveedor de acuerdo con la configuración del guardia.
Para conectar la aplicación al guardia:
Actualiza la URL de destino de la aplicación del endpoint del proveedor de LLM al endpoint del guardia.
Agrega el encabezado de autenticación requerido del guardia.
Agrega los detalles de autenticación del proveedor, cuando sea requerido.
Agrega los detalles del ID de la sesión, cuando sea requerido.
Envía tráfico de prueba a través de la aplicación.
Ahora el tráfico de la aplicación es enrutado a través del guardia.
Paso 4 - Confirmar que el Guard Is Recibiendo Tráfico
Antes de configurar las reglas de política, confirme que el guardia recibe tráfico de la aplicación. Esto ayuda a verificar que la aplicación está correctamente conectada al guardia y que Cato puede inspeccionar las interacciones de IA.
Para confirmar que el guardia recibe tráfico:
Desde el menú de navegación, selecciona Seguridad AI > Guardias.
Abre el guardia.
Abrir Registro de Guardias.
Revisa las sesiones generadas.
Confirma que las solicitudes y respuestas están registradas.
En este punto, el guardia proporciona visibilidad en el tráfico de la aplicación. La aplicación de políticas comienza solo después de que cree y publique reglas de Política de Interacción de los Guardias.
Paso 5 - Crear y Publicar las Reglas de Política de Interacción de los Guardias
La Política de Interacción de los Guardias define cómo los guardias manejan las interacciones de IA. Cada regla especifica el guardia al que aplica, el perfil del motor de detección, la acción y la dirección del tráfico a inspeccionar.
Las reglas pueden aplicar acciones como monitoreo, bloqueo, anonimización de datos sensibles o combinación de anonimización con monitoreo o bloqueo. Las reglas se evalúan independientemente de su posición en la base de reglas. Si varias reglas coinciden con la misma interacción, se aplica la acción más estricta.
Para crear y publicar reglas de Política de Interacción de los Guardias:
Desde el menú de navegación, selecciona Seguridad AI > Política de Interacción de Guardias.
Haz clic Nuevo.
Ingrese un nombre de Regla y Descripción.
Usa el interruptor Activado para habilitar la regla.
En Guardias, selecciona el guardia al que aplica la regla.
En Perfil del Motor, selecciona la categoría de detección para la regla.
En Acción, selecciona la acción a aplicar cuando la regla coincida.
En Dirección, selecciona la dirección del tráfico a inspeccionar.
Haz clic Guardar.
Repite estos pasos para reglas adicionales.
Revisa la revisión no publicada.
Haz clic Publicar.
Después de que la política sea publicada, el guardia aplica las reglas activas sobre el tráfico que pasa a través de él.
Paso 6 - Verificar la Política
Verifica la política para confirmar que el guardia está aplicando las reglas esperadas y que la actividad de la política es visible en los registros del guardia.
Para verificar la política:
Desde el menú de navegación, selecciona Seguridad AI > Guardias.
Abre el guardia.
En la página de Resumen, revisa las reglas activas.
Abrir Registro de Guardias.
Revisa las sesiones que coinciden con las reglas de política.
Confirma el contenido detectado, las acciones aplicadas y los resultados de las aplicaciones.