Nota: Esto es una función de Disponibilidad Temprana (EA) que solo está disponible para liberación limitada. Para más información sobre cómo habilitar la función, comuníquese con su representante de Cato Networks o envíe un correo electrónico a ea@catonetworks.com.
Esta característica forma parte del servicio de Seguridad de IA para Usuarios Finales y Seguridad de IA para Aplicaciones con licencia.
"Visión general"
El Detector de Temas e Intenciones Personalizado analiza las solicitudes de los usuarios en tiempo real para identificar temas riesgosos e intenciones subyacentes antes de ser procesados por aplicaciones de IA.
Esto permite a las organizaciones aplicar políticas de uso aceptable, prevenir el mal uso y asegurar que las interacciones con IA se alineen con los requisitos corporativos, legales y regulatorios, adaptados a sus necesidades específicas organizacionales.
Evalúa cada interacción de IA con lo siguiente:
Tema – Lo que el usuario está preguntando
Intención – Por qué o cómo el usuario está preguntando
Casos de uso
Las organizaciones pueden definir temas e intenciones personalizados para coincidir con sus riesgos comerciales específicos y necesidades de cumplimiento. Los casos de uso incluyen:
Intentos de acceder o exponer información confidencial de la empresa, no cubiertos por detectores predefinidos
Activos de IP específicos de la organización
Estándares de uso aceptable únicos no cubiertos por detectores estándar
Límites para Detectores de Temas e Intenciones Personalizados
Para asegurar un rendimiento óptimo y precisión en la detección, el Detector de Temas e Intenciones Personalizado aplica los siguientes límites:
Límite del detector – Se pueden habilitar hasta 5 detectores de temas e intenciones personalizados por cuenta
Requisitos de longitud de entrada – Los detectores de temas e intenciones personalizados deben contener un mínimo de 3 palabras y un máximo de 50 palabras
Estas restricciones están diseñadas para mantener una alta calidad en la detección de señales, prevenir definiciones demasiado amplias o inefectivas, y asegurar la aplicación consistente de políticas en aplicaciones de IA.
Mejores prácticas
La precisión y efectividad de la detección de temas e intenciones personalizadas dependen de qué tan bien estén definidos los temas e intenciones personalizados. Entradas vagas, demasiado amplias o mal estructuradas pueden llevar a una calidad reducida de detección o resultados no deseados. Seguir las pautas recomendadas es esencial para lograr resultados óptimos.
Sea Específico y Evite Definiciones Vagamente
Los temas e intenciones claramente definidos producen resultados más precisos.
Definiciones demasiado amplias pueden coincidir con demasiadas solicitudes (muchos falsos positivos)
Definiciones demasiado estrechas pueden perder actividad relevante (muchos falsos negativos)
Ejemplos:
NO use una categoría amplia: Información sobre nuestros competidores
SÍ incluya el nombre de la empresa: Información sobre la Empresa Ejemplo
Use Frases Descriptivas en Lugar de Palabras Clave
Definiciones de una sola palabra ofrecen señales débiles. Las frases descriptivas dan al modelo mejor contexto, mejorando la precisión y reduciendo los falsos positivos.
Ejemplos:
NO use una palabra clave: Credenciales del sistema interno
SÍ use frases: Extracción de credenciales de sistemas internos
Use Fraseo Orientado a la Acción
El Motor de IA evalúa qué está intentando hacer el usuario, no solo lo que menciona. Esto significa que las solicitudes pueden ser detectadas incluso sin coincidencias exactas de palabras clave.
El fraseo consciente de la intención mejora la precisión de la detección, especialmente para solicitudes ambiguas. Use frases de verbo de 3 a 6 palabras que describan claramente la intención del usuario.
Ejemplos:
NO use una descripción: Información de red propietaria
SÍ describa la acción: Solicitudes de acceso a diseños de arquitectura de seguridad de red propietaria
Evite Definiciones Superpuestas
Definir múltiples temas o intenciones con significado similar reduce la efectividad. Es probable que estas se activen sobre las mismas solicitudes, agregando ruido sin mejorar la cobertura. Consolide conceptos similares en un único tema o intención bien definida.
Prueba e Iteración
Los Detectores de Temas e Intenciones Personalizados deben ser continuamente refinados según el uso real. Es altamente recomendable probar e iterar sus detectores y perfiles en el área de prueba.
Si la detección es demasiado amplia, haga las definiciones más específicas
Si la detección es demasiado estrecha, entonces expanda la definición o reformule
Empiece con una configuración equilibrada y refine según la actividad observada.