--- title: "Creando Detectores de Texto Libre (EA)" slug: "creating-custom-detectors" tags: ["AI Security"] updated: 2026-11-05T00:10:04Z published: 2026-11-05T00:10:04Z canonical: "knowledge.catonetworks.com/creating-custom-detectors" --- > ## Documentation Index > Fetch the complete documentation index at: https://knowledge.catonetworks.com/llms.txt > Use this file to discover all available pages before exploring further. # Creando Detectores de Texto Libre (EA) ## Resumen Los Detectores de Texto Libre te permiten definir el contenido o comportamiento que Cato identifica en interacciones de IA usando lenguaje natural. Puedes adaptar la detección a los requisitos de tu organización, como proteger información propietaria, identificar solicitudes prohibidas o mantener una aplicación de IA dentro de su alcance previsto. El flujo de creación guiado utiliza un modelo de lenguaje grande (LLM) para ayudar a aclarar tus requisitos de detección. Después de que describas lo que deseas detectar, el sistema presenta condiciones para que las etiquetes como **Violación** o **Seguro**. Tus respuestas ayudan a definir qué señala el detector y qué excluye, especialmente en casos límite donde la misma solicitud podría ser aceptable para una organización y una violación para otra. Este proceso te ayuda a identificar brechas en tus instrucciones, clarificar casos límite y reducir falsos positivos. Luego agrega el detector a un Perfil de Motor y aplica el perfil a una regla de política. El detector identifica contenido coincidente, y la regla determina la acción. ![free_text_detector.png](https://cdn.document360.io/81d0367c-2b69-4ba8-b412-1c8f46ce677e/Images/Documentation/free_text_detector.png?sv=2026-02-06&spr=https&st=2026-11-22T20%3A44%3A45Z&se=2026-11-22T21%3A44%3A45Z&sr=b&sp=r&sig=xoW3OMpkGQHnIPiHDWlZJo2ehSg4q3WRrY2lBZI3DrA%3D) ## Caso de Uso: Mantener un Chatbot de Venta Minorista Enfocado en tus Productos y Servicios La Compañía ABC es un minorista en línea que proporciona un chatbot de atención al cliente. Deseas que los clientes pregunten sobre tus productos, precios y servicios mientras previenes que utilicen el chatbot para investigar a la competencia. Crear un Detector de Texto Libre y seleccionar **Control de Alcance**. En las instrucciones, describes el propósito previsto del chatbot y especificas que las solicitudes para investigar otros minoristas o comparar sus ofertas con la Compañía ABC son violaciones. Durante la refinación, etiquetas las condiciones que involucran preguntas sobre los precios de la Compañía ABC como **Seguro**. Etiquetas las condiciones que involucran comparaciones de precios con otro minorista como **Violación**. Ejemplo: | **Ejemplo de Solicitud** | **Etiqueta** | | --- | --- | | ¿Cuánto cuesta el Producto X en la Compañía ABC? | **Seguro** | | ¿La Compañía ABC ofrece entrega gratuita para el Producto X? | **Seguro** | | ¿Cómo se compara el precio del Producto X de la Compañía ABC con el precio de la Compañía XYZ? | **Violación** | | ¿Puedo comprar el Producto X por menos en otro minorista? | **Violación** | Estas distinciones ayudan a mantener el chatbot enfocado en apoyar la experiencia de compra de tus clientes con la Compañía ABC. Luego prueba el detector mediante un Perfil de Motor en el Playground antes de aplicar el perfil a una regla de Política de Interacción de Guards. ## Crear un Detector de Texto Libre El flujo de creación incluye cuatro etapas: **Nombre y Tipo**, **Instrucciones**, **Refinamiento** y **Resumen**. Elige el tipo de detector que coincide con tu objetivo: | **Tipo de Detector** | **Propósito** | | --- | --- | | **Control de Alcance** | Identifica las solicitudes de usuario que intentan mover tu aplicación agentic de IA fuera de su propósito previsto | | **Temas Específicos e Intención** | Identifica las solicitudes de usuario sobre temas o objetivos prohibidos por la política de implementación de tu organización | | **Datos Sensibles Propietarios** | Identifique la información específica de la organización en las solicitudes, como detalles de productos propietarios, nombres en clave de proyectos o nombres de sistemas internos | **Para crear el Detector de Texto Libre:** 1. Desde el menú de navegación, seleccione **Seguridad IA > Perfiles de Motor**. 2. Seleccione la pestaña **Detectores de Texto Libre**. 3. Haga clic en **Nuevo Detector**. 4. En el paso **Nombre y Tipo**, ingrese un **Nombre para el Detector**. 5. Seleccione el caso de uso para el detector que coincide con su objetivo. 6. Haga clic en **Siguiente** y continúe al paso de **Instrucciones**. ### Defina las Instrucciones del Detector En el paso **Instrucciones**, describa el contenido que desea que el detector marque. Escriba en inglés usando entre 20 y 3200 caracteres. Concéntrese en un caso de uso claro. Utilice oraciones completas para explicar el contenido relevante, el contexto y las exclusiones. Las instrucciones específicas ayudan a distinguir las violaciones del contenido relacionado que usted considera seguro. Para el caso de uso del chatbot de retail, podría ingresar: > El chatbot ayuda a los clientes con los productos, precios, promociones, entregas, devoluciones y otros servicios de la Compañía ABC. Trate las preguntas sobre estos temas como seguras. Detecte solicitudes fuera de este alcance, incluyendo temas no relacionados y solicitudes para investigar productos, precios, promociones o servicios de otros minoristas. Considere las solicitudes para comparar las ofertas de la Compañía ABC con otro minorista o encontrar un precio más bajo en otro lugar como violaciones, incluso cuando también mencionan a la Compañía ABC. **Para definir las instrucciones del detector:** 1. En el paso **Instrucciones**, describa qué marcas el detector y cualquier exclusión relevante. 2. Revise las instrucciones para detectar términos ambiguos o metas de detección no relacionadas. Defina información interna o términos que se utilicen. 3. Ingrese las **Instrucciones del Detector**. 4. Haga clic en **Siguiente** y continúe al paso de **Refinamiento**. ### Refine el Detector El sistema genera condiciones basadas en sus instrucciones. Cada condición describe una situación que ayuda a aclarar el límite entre una violación y contenido seguro. Esto ayuda a distinguir entre detecciones reales y falsos positivos. Etiquete cada condición de acuerdo con los requisitos de su organización: - **Violación**: El detector marca contenido que cumple con la condición - **Seguro**: El detector excluye contenido que cumple con la condición Revise cuidadosamente las condiciones relacionadas pero aceptables. Etiquetar estas condiciones como **Seguras** ayuda a reducir los falsos positivos. El indicador **Fortaleza del Detector** en la esquina superior derecha muestra qué tan bien ha refinado los criterios del detector para distinguir violaciones del contenido seguro. **Para refinar el detector:** 1. En el paso **Refinamiento**, revise cada condición generada. Pase el ratón sobre el ícono de información junto a una condición para ver una solicitud de muestra. 2. Seleccione **Violación** o **Seguro** para cada condición. 3. **(Opcional)** Haga clic en **Agregar Manualmente** para añadir una condición que aborde un requisito faltante y etiquétela como **Violación** o **Seguro**. 4. Si las condiciones generadas no reflejan su objetivo, regrese a **Instrucciones** y revise la descripción. Modificar las instrucciones genera un nuevo conjunto de condiciones. 5. Haga clic en **Siguiente** y continúe a **Resumen**. 6. Revise la configuración del detector y haga clic en **Guardar** para crear el Detector de Texto Libre. ## Prueba y Aplicar el Detector de Texto Libre Agregue el Detector de Texto Libre a un Perfil del Motor, luego pruebe ese perfil en el Patio de Juegos del Motor. Incluya solicitudes que espera que desencadenen una violación y solicitudes relacionadas que espera que se mantengan seguras. Revise los resultados y ajuste las instrucciones o las etiquetas de condiciones del detector según sea necesario antes de aplicar el perfil a las reglas de la política de producción. Para instrucciones detalladas, ver: - [Configurando Perfiles de Motor de Seguridad AI](https://knowledge.catonetworks.com/docs/en/configuring-ai-security-engine-profiles) para agregar el detector a un perfil - [Pruebas de Perfiles del Motor en el Patio de Juegos](https://knowledge.catonetworks.com/docs/en/testing-engine-profiles-in-the-playground) para probar el comportamiento de detección - [Trabajando con la Política de Interacción del Usuario](https://knowledge.catonetworks.com/docs/en/working-with-the-user-interaction-policy) para aplicar el perfil al uso de IA por parte de empleados - [Trabajando con la Política de Interacción de Guardias](https://knowledge.catonetworks.com/docs/en/working-with-the-guards-interaction-policy) para aplicar el perfil a aplicaciones de IA personalizadas