Nota: Este é um recurso de Disponibilidade Antecipada (EA) que está disponível apenas para lançamento limitado. Para mais informações sobre como ativar a funcionalidade, contate seu representante da Cato Networks ou envie um email para ea@catonetworks.com.
Este recurso faz parte do serviço licenciado AI Security para Usuários Finais e AI Security para Aplicações.
Visão geral
O Detector de Tópico & Intenção Personalizado analisa os prompts do usuário em tempo real para identificar tópicos arriscados e intenções subjacentes antes de serem processados pelas aplicações de IA.
Isso permite que as organizações imponham políticas de uso aceitável, previnam abusos e garantam que as interações com IA estejam alinhadas com requisitos corporativos, legais e regulatórios, adaptados às necessidades específicas da organização.
Avalia cada interação com IA com o seguinte:
Tópico – O que o usuário está perguntando
Intenção – Por que ou como o usuário está perguntando
Casos de Uso
Organizações podem definir tópicos e intenções personalizados para corresponder aos seus riscos de negócios específicos e necessidades de conformidade. Os casos de uso incluem:
Tentativas de acessar ou expor informações confidenciais da empresa, não cobertas por detectores predefinidos
Ativos IP específicos da organização
Padrões de uso aceitável únicos não cobertos por detectores padrão
Limites para Detectores de Tópicos & Intenções Personalizados
Para garantir um desempenho ótimo e precisão na detecção, o Detector de Tópico & Intenção Personalizado impõe os seguintes limites:
Limite de detector – Até 5 Detectores de Tópicos & Intenções Personalizados podem ser ativados por conta
Requisitos de comprimento de entrada – Os Detectores de Tópicos & Intenções Personalizados devem conter um mínimo de 3 palavras e um máximo de 50 palavras
Essas restrições são projetadas para manter a alta qualidade de detecção de sinal, prevenir definições excessivamente amplas ou ineficazes e garantir uma aplicação consistente de políticas em todas as aplicações de IA.
Melhores Práticas
A precisão e efetividade da detecção de Tópico & Intenção Personalizado dependem da qualidade da definição dos tópicos e intenções personalizadas. Entradas vagas, excessivamente amplas ou mal estruturadas podem levar a uma qualidade de detecção reduzida ou resultados não intencionais. Seguir as diretrizes recomendadas é essencial para alcançar resultados ótimos.
Seja Específico e Evite Definições Vagas
Tópicos e intenções claramente definidos produzem resultados mais precisos.
Definições excessivamente amplas podem corresponder a muitos prompts (altos falsos positivos)
Definições excessivamente estreitas podem perder atividades relevantes (altos falsos negativos)
Exemplos:
NÃO use uma categoria ampla: Informações sobre nossos concorrentes
INCLUA o nome da empresa: Informações sobre a Empresa Exemplo
Use Frases Descritivas em vez de Palavras-chave
Definições de uma palavra fornecem sinais fracos. Frases descritivas oferecem melhor contexto para o modelo, melhorando precisão e reduzindo falsos positivos.
Exemplos:
NÃO use uma palavra-chave: Credenciais do sistema interno
USE frases: Extração de credenciais de sistemas internos
Use Frases Orientadas para Ação
O Motor de IA avalia o que o usuário está tentando fazer, não apenas o que menciona. Isso significa que os prompts podem ser detectados mesmo sem correspondências exatas de palavras-chave.
Frases conscientes de intenção melhoram a precisão da detecção, especialmente para prompts ambíguos. Use frases verbais de 3 a 6 palavras que descrevam claramente a intenção do usuário.
Exemplos:
NÃO use uma descrição: Informações de rede proprietárias
DESCREVA a ação: Solicitações para acessar designs de arquitetura de segurança de rede proprietários
Evite Definições que se Sobreponham
Definir múltiplos tópicos ou intenções com significado similar reduz a efetividade. É provável que estes sejam acionados nos mesmos prompts, adicionando ruído sem melhorar a cobertura. Consolide conceitos semelhantes em um único tópico ou intenção bem definida.
Teste e Itere
Os Detectores de Tópico & Intenção Personalizados devem ser continuamente refinados com base no uso real. É altamente recomendável testar e iterar seus detectores e perfis no Playground.
Se a detecção for muito ampla, torne as definições mais específicas
Se a detecção for muito restrita, então expanda a definição ou reformule
Comece com uma configuração equilibrada e refine com base na atividade observada.