Perfis de Proteção de Dados de Motor de Segurança de IA permitem que você defina como a Cato avalia as interações de IA e aplica sua política de uso de IA. Um perfil é um contêiner lógico para um ou mais detectores que identificam tipos específicos de dados, comportamento ou conteúdo em prompts e respostas de IA. Você anexa um perfil a uma regra de Política de Implantação de Interação de IA, e a ação da regra determina como a Cato lida com o tráfego correspondente.
Detectores são os blocos de construção de um perfil. Cada detector identifica uma categoria específica de conteúdo, como identificadores pessoais, informações comerciais sensíveis, segredos ou cenários de uso de IA regulamentados. Você pode usar os detectores predefinidos fornecidos pela Cato, ou criar detectores personalizados baseados em Tópico & Intenção Personalizados ou expressões regulares (regex) para atender os requisitos únicos da sua organização.
Ao separar a lógica de detecção (perfis e detectores) da lógica de aplicação (regras de política e ações), você ganha flexibilidade e reutilização. Você pode aplicar o mesmo perfil em várias regras e atualizar o perfil centralmente para afetar imediatamente todas as regras associadas.
Após criar um perfil, selecione-o no campo Perfil de Motor de uma regra de Política de Interação de IA e defina a ação apropriada, como Bloquear ou outra opção de aplicação.
Caso de uso
Como um administrador de segurança da Empresa ABC, você é responsável por impedir que os funcionários compartilhem dados sensíveis com ferramentas de IA públicas.
Você decide criar um Perfil de Motor chamado Proteção de Identificador Pessoal para detectar quando os usuários tentam enviar informações pessoais ou regulamentadas para aplicativos de IA.
Primeiro, você cria o perfil e adiciona detectores predefinidos da categoria Identificadores Pessoais, incluindo:
Nome
Número de ID/CPF
Email
Número de Telefone
Você também cria um detector personalizado usando um padrão regex para identificar números de contas de clientes internos de sua organização, que não são cobertos pelos detectores predefinidos.
Em seguida, você cria uma regra de Política de Interação de IA e seleciona o perfil Proteção de Identificador Pessoal no campo Perfil de Motor. Na seção Ação, você escolhe Bloquear.
Agora, quando um usuário tenta inserir informações pessoais de clientes ou números de conta interna em um aplicativo de IA, a interação é bloqueada de acordo com a política.
Esta abordagem direcionada permite proteger dados sensíveis sem restringir todo o uso de IA na organização.
Criar um Perfil de Motor
Criar um Perfil de Motor para agrupar detectores que representam os tipos de dados ou conteúdo que você deseja controlar.
Para criar um Perfil de Motor:
No menu de navegação, selecione Segurança > Segurança de IA > Perfis de Motor.
Clique em Novo Perfil.
Digite um Nome do Perfil e uma Descrição opcional. A Cato recomenda que você forneça uma descrição que facilite a identificação do perfil ao aplicá-lo em uma regra.
Clique em Adicionar Detectores.
Selecione os detectores para incluir no perfil:
Escolha entre categorias de detectores predefinidas.
Ou selecione detectores personalizados que você criou anteriormente.
Configure a lógica de correspondência.
Selecione se o perfil satisfaz Qualquer (OU) ou Todos (E) dos detectores selecionados
Clique em Aplicar e depois Salvar.
O perfil agora está disponível para ser selecionado no campo Perfil de Motor quando você cria ou edita uma regra de Política de Implatação de Interação de IA.
Configurando Detectores
Você pode criar detectores com base em categorias predefinidas fornecidas por Cato ou definir detectores personalizados para corresponder a padrões específicos da organização. Para cada detector, você pode configurar o nível de confiança e strings para ignorar para o detector dado.
A configuração do Nível de Confiança determina quão estritos são os critérios de detecção.
Um nível de confiança mais alto gera menos alertas e foca em problemas com maior probabilidade de serem verdadeiros positivos.
Um nível de confiança mais baixo aumenta a sensibilidade e pode detectar mais potenciais problemas, mas pode gerar alertas adicionais de falso positivo ou borderline.
Excluindo uma string permite que você defina strings que normalmente seriam relevantes para o detector, ex. um nome próprio, mas que deseja ignorar por algum motivo, por exemplo, se for o nome de sua empresa.
Usando Detectores Predefinidos
A Cato fornece detectores prontos organizados por categoria, como:
Identificadores Pessoais
Código & Identificadores Técnicos
Regulamento de Uso de IA
Informações de Negócios Sensíveis
Esses detectores (e mais) estão prontos para uso e não requerem configuração adicional.
Para adicionar detectores predefinidos a um perfil:
Durante a criação do perfil, clique em Adicionar Detectores.
Clique em Selecionar entre Detectores.
Determine a lógica a ser aplicada entre os diferentes detectores.
Procure ou pesquise detectores no painel Selecionar Detectores.
Expanda uma categoria, por exemplo, Identificadores Pessoais ou Código & Identificadores Técnicos e selecione os detectores relevantes.
Clique em Apply.
(Opcional) No painel de Perfil, você pode clicar nos 3 pontos ao lado de um detector para determinar:
Strings a serem excluídas
Limites de confiança
Clique Salvar.
Criando um Detector Personalizado
Crie um detector personalizado quando detectores predefinidos não atendem aos seus requisitos.
Você pode definir um detector personalizado usando:
Expressões regulares (regex) para padrões estruturados
Para criar um detector personalizado:
Durante a criação do perfil, clique em Adicionar Detectores.
Clique em Criar Detector Personalizado.
Digite um Nome e, em Tipo de Detector Personalizado, selecione um dos seguintes:
Regex
Defina os critérios de correspondência.
Para regex, insira o padrão da expressão regular
Clique em Aplicar.