Aplicações de IA Personalizadas podem processar prompts que contêm dados confidenciais, conteúdo inseguro, tentativas de ataque ou solicitações que violam as políticas de uso de IA da sua organização. Bloquear o acesso a essas aplicações pode reduzir o risco, mas também pode limitar o valor dos fluxos de trabalho de IA aprovados.
A Política de Interação de Guardas permite controlar como guardas específicos lidam com interações de IA, inspecionando conteúdo em tempo real e aplicando ações quando conteúdo arriscado ou não compatível é detectado. Em vez de aplicar a mesma proteção a cada fluxo de trabalho guardado, você pode criar regras granulares para guardas selecionados e atribuir os perfis de motor e ações que correspondam aos requisitos de segurança de cada aplicação.
Usando Regras da Política de Interação de Guardas, você pode detectar, bloquear, anonimizar ou monitorar interações de IA com base nos requisitos de segurança e governança da sua organização. Isso ajuda a proteger informações sensíveis e a impor políticas de uso de IA para aplicações de IA que você constrói sem interromper o uso legítimo de negócios.
Configurando Políticas de Interação de Guardas
Antes de criar regras, ative a Política de Interação de Guardas para usuários finais na Aplicação de Gerenciamento Cato.
Para ativar a política:
No menu de navegação, selecione Segurança IA.
Sob Segurança de Apps de IA, selecione Política de Interação de Guardas
Ative o botão Política de Apps de IA.
Configurando uma Regra de Política de Interação de Guardas
Regras na política de Interação de Guardas são avaliadas independentemente de sua posição na base de regras. Se mais de uma regra for acionada, a ação mais rigorosa será aplicada. Por exemplo, se houver uma regra com uma ação de Monitorar, e outra regra com uma ação de Bloquear, a ação de Bloquear será aplicada.
Para criar uma regra:
Na página de Política de Interação de IA, clique em Novo.
Na seção Geral, configure os campos, por exemplo Nome e Descrição, assim como a posição da regra.
Na seção Guardas, selecione os guardas específicos aos quais a regra se aplica, ou clique em Selecionar Todos para aplicar a regra a todos os guardas.
Na seção Perfil de Motor, selecione o perfil usado para avaliar prompts de IA.
Perfis de motor são o tipo de dados contra os quais o conteúdo é verificado. Por exemplo, PII para verificar se existem números de Seguro Social incluídos no prompt.
Na seção Ação, selecione a ação a ser aplicada quando um prompt corresponder ao perfil de conteúdo, como Bloquear.
Para determinar o escopo da regra, selecione pelo menos uma Direção na qual aplicar a regra.
Clique em Salvar.