Este artigo explica o fluxo completo para criar um Guarda de Segurança AI, conectar uma aplicação personalizada ao guarda e configurar a Política de Interação dos Guardas.
Visão Geral
Os Guardas de Segurança AI da Cato permitem que você proteja aplicações AI personalizadas ao rotear o tráfego da aplicação através da Cato antes de chegar ao provedor de modelos de linguagem grande (LLM). Isso dá visibilidade aos administradores nas interações de AI e permite que eles façam cumprir regras de política para prompts, respostas, entradas e saídas de ferramentas.
Passo 1 - Criar o Guarda de Segurança AI
Crie um guarda para definir como a Cato se conecta ao serviço AI ou ao ponto final LLM personalizado. No modo proxy, a aplicação envia tráfego para o ponto final do guarda, e o guarda encaminha o tráfego para o ponto final do provedor após a inspeção.
Para criar um Guarda de Segurança AI:
No menu de navegação, selecione Segurança IA > Guardas.
Clique em Novo.
Digite um Nome do Guarda.
Em Selecionar Tipo de Guarda, selecione Proxy.
Em Selecionar Serviço AI, selecione o serviço AI relevante ou ponto final personalizado.
Em URL do Ponto Final, insira o ponto final do provedor.
Configure as configurações de hospedagem do guarda.
Clique em Salvar.
O guarda é criado e está disponível na página Guardas .
Passo 2 - Recuperar os Detalhes de Conexão do Guarda
Após criar o guarda, recupere os detalhes de conexão que a aplicação utiliza para enviar tráfego através da Cato. Esses valores identificam o ponto final do guarda, autenticam a aplicação para o guarda e definem quaisquer detalhes de autenticação necessários do provedor.
Para recuperar os detalhes de conexão do guarda:
Na página Guardas , abra o guarda.
Copie o ponto final do guarda.
Copie a Chave API do Guarda.
Revise os cabeçalhos de solicitação necessários.
Revise os requisitos de autenticação do provedor.
Revise os requisitos do cabeçalho do ID de sessão, quando relevante.
Use esses valores ao atualizar a configuração da aplicação.
Passo 3 - Conectar a Aplicação ao Guarda
Atualize a aplicação para que envie solicitações AI para o ponto final do guarda em vez de diretamente para o provedor LLM. A aplicação autentica-se no guarda, e o guarda encaminha o tráfego para o ponto final do provedor de acordo com a configuração do guarda.
Para conectar a aplicação ao guarda:
Atualize a URL de destino da aplicação do ponto final do provedor LLM para o ponto final do guarda.
Adicione o cabeçalho de autenticação do guarda necessário.
Adicione detalhes de autenticação do provedor, quando necessário.
Adicione detalhes do ID de sessão, quando necessário.
Envie tráfego de teste através da aplicação.
Agora, o tráfego da aplicação é roteado através do guarda.
Passo 4 - Confirmar que o Guarda Está Recebendo Tráfego
Antes de configurar regras de política, confirme que o guarda está recebendo tráfego da aplicação. Isso ajuda a verificar se a aplicação está conectada corretamente ao guarda e se a Cato pode inspecionar as interações de AI.
Para confirmar que o guarda está recebendo tráfego:
No menu de navegação, selecione Segurança IA > Guardas.
Abra o guarda.
Abra Log de Guarda.
Revise as sessões geradas.
Confirme que prompts e respostas estão registrados.
Neste ponto, o guarda oferece visibilidade no tráfego de aplicação. A aplicação da política começa somente após você criar e publicar regras de Política de Interação de Guardas.
Passo 5 - Criar e Publicar as Regras de Política de Interação dos Guardas
A Política de Interação dos Guardas define como os guardas lidam com interações AI. Cada regra especifica o guarda ao qual se aplica, o perfil do motor de detecção, a ação a ser realizada e a direção do tráfego a ser inspecionada.
As regras podem aplicar ações como monitorar, bloquear, anonimizar dados sensíveis, ou combinar anonimização com monitoramento ou bloqueio. As regras são avaliadas independentemente de sua posição na base de regras. Se múltiplas regras corresponderem à mesma interação, a ação mais rigorosa é aplicada.
Para criar e publicar regras de Política de Interação dos Guardas:
No menu de navegação, selecione Segurança de IA > Política de Interação dos Guardas.
Clique em Novo.
Digite um nome de Regra e Descrição.
Use o botão de alternância Ativado para habilitar a regra.
Em Guardas, selecione o guarda ao qual a regra se aplica.
Em Perfil do Motor, selecione a categoria de detecção para a regra.
Em Ação, selecione a ação a aplicar quando a regra corresponder.
Em Direção, selecione a direção do tráfego a inspecionar.
Clique em Salvar.
Repita essas etapas para regras adicionais.
Revise a revisão não publicada.
Clique em Publicar.
Após a política ser publicada, o guarda aplica as regras ativas ao tráfego que passa por ele.
Passo 6 - Verificar a Política
Verifique a política para confirmar que o guarda está aplicando as regras esperadas e que a atividade política é visível nos logs do guarda.
Para verificar a política:
No menu de navegação, selecione Segurança IA > Guardas.
Abra o guarda.
Na página Visão geral , revise as regras ativas.
Abra Log de Guarda.
Revise as sessões que correspondem às regras de política.
Confirme o conteúdo detectado, as ações aplicadas e os resultados da aplicação.