Um guardião é o ponto de aplicação da Segurança IA em suas aplicações IA personalizadas. Você usa guardiões para inspecionar interações de IA, aplicar ações de política e obter visibilidade sobre como as aplicações protegidas são usadas. Para mais informações sobre conceitos de guardião e casos de uso, consulte Trabalhando com Guardiões de Segurança IA.
Este artigo explica como criar um guardião, usar a chave de autenticação gerada para conectá-lo à sua aplicação IA, e monitorar a atividade do guardião após a implantação.
Definindo um Guardião
Você cria e gerencia os guardiões na página Segurança IA > Guardiões. Esta página lista todos os guardiões na sua conta e inclui informações de resumo, como o tipo de guardião, local de hospedagem, interações IA, contagem de violações, e data de criação.
Para criar um guardião
No menu de navegação, selecione Segurança IA > Guardiões, e clique em Novo.
Digite o Nome do Guardião. A Cato recomenda fornecer um nome descritivo para ajudar a lembrar para qual aplicação o guardião é aplicado.
Selecione o Tipo de Guardião:
Proxy: O guardião intercepta prompts enquanto o Cato realiza a ação configurada
API: O guardião escaneia prompts sem interceptá-los, e o Cato retorna o resultado da detecção para que sua aplicação possa aplicar a ação
Gateway IA: O guardião se integra com um gateway IA existente para escanear prompt e interceptá-los automaticamente
Se você selecionou um tipo de guardião proxy, selecione o Serviço IA com o qual o guardião interagirá, e digite a chave API do serviço.
Clique em Validar para garantir que você digitou a chave correta
Se você selecionou um tipo de guardião API, determine se hospedar o guardião em um Outpost.
(Opcional) Determine como a Cato lida com solicitações que não podem ser inspecionadas. Ative a opção Permitir Passagem para encaminhar solicitações para o ponto final do serviço de IA sem inspeção imediata. Desativar Permitir Passagem para rejeitar essas solicitações.
Clique Salvar.
Implementando o Guardião na Sua Aplicação IA
Após criar um guardião, abra-o na página Guardiões para visualizar os detalhes de implementação para sua aplicação. A página de detalhes do guardião fornece as informações necessárias para conectar o tráfego da sua aplicação ao guardião.
Dependendo do tipo de guardião e serviço, a página pode incluir:
Detalhes do endpoint
Cabeçalhos obrigatórios
Formato do corpo do pedido
Chaves API dos guardiões
A página também inclui código de pedido de amostra que você pode copiar e usar como ponto de partida para sua integração de aplicação.
Use o snippet gerado para atualizar sua aplicação para que o tráfego seja enviado através do guardião ou avaliado pelo guardião, com base no tipo de integração selecionado.
Monitoramento de Atividade do Guardião
Após implantar um guardião, você pode revisar sua atividade para entender como ele é utilizado, quais regras são aplicadas a ele e se detecta violações de política. Se você clicar em uma sessão específica, também poderá ver os dados de interação reais que foram enviados para e do modelo.
Nota: Visualizar dados de sessão só é possível se você tiver as permissões necessárias para Ler Conteúdo Sensível. Para mais informações sobre as funções e permissões, consulte Gerenciando Funções de Admin Usando RBAC.
A página de visão geral do guardião mostra informações de resumo para o guardião selecionado, incluindo interações, taxa de violações, regras ativas e mais.
Você pode usar esses dados para entender com que frequência o guardião é usado, quais políticas estão ativamente aplicadas a ele, e com que frequência interações acionam detecções ou violações.
Registro de Guardião
A página de Registro de Guardião fornece visibilidade em nível de sessão no tráfego tratado pelo guardião. Para cada sessão, você pode rever campos de resumo, como:
ID da Sessão
Invocações
Detecções
Primeira Atividade
Última Atividade
Expanda uma sessão para ver informações mais detalhadas, como que ação foi tomada, um timestamp para a sessão, e mais.
Esses dados ajudam a investigar a atividade do guardião em mais detalhe e verificar se o guardião está aplicando políticas conforme esperado.