Este artigo explica como usar o Painel de Controle GenAI Apps para monitorar como os aplicativos GenAI são utilizados em seu ambiente. Para mais informações sobre proteger aplicativos baseados em IA, veja Protegendo o Tráfego de Aplicativos IA.
Visão geral
O Painel de Aplicações GenAI oferece visibilidade centralizada e abrangente sobre o uso de aplicações GenAI em linha, incluindo IA fantasma. O painel detalha quais aplicações de IA estão sendo usadas em toda sua organização, e por quem, e rastreia todas as interações dos usuários e compartilhamento de dados sensíveis. Isso ajuda você a detectar se dados sensíveis, por exemplo, código fonte, PII ou informações financeiras foram expostos a um LLM. Expor esses dados sensíveis a um LLM pode criar um risco de segurança, pois adversários podem consultar o modelo para extrair os dados. Com a visibilidade fornecida pelo painel de Aplicações GenAI, você pode evitar proativamente vazamentos de dados identificando riscos.
O painel também categoriza os aplicativos GenAI, permitindo que você aplique políticas de segurança granulares através de Controle de Aplicativos ou regras de DLP adaptadas às suas necessidades específicas.
Obter visibilidade desses dados é uma parte fundamental para proteger sua organização e seus dados sensíveis enquanto permite o uso seguro de aplicativos de IA. Para mais informações sobre desenvolver uma estratégia para proteger sua organização enquanto utiliza aplicativos baseados em IA, veja Protegendo o Tráfego de Aplicativos IA.
Uma licença CASB é necessária para o Painel de Controle GenAI Apps. Para mais informações sobre a aquisição de uma licença CASB, entre em contato com seu representante Cato.
Caso de Uso - Identificando AI Oculta e Governança de AI
A equipe de segurança da empresa ABC tem uma política de dados clara sobre quais aplicativos GenAI podem ser usados. Eles criam regras de Controle de Aplicativos e DLP para implementar a política. No entanto, eles frequentemente desconhecem quais aplicativos GenAI são usados dentro de sua organização. Isso cria um risco de segurança, pois sem esse conhecimento, eles não podem aplicar sua política de segurança.
Para mitigar esse risco e identificar aplicativos AI ocultos, a equipe de segurança analisa o:
Principais Aplicativos widget para identificar quem está usando aplicativos AI ocultos e o nível de risco associado ao app
Carregamentos de Arquivos widget para identificar uploads de arquivos sensíveis para aplicativos não autorizados e criar novas políticas de dados para prevenir vazamentos adicionais
Classificação widget para identificar duplicatas de aplicativos sancionados por categoria e restringir o acesso a aplicativos não autorizados
Começando com o Painel de Controle GenAI Apps
Para acessar o Painel de Controle GenAI Apps, navegue para Segurança > Aplicativos GenAI.
O Painel de Controle GenAI Apps é dividido em três seções:
Resumo: Uma visão geral de alto nível dos aplicativos GenAI usados em seu ecossistema e as categorias em que estão
Visão Geral: Obtenha visibilidade nos aplicativos GenAI usados em seu ambiente, seus eventos gerados, atividade do usuário e ações tomadas
Proteção de Dados: Insights sobre violações de política de dados e os usuários e arquivos envolvidos
Todo o painel pode ser filtrado por usuário ou aplicativo para obter um entendimento mais profundo do uso de GenAI.
Nota:
Alguns widgets no Painel de Controle requerem que o Controle de Aplicativo esteja ativado com uma regra que monitore todas as atividades na nuvem por meio de todas as aplicações em nuvem.
Estas tabelas explicam os widgets no Painel de Controle GenAI Apps.
Entendendo a Seção de Resumo
Esta tabela explica os widgets na seção Resumo.
Nome | Descrição |
|---|---|
Aplicativos GenAI | Quantos aplicativos GenAI são usados. |
Classificação | Número de aplicativos GenAI sancionados e não sancionados usados. |
Aplicativos de risco | Número de aplicações GenAI arriscadas sendo usadas. |
Usuários | Número de usuários usando aplicativos GenAI. |
Violações de Dados | Número de violações de dados detectadas de aplicativos GenAI. |
Uso da Rede | Uso da rede de aplicativos GenAI. |
Aplicativos por Categoria | Número de aplicativos GenAI usados por categoria de IA. |
Compreendendo a Seção Visão Geral
Esta tabela explica os widgets na seção Visão Geral.
Nome | Description |
|---|---|
Eventos por Ações | Divisão da ação que a Cato tomou em eventos gerados por aplicativos GenAI. |
Aplicações por | Lista de todos os aplicativos GenAP usados em seu ambiente, ordenados pelo número de usuários que acessam o app ou pela pontuação de risco do app. |
Principais Usuários GenAI | Lista de usuários com o maior uso de rede de aplicativos GenAI. |
Principais Atividades de Usuário ao Longo do Tempo | Atividades de usuário mais frequentes em aplicativos GenAI ao longo do tempo. Você pode ver o número exato de atividades clicando no gráfico. Isso ajuda a detectar anomalias nas atividades dos usuários. |
Compreendendo a Seção de Proteção de Dados
Esta tabela explica os widgets na seção Proteção de Dados.
É necessária uma licença DLP para visualizar esta seção. Para mais informações sobre a aquisição de uma licença DLP, entre em contato com seu representante Cato.
Nome | Descrição |
|---|---|
Violações por Perfil de Dados | Proporção de cada tipo de dados envolvido em violações e os 4 principais aplicativos com mais violações de dados. |
Violações de Política ao Longo do Tempo | A quantidade de violações de políticas de dados ao longo do tempo. |
Principais Usuários Compartilhando Dados Sensíveis | Lista dos usuários que violam a política de dados com mais frequência. |
Violações de Política | Lista de regras DLP que foram mais frequentemente violadas. |
Carregamento de Arquivos | Lista dos arquivos mais recentes carregados em aplicativos GenAI. |