A descoberta de Shadow IA permite que você obtenha visibilidade sobre o uso de IA generativa e serviços baseados em IA que não são formalmente aprovados ou governados por sua organização. Isso ajuda você a entender onde e como os usuários interagem com ferramentas de IA, para que possa avaliar a exposição potencial de dados e risco antes de definir políticas de aplicação ou governança.
A descoberta de Shadow IA concentra-se na conscientização e percepção. Ele não bloqueia o tráfego por padrão, e não inspeciona o conteúdo de prompts ou respostas de IA.
O que a Descoberta de AI Sombra Identifica
A descoberta de Shadow IA identifica interações com serviços de IA em todo o tráfego da Internet, incluindo:
Ferramentas de IA generativas públicas
Recursos com tecnologia de IA incorporados em Aplicações SaaS
Interações diretas do usuário com serviços de IA de sites ou usuários remotos
Essas interações podem ocorrer sem aprovação explícita de TI e fora das plataformas de IA empresariais autorizadas.
Como Funciona a Descoberta de IA Sombra
A descoberta de Shadow IA baseia-se na visibilidade do nível de rede e análise de tráfego.
Cato identifica serviços de IA usando uma combinação de assinaturas de aplicação, domínios e padrões comportamentais. Isso inclui tanto aplicações de IA autônomas quanto capacidades de IA embutidas em plataformas SaaS mais amplas.
O tráfego é continuamente analisado e classificado para detectar atividades relacionadas a IA com base em protocolo, destino e comportamento de uso. Essa abordagem não depende de integrações de API com fornecedores de IA ou inspeção baseada em agente nos pontos finais.
O uso de IA é então correlacionado com o contexto da rede, permitindo visibilidade sobre quem está usando serviços de IA, de onde e em quais dispositivos, sem inspecionar o conteúdo das interações dos usuários.
Além disso, a Cato fornece descoberta, visibilidade de configuração e avaliação de risco para modelos de IA embutidos dentro de aplicações SaaS (como o Microsoft 365 Copilot ou recursos de IA do Google Workspace). Essas capacidades de IA embutidas são identificadas como parte do mesmo processo de análise, garantindo que não sejam negligenciadas.
A Segurança de IA do Cato avalia a postura de risco desses recursos de IA embutidos, incluindo os planos ou configurações específicas em uso, e permite que as organizações imponham políticas que governem como a IA é acessada e usada dentro dessas aplicações.
Quais Informações São Coletadas
A descoberta de Shadow IA coleta metadados e informações contextuais relacionadas ao uso de IA. As informações coletadas incluem:
Identidade de aplicação ou serviço de IA
Categoria de aplicação e classificação de IA
Contexto de origem, como usuário, site ou endereço IP
Destino do serviço de IA
Frequência e volume da atividade relacionada à IA
Compreendendo Insights de Shadow IA
Os insights da descoberta de Shadow IA são apresentados em uma página dedicada de Shadow IA no Aplicativo de Gerenciamento Cato. Esta página é projetada para lhe dar uma visão agregada e consciente de risco do uso de IA em sua organização.
A página de Shadow IA ajuda você a responder perguntas-chave como:
Quais aplicações de IA estão sendo usadas no ambiente
Quão amplamente cada aplicação de IA é usada, com base em usuários e interações
Quais aplicações de IA representam maior risco e requerem revisão mais próxima
Use esses insights para entender padrões de adoção de IA, identificar serviços de IA não sancionados ou de alto risco, e decidir se controles adicionais de governança ou política são necessários.
Caso de uso
A empresa ABC permite que os funcionários acessem a Internet livremente para apoiar a produtividade e a colaboração. Ao longo do tempo, os usuários começam a adotar ferramentas públicas de IA generativa e recursos baseados em IA para ajudar em tarefas como criação de conteúdo, pesquisa e codificação. Esses serviços são frequentemente usados sem aprovação formal ou visibilidade de TI.
Como administrador de TI, você usa a descoberta de Shadow IA para analisar o tráfego da Internet roteado através do Cato Cloud e identificar interações com serviços de IA. A página de Shadow IA constrói um inventário de aplicações de IA em uso, mostra quão amplamente são adotadas e destaca aplicações que podem introduzir maior risco.
Com esses insights, você pode entender como a IA está sendo usada em sua organização, identificar serviços de IA não sancionados ou de alto risco, avaliar a exposição potencial de dados e tomar decisões informadas sobre governança de IA e plataformas de IA sancionadas.