Sécurité AI pour Utilisateurs Finaux - Surveillance et Analyses avec Session Explorer

La page Session Explorer vous permet de surveiller comment les applications de chat IA sont utilisées dans votre organisation et d'évaluer le potentiel risque d'exposition des données via les invitations des utilisateurs. Une fois que vous activez la Sécurité IA, la page fournit de la visibilité sur les invites envoyées aux applications IA prises en charge et activées, vous aidant à comprendre les modèles d'utilisation et à enquêter sur les interactions potentiellement risquées.

Chaque interaction représente une seule invitation et inclut des informations contextuelles telles que l'application IA qui a reçu l'invitation et le sujet et l'intention détectés.

Détections

Lorsque vous définissez des règles de Sécurité IA avec une action de Surveillance, les invites correspondantes apparaissent sur la page des Interactions IA avec un indicateur de détection. Pour ces interactions :

La colonne Détections montre le profil de surveillance qui a déclenché la détection
Vous pouvez rapidement identifier quelle règle de surveillance a correspondu à l'invitation

Ces informations vous aident à valider la couverture des règles et à ajuster vos politiques.

Détails de l'Interaction

Lorsque vous examinez une interaction spécifique, le niveau de détail disponible dépend de vos autorisations attribuées. Les Admins avec la permission Lire le Contenu Sensible peuvent voir l'invitation réelle qui a été envoyée à l'application IA. Si l'invite contient du contenu problématique, les sections pertinentes sont signalées ou mises en évidence. Lorsque l'action de la règle inclut également Bloquer, les détails de l'interaction montrent la page de blocage présentée à l'utilisateur.

Pour des informations sur les rôles et les autorisations, voir Gérer les rôles d'admin à l'aide de RBAC.

Note : Les opérations, telles que la visualisation de l'invite, sont enregistrées dans le Journal d'Audit.

Cas d'utilisation - Comprendre comment les employés utilisent les chats IA

La société ABC active la Sécurité IA pour obtenir de la visibilité sur l'utilisation des applications de chat IA par les employés dans leur travail quotidien. En examinant les interactions sur la page des Interactions IA, l'équipe de sécurité peut voir les types de questions et de demandes que les utilisateurs soumettent aux outils IA.

Cette perspicacité aide votre organisation à mieux comprendre les activités des employés, à identifier les lacunes de connaissances courantes ou les besoins d'assistance récurrents, et à déterminer où des conseils supplémentaires, de la formation ou de l'encadrement peuvent améliorer la productivité tout en réduisant les risques.

Analyse d'une interaction IA

Utilisez les détails de la session pour analyser une interaction IA spécifique afin de comprendre le contexte complet, valider les détections et identifier les problèmes nécessitant des retours ou un suivi.

Pour analyser une interaction IA :

Dans le menu de navigation, cliquez sur Sécurité IA > Explorateur de session.
Sélectionnez l'interaction que vous souhaitez examiner et cliquez sur Révéler la session pour voir le contenu de la session.
Passez en revue la séquence d'invite et de réponse pour comprendre le contexte complet de l'interaction.
Pour poursuivre l'investigation d'une invite spécifique, cliquez sur Voir l'analyse. Le Rapport d'analyse du moteur s'ouvre.

Revoir le rapport d'analyse

Le rapport d'analyse du moteur fournit une vue détaillée de la manière dont une invite spécifique a été évaluée par le moteur de sécurité AI au moment où elle a été envoyée. Il montre quelles règles, profils et détecteurs étaient actifs pendant l'exécution, vous aidant à comprendre comment les détections ont été déterminées. Chaque rapport inclut un ID d'analyse, que vous pouvez utiliser pour référence, recherche dans l'Explorateur de sessions ou lors de la collaboration avec le Support.

Dans le rapport, les détections sont représentées visuellement :

Profil de couleur jaune indique qu'une détection s'est produite. Cela signifie qu'une règle avec ce profil a été exécutée, et qu'au moins un détecteur a produit une correspondance.
Profil de couleur verte indique qu'aucune détection ne s'est produite, bien que la règle ait été exécutée.

Pour enquêter davantage sur le comportement, vous pouvez cliquer sur Ouvrir dans le Moteur Playground et relancer toute la session. Cela vous permet d'examiner comment les profils actuels se comportent et d'affiner les configurations si le résultat diffère de vos attentes.

Lorsque vous examinez le Rapport d'Analyse, sachez que les configurations peuvent avoir été mises à jour depuis le moment de l'exécution. En conséquence, la définition actuelle pourrait différer de ce qui a été appliqué lorsque l'invite a été initialement évaluée.

Soumettre des avis

Lorsque le résultat du détecteur pour une invite est inexact, vous pouvez soumettre des avis pour aider Cato à évaluer la détection. Pour les faux positifs, examinez les Détecteurs déclenchés qui ont incorrectement correspondu à l'invite. Si un détecteur aurait dû se déclencher mais ne l'a pas fait, examinez Tous les Détecteurs pour identifier lesquels étaient activement en cours lors de l'envoi de cette invite.

Ajoutez des commentaires en texte libre pour expliquer le résultat attendu et fournir tout contexte pouvant aider l'investigation. Cato passe en revue ces avis et les utilise pour améliorer la qualité du détecteur au fil du temps.

Pour les problèmes critiques, vous pouvez ouvrir un ticket de Support en plus de l'avis.

Pour soumettre des avis pour une interaction IA :

Dans Analyse du Moteur, cliquez sur Soumettre Avis.
Pour signaler un faux positif, utilisez les Détecteurs Déclenchés.
Pour signaler un faux négatif, utilisez Tous les Détecteurs pour examiner les détecteurs qui étaient actifs dans le profil pour cette invite.
Sélectionnez le ou les détecteurs concernés.
Ajoutez des commentaires en texte libre pour fournir un contexte supplémentaire.
Pour les problèmes urgents, sélectionnez Ouvrir un ticket de support.
Cliquez sur Soumettre.