Les Profils du Moteur de Sécurité AI vous permettent de définir comment Cato évalue les interactions AI et applique votre Politique de déploiement d'Utilisation AI. Un profil est un conteneur logique pour un ou plusieurs détecteurs qui identifient des types spécifiques de données, comportement, ou contenu dans les invites et réponses AI. Vous attachez un profil à une règle de Politique de déploiement d'Interaction AI, et l'action de la règle détermine comment Cato gère le trafic correspondant.
Les détecteurs sont les blocs de construction d'un profil. Chaque détecteur identifie une catégorie spécifique de contenu, tel que des identifiants personnels, des informations sensibles de l'entreprise, des secrets, ou des scénarios d'utilisation AI réglementés. Vous pouvez utiliser les détecteurs prédéfinis fournis par Cato, ou créer des détecteurs personnalisés basés sur un Sujet & Intention personnalisés ou des expressions régulières (regex) pour répondre aux exigences uniques de votre organisation.
En séparant la logique de détection (profils et détecteurs) de la logique d'application (règles et actions), vous gagnez en flexibilité et réutilisabilité. Vous pouvez appliquer le même profil à plusieurs règles et mettre à jour le profil de façon centralisée pour affecter immédiatement toutes les règles associées.
Après avoir créé un profil, vous le sélectionnez dans le champ Profil du Moteur d'une règle de Politique de déploiement d'Interaction AI et définissez l'action appropriée, telle que Bloquer ou une autre option d'application.
Cas d'Utilisation
En tant qu'admin de sécurité pour la Société ABC, vous êtes responsable de la prévention du partage de données sensibles par les employés avec des outils AI publics.
Vous décidez de créer un Profil de Moteur appelé Protection des Identifiants Personnels pour détecter quand les utilisateurs tentent de soumettre des informations personnelles ou réglementées aux applications AI.
Premièrement, vous créez le profil et ajoutez des détecteurs prédéfinis de la catégorie Identifiants Personnels, incluant :
Nom
Numéro ID/SSN
E-mail
Numéro de téléphone
Vous créez également un détecteur personnalisé utilisant un modèle regex pour identifier les numéros de compte client internes à votre organisation, qui ne sont pas couverts par les détecteurs prédéfinis.
Ensuite, vous créez une règle de Politique de déploiement d'Interaction AI et sélectionnez le profil Protection des Identifiants Personnels dans le champ Profil du Moteur. Dans la section Action, vous choisissez Bloquer.
Désormais, lorsque un utilisateur tente d'entrer des informations personnelles de clients ou des numéros de compte internes dans une application AI, l'interaction est bloquée conformément à la politique.
Cette approche ciblée vous permet de protéger les données sensibles sans restreindre toute l'utilisation AI dans l'organisation.
Créer un profil de moteur
Créez un Profil de Moteur pour regrouper les détecteurs qui représentent les types de données ou de contenu que vous souhaitez contrôler.
Pour créer un profil de moteur :
Dans le menu de navigation, sélectionnez Sécurité > Sécurité AI > Profils de moteur.
Cliquez sur Nouveau profil.
Entrez un Nom de profil et une Description optionnelle. Cato recommande de fournir une description qui facilitera l'identification du profil lors de son application dans une règle.
Cliquez sur Ajouter des détecteurs.
Sélectionnez les détecteurs à inclure dans le profil :
Choisissez parmi des catégories de détecteurs prédéfinies
Ou sélectionnez des détecteurs personnalisés que vous avez précédemment créés
Configurez la logique de correspondance.
Sélectionnez si le profil satisfait N'importe lequel (OU) ou Tous (ET) des détecteurs sélectionnés
Cliquez sur Appliquer puis Enregistrer.
Le profil est maintenant disponible pour être sélectionné dans le champ Profil du Moteur lors de la création ou de l'édition d'une règle de Politique de déploiement d'Interaction AI.
Configuration des détecteurs
Vous pouvez créer des détecteurs basés sur des catégories prédéfinies fournies par Cato ou définir des détecteurs personnalisés pour correspondre à des modèles spécifiques à l'organisation. Pour chaque détecteur, vous pouvez configurer le niveau de confiance et les chaînes à ignorer pour le détecteur donné.
Le paramètre de niveau de confiance détermine la stricte application des critères de détection.
Un niveau de confiance plus élevé génère moins d'alertes et se concentre sur les problèmes avec une probabilité plus élevée d'être de vrais positifs.
Un niveau de confiance plus bas augmente la sensibilité et peut détecter plus de problèmes potentiels, mais peut générer des alertes supplémentaires frontalières ou de faux positifs.
Excluant une chaîne vous permet de définir des chaînes qui seraient normalement pertinentes pour le détecteur, par exemple un nom propre, mais que vous souhaitez ignorer pour une raison quelconque, par exemple, si c'est le Nom de votre entreprise.
Utilisation de détecteurs prédéfinis
Cato propose des détecteurs prêt-à-l'emploi organisés par catégorie, tels que :
Identifiants personnels
Code & Identifiants techniques
Réglementation sur l'utilisation de l'IA
Information commerciale sensible
Ces détecteurs (et bien d'autres) sont prêts à l'emploi et ne nécessitent pas de configuration supplémentaire.
Pour ajouter des détecteurs prédéfinis à un profil :
Pendant la création du profil, cliquez sur Ajouter des détecteurs.
Cliquez sur Sélectionner parmi les détecteurs.
Déterminez la logique à appliquer entre les différents détecteurs.
Parcourez ou recherchez des détecteurs dans le panneau Sélectionner les détecteurs.
Développez une catégorie, par exemple, Identifiants personnels ou Code & Identifiants techniques et sélectionnez les détecteurs pertinents.
Cliquez Appliquer.
(Optionnel) Dans le panneau Profil, vous pouvez cliquer sur les 3 points à côté d'un détecteur pour déterminer :
Chaînes à exclure
Seuils de confiance
Cliquez sur Sauvegarder.
Création d'un détecteur personnalisé
Créez un détecteur personnalisé lorsque les détecteurs prédéfinis ne répondent pas à vos exigences.
Vous pouvez définir un détecteur personnalisé en utilisant :
Expressions régulières (regex) pour des motifs structurés
Pour créer un détecteur personnalisé :
Pendant la création du profil, cliquez sur Ajouter des détecteurs.
Cliquez sur Créer un détecteur personnalisé.
Entrez un Nom et sous Type de Détecteur Personnalisé, sélectionnez soit :
Regex
Définissez les critères de correspondance.
Pour regex, entrez le motif d'expression régulière
Cliquez sur Appliquer.