Le Terrain de Jeu du Moteur vous permet de valider comment vos Profils de Moteur de Sécurité AI se comportent avant de les appliquer aux règles de Politique de déploiement d'Interaction AI. Il fournit un environnement de simulation contrôlé où vous pouvez tester des invites contre des profils sélectionnés et examiner les résultats de détection en temps réel.
Dans le Terrain de Jeu, vous choisissez les profils à activer, sélectionnez un scénario de test prédéfini ou en créez un personnalisé, et exécutez le simulateur. Le système évalue l'invite par rapport aux profils actifs et montre si une violation de profil a été déclenchée.
Cette fonctionnalité vous aide :
Valider la logique de détection avant l'application de la règle
Identifier les lacunes dans la couverture des profils
Réduire les faux positifs
Ajuster les détecteurs personnalisés et les combinaisons de profils
Parce que les profils sont souvent réutilisés dans plusieurs règles de politique de déploiement, les tester à l'avance garantit qu'une fois appliqués, ils se comportent exactement comme prévu.
Cas d'Utilisation
En tant qu'admin de sécurité pour l'entreprise ABC, vous avez récemment créé un profil appelé Protection d'Identifiant Personnel pour empêcher les employés de partager des données personnelles sensibles avec les outils AI.
Avant d'appliquer le profil à une règle de blocage dans votre Politique de déploiement d'Interaction AI, vous voulez vérifier qu'il détecte correctement :
SSNs
Adresses e-mail
Numéros de compte client (détecteur regex personnalisé)
Vous naviguez vers le Terrain de Jeu du Moteur et activez uniquement le profil de Protection d'Identifiant Personnel.
Ensuite, vous sélectionnez le scénario d'Information Personnelle prédéfini et exécutez le simulateur. Le système évalue les invites du scénario par rapport à votre profil et montre si des violations ont été déclenchées.
Vous remarquez que les SSNs et les adresses e-mail sont correctement détectés, mais que votre modèle de numéro de compte interne ne se déclenche pas.
Vous mettez à jour le détecteur regex personnalisé, retournez au Terrain de Jeu, et exécutez à nouveau la simulation. Cette fois, la violation est correctement identifiée.
Vous êtes maintenant sûr que lorsque vous appliquez le profil à une règle de blocage, il se comportera comme prévu en production.
Tester les Profils dans le Terrain de Jeu
Utilisez le Terrain de Jeu du Moteur pour simuler des invites contre des profils sélectionnés et examiner les résultats de détection.
Pour tester les profils dans le Terrain de Jeu du Moteur :
Dans le menu de navigation, sélectionnez Sécurité > Sécurité AI > Terrain de Jeu.
Dans le panneau Sélectionner les Profils de Moteur à Activer à gauche, activez les profils que vous souhaitez tester.
Dans la zone Session, sélectionnez le scénario que vous souhaitez utiliser :
Choisissez un scénario prédéfini, tel que :
Informations Personnelles
Jailbreak & Injection d'Invite
Clés API & Secrets dans le Code
Ou sélectionnez Session Personnalisée pour créer vos propres invites de test
Si vous utilisez une session personnalisée, entrez votre invite dans le champ Invite Utilisateur
Cliquez sur Exécuter le Simulateur.
Examinez les résultats de la simulation.
Le système montre combien de profils l'invite a été évaluée. Vous voyez si des Violations de Profil ont été déclenchées. Si des violations se produisent, vous pouvez examiner quels profils ont été associés
Ajustez les profils ou les invites selon les besoins et exécutez à nouveau le simulateur pour valider vos modifications :
Modifier les détecteurs ou la logique des profils
Activer ou désactiver des profils supplémentaires
Mettez à jour vos invites de test