Les applications IA personnalisées peuvent traiter des invites contenant des données sensibles, du contenu non sécurisé, des tentatives d'attaque ou des demandes qui violent les politiques d'utilisation de l'IA de votre organisation. Bloquer l'accès à ces applications peut réduire les risques, mais peut également limiter la valeur des flux de travail IA approuvés.
La politique d'interaction des Gardes vous permet de contrôler comment des gardes spécifiques gèrent les interactions IA en inspectant le contenu en temps réel et en appliquant des actions lorsque du contenu risqué ou non conforme est détecté. Au lieu d'appliquer la même protection à chaque flux de travail surveillé, vous pouvez créer des règles granulaires pour les gardes sélectionnés et assigner les profils de moteur et les actions qui correspondent aux exigences de sécurité de chaque application.
En utilisant des règles de la politique d'interaction des Gardes, vous pouvez détecter, bloquer, anonymiser ou surveiller les interactions IA en fonction des exigences de sécurité et de gouvernance de votre organisation. Cela vous aide à protéger les informations sensibles et à appliquer les politiques d'utilisation de l'IA pour les applications IA que vous développez sans perturber l'utilisation légitime de l'entreprise.
Configuration des politiques d'interaction des Gardes
Avant de créer des règles, activez la politique d'interaction des Gardes pour les utilisateurs finaux dans l'application de gestion Cato.
Pour activer la politique :
Dans le menu de navigation, sélectionnez Sécurité IA.
Sous Sécurité d'Application IA, sélectionnez Politique d'Interaction des Gardes
Activez le bascule de la Politique d'Applications IA.
Configuration d'une règle de politique d'interaction des Gardes
Les règles de la politique d'interaction des Gardes sont évaluées indépendamment de leur position dans la base de règles. Si plus d'une règle est déclenchée, l'action la plus stricte est appliquée. Par exemple, s'il existe une règle avec une action de surveillance, et une autre règle avec une action de blocage, l'action de blocage sera appliquée.
Pour créer une règle :
Depuis la page de la politique d'interaction IA, cliquez sur Nouveau.
Dans la section Général, configurez les champs, par exemple Nom et Description, ainsi que la position de la règle.
Dans la section Gardes, sélectionnez les gardes spécifiques auxquels la règle s'applique, ou cliquez sur Tout sélectionner pour appliquer la règle à tous les gardes.
Dans la section Profil du Moteur, sélectionnez le profil utilisé pour évaluer les invites IA.
Les profils de moteur sont le type de données contre lequel le contenu est vérifié. Par exemple, PII pour voir s'il y a des numéros de sécurité sociale inclus dans l'invite.
Dans la section Action, sélectionnez l'action à appliquer lorsqu'une invite correspond au profil de contenu, tel que Bloquer.
Pour déterminer la portée de la règle, sélectionnez au moins une Direction sur laquelle appliquer la règle.
Cliquez sur Sauvegarder.