Une garde est le point d'application pour la Sécurité IA dans vos applications IA personnalisées. Vous utilisez des gardes pour inspecter les interactions IA, appliquer des actions de politique, et obtenir de la visibilité sur l'utilisation des applications protégées. Pour plus d'informations sur les concepts et cas d'utilisation des gardes, consultez Travailler avec des Gardes de Sécurité IA.
Cet article explique comment créer une garde, utiliser la clé d'authentification générée pour la connecter à votre application IA, et surveiller l'activité de la garde après le déploiement.
Définir une Garde
Vous créez et gérez les gardes depuis la page Sécurité IA > Gardes. Cette page liste toutes les gardes de votre compte et inclut des informations de résumé telles que le type de garde, le lieu d'hébergement, les interactions IA, le nombre de violations et la date de création.
Pour créer une garde
Dans le menu de navigation, sélectionnez Sécurité IA > Gardes, et cliquez sur Nouveau.
Entrez le Nom de la Garde. Cato recommande de fournir un nom descriptif pour vous aider à vous rappeler à quelle application la garde s'applique.
Sélectionnez le Type de Garde:
Proxy : La garde intercepte les inviter en ligne, et Cato exécute l'Action activée
API : La garde analyse les inviter sans les intercepter, et Cato retourne le résultat de la détection pour que votre Application puisse appliquer l'Action
Passerelle IA : La garde s'intègre avec une Passerelle IA existante pour analyser et intercepter automatiquement les inviter
Si vous avez sélectionné un type de garde proxy, sélectionnez le Service IA avec lequel la garde va interagir, et entrez la clé API pour le service.
Cliquez sur Valider pour vous assurer d'avoir entré la bonne Clé
Si vous avez sélectionné un type de garde API, déterminez si vous souhaitez héberger la garde sur un Avant-poste.
Cliquez sur Sauvegarder.
Implémentation de la Garde dans Votre Application IA
Après avoir créé une garde, ouvrez-la depuis la page Gardes pour voir les détails d'implémentation pour votre application. La page des détails de la garde fournit les informations nécessaires pour connecter le trafic de votre application à la garde.
Selon le type de garde et service, la page peut inclure :
Détails du point final
En-têtes requis
Format du corps de la requête
Clés API de la garde
La page inclut également un exemple de code de requête que vous pouvez copier et utiliser comme point de départ pour votre intégration d'application.
Utilisez le snippet généré pour mettre à jour votre application afin que le trafic soit dirigé à travers la garde ou évalué par celle-ci, en fonction du type d'intégration sélectionné.
Surveillance de l'Activité de la Garde
Après avoir déployé une garde, vous pouvez examiner son activité pour comprendre comment elle est utilisée, quelles règles s'appliquent et si elle détecte des violations de politique. Si vous cliquez sur une session spécifique, vous pouvez également voir les données réelles d'interaction qui ont été envoyées au modèle et reçues de celui-ci.
Note : La visualisation des données de session n'est possible que si vous disposez des autorisations nécessaires pour lire le contenu sensible. Pour plus d'informations sur les rôles et les autorisations, voir Gestion des Rôles Admin à l'aide de RBAC.
La page de vue d'ensemble de la garde affiche les informations récapitulatives de la garde sélectionnée, y compris les Interactions, le Taux de Violation, les Règles Actives, et plus.
Vous pouvez utiliser ces données pour comprendre à quelle fréquence la garde est utilisée, quelles politiques sont appliquées activement pour elle, et à quelle fréquence les interactions déclenchent des détections ou des violations.
Journalisation de la Garde
La page de Journalisation des Gardes fournit une visibilité au niveau de la session sur le trafic géré par la garde. Pour chaque session, vous pouvez réviser les champs récapitulatifs tels que :
ID de session
Invocations
Détections
Première activité
Dernière activité
Développer une session pour voir des informations plus détaillées, telles que quelle action a été prise, un horodatage pour la session, et plus.
Ces données vous aident à enquêter sur l'activité de la garde plus en détail et à vérifier qu'elle applique la politique comme prévu.