Cet article explique le flux de bout en bout pour créer un garde de sécurité IA, connecter une application personnalisée au garde, et configurer la politique d'interaction des gardes.
Aperçu
Les gardes de sécurité IA de Cato vous permettent de sécuriser des applications IA personnalisées en routant le trafic des applications à travers Cato avant qu'il n'atteigne le fournisseur de modèle de langage (LLM). Cela donne aux administrateurs une visibilité sur les interactions IA et leur permet d'appliquer des règles de politique pour les invites, les réponses, les entrées et sorties d'outils.
Étape 1 - Créer le garde de sécurité IA
Créez un garde pour définir comment Cato se connecte au service IA ou à l'endpoint LLM personnalisé. En mode proxy, l'application envoie le trafic à l’endpoint du garde, et le garde transfère le trafic à l’endpoint fournisseur après inspection.
Pour créer un garde de sécurité IA :
Dans le menu de navigation, sélectionnez Sécurité IA > Gardes.
Cliquez Nouveau.
Entrez un Nom du Garde.
Sous Type de Garde, sélectionnez Proxy.
Sous Sélectionner le Service IA, sélectionnez le service IA pertinent ou le point de terminaison personnalisé.
Dans URL de l'Endpoint, entrez le point de terminaison du fournisseur.
Configurez les paramètres d'hébergement du garde.
Cliquez Enregistrer.
Le garde est créé et disponible depuis la page des Gardes .
Étape 2 - Récupérer les détails de connexion du garde
Après avoir créé le garde, récupérez les détails de connexion utilisés par l’application pour envoyer du trafic à travers Cato. Ces valeurs identifient l’endpoint du garde, authentifient l'application vers le garde et définissent tout détail d'authentification fournisseur requis.
Pour récupérer les détails de connexion du garde :
Depuis la page des Gardes , ouvrez le garde.
Copiez l’endpoint du garde.
Copiez la clé API du garde.
Examinez les en-têtes de requête requis.
Examinez les exigences d'authentification du fournisseur.
Examinez les exigences des en-têtes d'ID de session, si pertinent.
Utilisez ces valeurs lors de la mise à jour de la configuration de l'application.
Étape 3 - Connecter l'application au garde
Mettez à jour l'application afin qu'elle envoie les requêtes IA à l’endpoint du garde au lieu de directement au fournisseur LLM. L'application s'authentifie auprès du garde, et le garde dirige le trafic vers l’endpoint du fournisseur selon la configuration du garde.
Pour connecter l’application au garde :
Mettez à jour l'URL de destination de l'application depuis l'endpoint du fournisseur LLM vers l'endpoint du garde.
Ajoutez l’en-tête d'authentification requis pour le garde.
Ajoutez des détails d'authentification fournisseur, si requis.
Ajoutez les détails de l'ID de session, si requis.
Envoyez le trafic de test via l'application.
Le trafic de l’application est maintenant routé par le garde.
Étape 4 - Confirmer que le garde reçoit le trafic
Avant de configurer les règles de politique, confirmez que le garde reçoit le trafic de l'application. Cela aide à vérifier que l'application est correctement connectée au garde et que Cato peut inspecter les interactions IA.
Pour confirmer que le garde reçoit le trafic :
Dans le menu de navigation, sélectionnez Sécurité IA > Gardes.
Ouvrez le garde.
Ouvrez Journalisation des Gardes.
Examinez les sessions générées.
Confirmez que les invites et réponses sont journalisées.
À ce stade, le garde offre une visibilité sur le trafic de l'application. L'application de la politique commence seulement après que vous ayez créé et publié les règles de Politique d'Interaction des Gardes.
Étape 5 - Créer et publier les règles de Politique d'Interaction des Gardes
La Politique d'Interaction des Gardes définit comment les gardes gèrent les interactions IA. Chaque règle spécifie le garde auquel elle s'applique, le profil du moteur de détection, l'action et le sens du trafic à inspecter.
Les règles peuvent appliquer des actions telles que surveiller, bloquer, anonymiser des données sensibles ou combiner l'anonymisation avec la surveillance ou le blocage. Les règles sont évaluées quel que soit leur position dans la base de règles. Si plusieurs règles correspondent à une même interaction, l'action la plus stricte est appliquée.
Pour créer et publier les règles de Politique d'Interaction des Gardes :
Dans le menu de navigation, sélectionnez Sécurité IA > Politique d'Interaction des Gardes.
Cliquez Nouveau.
Entrez un nom de Règle et Description.
Utilisez le bascule Activé pour activer la règle.
Dans Gardes, sélectionnez le garde auquel la règle s'applique.
Dans Profil de Moteur, sélectionnez la catégorie de détection pour la règle.
Dans Action, sélectionnez l'action à appliquer lorsque la règle correspond.
Dans Direction, sélectionnez le sens du trafic à inspecter.
Cliquez Enregistrer.
Répétez ces étapes pour des règles supplémentaires.
Examinez la révision non publiée.
Cliquez Publier.
Après publication de la politique, le garde applique les règles actives au trafic qui le traverse.
Étape 6 - Vérifiez la Politique
Vérifiez la politique pour confirmer que le garde applique les règles attendues et que l'activité de la politique est visible dans les journaux du garde.
Pour vérifier la politique :
Dans le menu de navigation, sélectionnez Sécurité IA > Gardes.
Ouvrez le garde.
Sur la page de Vue d'ensemble , passez en revue les règles actives.
Ouvrez Journalisation des Gardes.
Examinez les sessions qui correspondent aux règles de la politique.
Confirmez le contenu détecté, les actions appliquées, et les résultats de l'application.