कस्टम एआई अनुप्रयोगों के लिए एआई सुरक्षा गार्ड्स के लिए कार्यप्रवाह का अवलोकन

Prev Next

इस लेख में एआई सुरक्षा गार्ड बनाने की प्रक्रिया, गार्ड के साथ कस्टम अनुप्रयोग को जोड़ने और गार्ड्स इंटरैक्शन नीति के विन्यास के लिए अंत-से-अंत प्रक्रिया को स्पष्ट किया गया है।

Cato AI सुरक्षा गार्ड आपके कस्टम एआई अनुप्रयोगों की सुरक्षा करते हैं, जिससे एप्लिकेशन ट्रैफ़िक को Cato के माध्यम से गुजरने के लिए रूटिंग की जाती है, इससे पहले यह बड़े भाषा मॉडल ( प्र Anbieter तक पहुँचता है। यह प्रशासकों को एआई इंटरैक्शन में दृश्यता देता है और उन्हें प्रॉम्प्ट्स, प्रतिक्रियाएँ, टूल इनपुट्स, और टूल आउटपुट्स के लिए नीति नियम लागू करने देता है।

Cato को एआई सेवा या कस्टम बड़े भाषा मॉडल एंडपॉइंट से कैसे जोड़ना है, यह निर्धारित करने के लिए गार्ड बनाएं। प्रॉक्सी मोड में, अनुप्रयोग ट्रैफ़िक को गार्ड एंडपॉइंट पर भेजता है, और गार्ड निरीक्षण के बाद ट्रैफ़िक को प्रदाता एंडपॉइंट पर फॉरवर्ड करता है।

एआई सुरक्षा गार्ड बनाने के लिए:

  1. नेविगेशन मेनू से  एआई सुरक्षा > गार्ड्स चुनें।

  2.  नया पर क्लिक करें।

  3. एक गार्ड नाम दर्ज करें।

  4.  गार्ड प्रकार चुनें के अंतर्गत,  प्रॉक्सी चुनें।

  5.  एआई सेवा चुनें के अंतर्गत, संबंधित एआई सेवा या कस्टम एंडपॉइंट चुनें।

  6.  एंडपॉइंट यूआरएल में, प्रदाता एंडपॉइंट दर्ज करें।

  7. गार्ड होस्टिंग सेटिंग्स को विन्यस्त करें।

  8.  सहेजें पर क्लिक करें।

गार्ड बनाया गया है और  गार्ड्स  पृष्ठ से उपलब्ध है।

एक बार जब आप गार्ड बनाते हैं, तो कनेक्शन विवरण प्राप्त करें जो अनुप्रयोग Cato के माध्यम से ट्रैफ़िक भेजने के लिए उपयोग करता है। ये मान गार्ड एंडपॉइंट की पहचान करते हैं, अनुप्रयोग को गार्ड के लिए प्रमाणित करते हैं, और किसी भी आवश्यक प्रदाता प्रमाणिकरण विवरणों को परिभाषित करते हैं।

गार्ड कनेक्शन विवरण प्राप्त करने के लिए:

  1.  गार्ड्स  पृष्ठ से, गार्ड खोलें।

  2. गार्ड एंडपॉइंट की प्रतिलिपि बनाएं।

  3. गार्ड एपीआई कुंजी की प्रतिलिपि बनाएं।

  4. आवश्यक अनुरोध हेडर की समीक्षा करें।

  5. प्रदाता प्रमाणीकरण आवश्यकताओं की समीक्षा करें।

  6. जब संबंधित हो, तो सेशन आईडी हेडर आवश्यकताओं की समीक्षा करें।

जब आप अनुप्रयोग विन्यास को अपडेट करते हैं, तो इन मानों का उपयोग करें।

अनुप्रयोग को अपडेट करें ताकि यह एआई अनुरोधों को एलएलएम प्रदाता के बजाय गार्ड एंडपॉइंट पर भेजे। अनुप्रयोग गार्ड को प्रमाणित करता है, और गार्ड गार्ड विन्यास के अनुसार ट्रैफ़िक को प्रदाता एंडपॉइंट पर भेजता है।

अनुप्रयोग को गार्ड से जोड़ने के लिए:

  1. एलएलएम प्रदाता एंडपॉइंट से गार्ड एंडपॉइंट तक अनुप्रयोग गंतव्य यूआरएल को अपडेट करें।

  2. आवश्यक गार्ड प्रमाणीकरण हेडर जोड़ें।

  3. जब आवश्यक हो, तो प्रदाता प्रमाणीकरण विवरण जोड़ें।

  4. जब आवश्यक हो, तो सेशन आईडी विवरण जोड़ें।

  5. अनुप्रयोग के माध्यम से परीक्षण ट्रैफ़िक भेजें।

अनुप्रयोग ट्रैफ़िक अब गार्ड के माध्यम से रूट किया जाता है।

नीति नियमों को विन्यस्त करने से पहले, यह पुष्टि करें कि गार्ड अनुप्रयोग से ट्रैफ़िक प्राप्त करता है। यह पुष्टि करने में मदद करता है कि अनुप्रयोग गार्ड से सही तरीके से कनेक्ट है और Cato एआई इंटरेक्शन का निरीक्षण कर सकता है।

यह पुष्टि करने के लिए कि गार्ड ट्रैफ़िक प्राप्त कर रहा है:

  1. नेविगेशन मेनू से  एआई सुरक्षा > गार्ड्स चुनें।

  2. गार्ड खोलें।

  3.  गार्ड लॉगिंग खोलें।

  4. जनरेटेड सेशन्स की समीक्षा करें।

  5. पुष्टि करें कि प्रॉम्प्ट्स और प्रतिक्रियाएँ लॉग की गई हैं।

इस बिंदु पर, गार्ड अनुप्रयोग ट्रैफ़िक में दृश्यता प्रदान करता है। नीति प्रवर्तन तब शुरू होता है जब आप गार्ड्स इंटरैक्शन नीति नियम बनाते और प्रकाशित करते हैं।

गार्ड्स इंटरैक्शन नीति में परिभाषित किया गया है कि गार्ड एआई इंटरैक्शनों को कैसे संभालते हैं। प्रत्येक नियम में विशेष गार्ड, पहचान इंजन प्रोफ़ाइल, कार्रवाई, और निरीक्षण के लिए ट्रैफ़िक दिशा निर्दिष्ट की जाती है।

नियम निगरानी, ब्लॉकिंग, संवेदनशील डेटा को अनयनमाइट करना, या निगरानी या ब्लॉकिंग के साथ अनयनमिटीकरण को जोड़ने जैसी कार्रवाइयों को लागू कर सकते हैं। नियमों को उनकी स्थिति से स्वतंत्र रूप से मूल्यांकित किया जाता है। यदि कई नियम एक ही इंटरैक्शन का मिलान करते हैं, तो अधिक कठोर कार्रवाई लागू होती है।

गार्ड्स इंटरैक्शन नीति नियम बनाने और प्रकाशित करने के लिए:

  1. नेविगेशन मेनू में,  एआई सुरक्षा > गार्ड्स इंटरैक्शन नीति चुनें।

  2.  नया पर क्लिक करें।

  3. एक नियम नाम और विवरण दर्ज करें।

  4. उपयोग  सक्रिय  टॉगल का ताकि आप नियम सक्षम कर सकें।

  5.  गार्ड्स में, वह गार्ड चुनें जिस पर नियम लागू होता है।

  6.  इंजन प्रोफ़ाइल में, उस नियम के लिए पहचान श्रेणी का चयन करें।

  7.  क्रिया में, जब नियम का मिलान होता है तो क्रिया लागू करने का चयन करें।

  8.  दिशा में, निरीक्षण करने के लिए ट्रैफ़िक दिशा का चयन करें।

  9.  सहेजें पर क्लिक करें।

  10. अतिरिक्त नियमों के लिए इन चरणों को दोहराएं।

  11. अप्रकाशित संशोधन की समीक्षा करें।

  12.  प्रकाशित करें पर क्लिक करें।

नीति प्रकाशित होने के बाद, गार्ड उस पर गुजरने वाले ट्रैफ़िक पर सक्रिय नियमों को लागू करता है।

नीति को सत्यापित करें कि गार्ड अपेक्षित नियमों को लागू कर रहा है और कि नीति गतिविधि गार्ड लॉग्स में दिखाई देती है।

नीति को सत्यापित करने के लिए:

  1. नेविगेशन मेनू से  एआई सुरक्षा > गार्ड्स चुनें।

  2. गार्ड खोलें।

  3.  अवलोकन  पृष्ठ पर, सक्रिय नियमों की समीक्षा करें।

  4.  गार्ड लॉगिंग खोलें।

  5. पॉलिसी नियमों से मैच खाते वाले सत्रों की समीक्षा करें।

  6. सत्यापित सामग्री, लागू की गई क्रियाएँ, और प्रवर्तन परिणामों की पुष्टि करें।