एआई सुरक्षा गार्ड्स के साथ काम करना

एआई सुरक्षा गार्ड्स आपको उन एआई संचालित अनुप्रयोगों की सुरक्षा और शासन करने में मदद करते हैं जिन्हें आप बनाते हैं, और रनटाइम में सुरक्षा नियंत्रण लागू करते हैं। वे आपको उन नियमों को लागू करने की अनुमति देते हैं जो उन एआई अनुप्रयोगों के बीच ट्रैफ़िक के निरीक्षण और नियंत्रण के लिए हैं जो आप बनाते हैं, आपके उपयोगकर्ता, और समर्थित एआई मॉडल्स। आप अनुप्रयोग को प्रभावित करने से पहले, हानिकारक प्रॉम्प्ट्स, असुरक्षित सामग्री, और संवेदनशील डेटा की पहचान के लिए गार्ड्स का उपयोग करते हैं। गार्ड्स आपको यह भी दृश्यता देते हैं कि एआई अनुप्रयोगों का कैसे उपयोग किया जाता है, ताकि आप उल्लंघनों की निगरानी कर सकें और एक संगत नियंत्रण बिंदु के साथ संगठनात्मक नीतियों को लागू कर सकें।

एक गार्ड एआई सुरक्षा के लिए प्रवर्तन परत के रूप में कार्य करता है। यह प्रॉम्प्ट का मूल्यांकन करता है और जब संबंधित होता है, मॉडल प्रतिक्रियाएं आपके नीति में कॉन्फ़िगर की गई डिटेक्शन और कार्यों के खिलाफ होती हैं। नीति मिलान के आधार पर, गार्ड इंटरैक्शन की अनुमति दे सकता है, अवरुद्ध कर सकता है, या लॉग कर सकता है।

गार्ड्स कैसे काम करते हैं

गार्ड्स एआई ट्रैफ़िक का निरीक्षण करते हैं और उसे आपकी नीति में परिभाषित डिटेक्शन और कार्यों से तुलना करते हैं। यह आपको ट्रैफिक को मॉडल प्रदाता तक पहुँचने से पहले एआई इंटरैक्शन पर सुरक्षा और गवर्नेंस नियंत्रण लागू करने देता है, और कुछ मामलों में, उपयोगकर्ता को प्रतिक्रिया लौटने से पहले।

ट्रैफिक प्रवाह

एआई सुरक्षा विभिन्न ट्रैफिक फ्लो मॉडल का समर्थन करता है, यह निर्भर करता है कि आपके अनुप्रयोग का गार्ड के साथ एकीकरण कैसे है।

• प्रॉक्सी मोड - इस मोड में, गार्ड अनुप्रयोग और एआई प्रदाता के बीच इनलाइन बैठता है। आपका अनुप्रयोग गार्ड के माध्यम से अनुरोध भेजता है, जो सामग्री की नीति के खिलाफ मूल्यांकन के बाद प्रदाता को ट्रैफिक को अग्रेषित करता है।

  यह मोड आपको ट्रैफिक पथ में सीधे नियंत्रण लागू करने देता है। गार्ड प्रदाता तक पहुँचने से पहले अनुरोध का निरीक्षण कर सकता है, और जहां समर्थन है, उत्तर का निरीक्षण कर सकता है, इससे पहले कि वह एप्लिकेशन को लौटाया जाए। यह आपको वास्तविक समय सुरक्षा और दृश्यता के लिए एक सीधा प्रवर्तन बिंदु प्रदान करता है।

  

• एपीआई मोड - एपीआई मोड में, आपका अनुप्रयोग एक इनलाइन प्रॉक्सी के माध्यम से ट्रैफ़िक रूटिंग के बजाय एपीआई-आधारित एकीकरण के माध्यम से गार्ड के साथ इंटरैक्ट करता है। अनुप्रयोग प्रासंगिक सामग्री को गार्ड के लिए मूल्यांकन के लिए अनुप्रयोग प्रवाह के हिस्से के रूप में भेजता है।

  यह मोड आपको उन वातावरणों के लिए अधिक लचीलापन देता है जहां एक इनलाइन तैनाती पसंदीदा आर्किटेक्चर नहीं है। गार्ड फिर भी सामग्री को नीति के खिलाफ मूल्यांकन करता है, लेकिन प्रवर्तन प्रवाह इस पर निर्भर करता है कि आपका आवेदन गार्ड के साथ कैसे एकीकृत है।

  

गार्ड क्या पता लगाता है और लागू करता है

आप एआई से संबंधित खतरों की एक श्रृंखला के लिए नीति का पता लगाने और लागू करने के लिए गार्ड्स का उपयोग कर सकते हैं, जिनमें शामिल हैं:

• प्रॉम्प्ट इंजेक्शन प्रयास

• असुरक्षित या प्रतिबंधित सामग्री

• संवेदनशील डेटा एक्सपोज़र, जैसे व्यक्तिपरक पहचानने योग्य जानकारी (पीआईआई) या सुरक्षित स्वास्थ्य जानकारी (पीएचआई)

• कंपनी नीति के आधार पर विषय या उपयोग उल्लंघन

• संदिग्ध या गैर-अनुपालन एआई इंटरैक्शन

जब कोई गार्ड कोई मेल पाता है, तो यह नीति में कॉन्फ़िगर की गई कार्रवाई को लागू करता है। उदाहरण के लिए, गार्ड अनुरोध को अवरुद्ध कर सकता है, इसकी अनुमति दे सकता है, या निगरानी और जांच के लिए घटना को लॉग कर सकता है।

उपयोग का मामला - एक आंतरिक एआई सहायक की सुरक्षा करना

आपकी कंपनी आंतरिक दस्तावेजों को खोजने और सामग्री को संक्षेप करने में कर्मचारियों की सहायता करने के लिए एक आंतरिक एआई सहायक का उपयोग करती है। संवेदनशील डेटा एक्सपोज़र, प्रॉम्प्ट इंजेक्शन, और नीति उल्लंघनों के जोखिम को कम करने के लिए, आप एप्लिकेशन ट्रैफ़िक पर एक एआई सुरक्षा गार्ड लागू करते हैं।

गार्ड प्रॉम्प्ट्स और, जहां समर्थन हो, एआई सुरक्षा नीति के खिलाफ प्रतिक्रियाओं का निरीक्षण करता है। आप असुरक्षित या गैर-अनुपालन इंटरैक्शन का पता लगा सकते हैं और उन्हें अवरुद्ध या लॉग कर सकते हैं इससे पहले कि सामग्री एआई प्रदाता तक पहुंचे या उपयोगकर्ता को वापस की जाए।

समर्थित प्रदाता

प्रॉक्सी मोड निम्नलिखित प्रदाताओं और एपीआई शैलियों का समर्थन करता है।