प्लेग्राउंड में इंजन प्रोफ़ाइल का परीक्षण

इंजन प्लेग्राउंड आपको यह मान्य करने की अनुमति देता है कि आपके AI सुरक्षा इंजन प्रोफ़ाइल उत्पादन AI इंटरैक्शन नीति नियमों को लागू करने से पहले कैसे व्यवहार करते हैं। यह एक नियंत्रित अनुकरण वातावरण प्रदान करता है जहाँ आप चयनित प्रोफ़ाइल के खिलाफ प्रॉम्प्ट का परीक्षण कर सकते हैं और वास्तविक समय में पहचान परिणामों की समीक्षा कर सकते हैं।

प्लेग्राउंड में, आप चुनते हैं कि कौनसी प्रोफ़ाइल सक्रिय करें, पूर्वनिर्धारित परीक्षण परिदृश्य चुनें या एक कस्टम बनाएं, और सिम्युलेटर चलाएं। सिस्टम प्रॉम्प्ट का सक्रिय प्रोफ़ाइल के खिलाफ मूल्यांकन करता है और दिखाता है कि क्या कोई प्रोफ़ाइल उल्लंघन उत्पन्न हुआ।

यह सुविधा आपकी मदद करती है:

• प्रवर्तन से पहले पहचान तर्क को मान्य करें

• प्रोफ़ाइल कवरेज में अंतराल की पहचान करें

• झूठी सकारात्मकता को कम करें

• कस्टम डिटेक्टर और प्रोफ़ाइल संयोजन को ठीक-ठाक करें

क्योंकि प्रोफ़ाइल अक्सर कई नीति नियमों में पुनः उपयोग की जाती हैं, उन्हें पहले परीक्षण करना सुनिश्चित करता है कि एक बार लागू होने पर वे आपके इरादे के अनुसार बिल्कुल ठीक से व्यवहार करते हैं।

उपयोग मामला

कंपनी ABC के लिए एक सुरक्षा प्रशासक के रूप में, आपने हाल ही में एक प्रोफ़ाइल को व्यक्तिगत पहचानकर्ता संरक्षण नामक बनाया है ताकि कर्मचारियों को संवेदनशील व्यक्तिगत डेटा AI उपकरणों के साथ साझा करने से रोका जा सके।

अपनी AI इंटरैक्शन नीति में ब्लॉकिंग नियम पर प्रोफ़ाइल को लागू करने से पहले, आप यह सुनिश्चित करना चाहते हैं कि यह सही ढंग से पहचानता है:

• SSNs

• ईमेल पते

• ग्राहक खाता नंबर (कस्टम रेगेक्स डिटेक्टर)

आप इंजन प्लेग्राउंड में जाते हैं और केवल व्यक्तिगत पहचानकर्ता संरक्षण प्रोफ़ाइल सक्षम करते हैं।

इसके बाद, आप पूर्वनिर्धारित व्यक्तिगत जानकारी परिदृश्य को चुनते हैं और सिम्युलेटर चलाते हैं। सिस्टम आपके प्रोफ़ाइल के खिलाफ परिदृश्य में प्रॉम्प्ट का मूल्यांकन करता है और दिखाता है कि क्या उल्लंघन हुए।

आप देखते हैं कि एसएसएन और ईमेल पते सही ढंग से पहचान किए गए हैं, लेकिन आपका आंतरिक खाता नंबर पैटर्न ट्रिगर नहीं हो रहा है।

आप कस्टम रेगेक्स डिटेक्टर को अपडेट करते हैं, प्लेग्राउंड पर वापस जाते हैं, और अनुकरण फिर से चलाते हैं। इस बार, उल्लंघन सही ढंग से पहचाना गया है।

अब आप आत्मविश्वस्त हैं कि जब आप ब्लॉकिंग नियम पर प्रोफ़ाइल लागू करते हैं, तो यह उत्पादन में आपकी अपेक्षाओं के अनुसार व्यवहार करेगा।

प्लेग्राउंड में प्रोफ़ाइल का परीक्षण करें

चयनित प्रोफ़ाइल के खिलाफ प्रॉम्प्ट का अनुकरण करने और पहचान परिणामों की समीक्षा करने के लिए इंजन प्लेग्राउंड का उपयोग करें।

इंजन प्लेग्राउंड में प्रोफ़ाइल का परीक्षण करने के लिए:

1. नेविगेशन मेनू से, सुरक्षा > AI सुरक्षा > प्लेग्राउंड चुनें।

2. बाएँ पर सक्रिय करने के लिए इंजन प्रोफ़ाइल चुनें पैनल में, उन प्रोफ़ाइल को सक्षम करें जिन्हें आप परीक्षण करना चाहते हैं।

3. सत्र क्षेत्र में, उपयोग करने के लिए परिदृश्य चुनें:

   • एक पूर्वनिर्धारित परिदृश्य चुनें, जैसे:

     • व्यक्तिगत जानकारी

     • जेलब्रेक & प्रॉम्प्ट इंजेक्शन

     • कोड में API कुंजियाँ और गुप्त बातें

   • या अपने स्वयं के परीक्षण प्रॉम्प्ट बनाने के लिए कस्टम सत्र चुनें

     यदि कस्टम सत्र का उपयोग कर रहे हैं, तो उपयोगकर्ता प्रॉम्प्ट फ़ील्ड में अपना प्रॉम्प्ट दर्ज करें

4. सिम्युलेटर चलाएं पर क्लिक करें।

5. अनुकरण परिणामों की समीक्षा करें।

   सिस्टम दिखाता है कि कितनी प्रोफ़ाइल के खिलाफ प्रॉम्प्ट का मूल्यांकन किया गया था। आप देखते हैं कि क्या कोई प्रोफ़ाइल उल्लंघन ट्रिगर हुआ। यदि उल्लंघन होते हैं, तो आप समीक्षा कर सकते हैं कि कौन सी प्रोफ़ाइल मेल खाई थी

6. प्रोफ़ाइल या प्रॉम्प्ट आवश्यकतानुसार समायोजित करें और अपने परिवर्तनों को मान्य करने के लिए सिम्युलेटर फिर से चलाएं:

   • डिटेक्टर या प्रोफ़ाइल तर्क को संशोधित करें

   • अतिरिक्त प्रोफ़ाइल को सक्रिय या निष्क्रिय करें

   • अपना परीक्षण प्रॉम्प्ट अपडेट करें