एआई सुरक्षा उपयोगकर्ताओं के लिए - सत्र एक्सप्लोरर के साथ निगरानी और एनालिटिक्स

सत्र एक्सप्लोरर पृष्ठ आपको निगरानी करने देता है कि आपके संगठन में AI चैट एप्लिकेशन कैसे उपयोग किए जाते हैं और उपयोगकर्ता प्रॉम्प्ट्स के माध्यम से डेटा की संभावित जोखिम का आकलन करते हैं। एआई सुरक्षा सक्षम करने के बाद, पृष्ठ समर्थित और सक्रिय एआई अनुप्रयोगों को भेजे गए प्रॉम्प्ट में दृश्यता प्रदान करता है, जो आपको उपयोग पैटर्न समझने और संभावित जोखिम भरी इंटरैक्शन की जांच करने में मदद करता है।

प्रत्येक इंटरैक्शन एकल प्रॉम्प्ट का प्रतिनिधित्व करता है और संदर्भित जानकारी शामिल करता है जैसे एआई अनुप्रयोग जो प्रॉम्प्ट प्राप्त करता है और पता लगाया गया विषय और इरादा।

डिटेक्शन

जब आप मॉनिटर कार्रवाई के साथ एआई सुरक्षा नियम परिभाषित करते हैं, तो मैचिंग प्रॉम्प्ट एआई इंटरैक्शन पृष्ठ पर एक डिटेक्शन संकेतक के साथ दिखाई देते हैं। इन इंटरैक्शन के लिए:

• डिटेक्शन कॉलम निगरानी प्रोफ़ाइल दिखाता है जिसने डिटेक्शन को ट्रिगर किया।

• आप जल्दी से पहचान सकते हैं कि कौन सी निगरानी नियम ने प्रॉम्प्ट को मेल किया।

यह जानकारी आपको नियम कवरेज की पुष्टि करने और अपनी नीतियों को सुधारने में मदद करती है।

जब आप किसी विशिष्ट इंटरैक्शन में गहराई से देखते हैं, तो उपलब्ध विवरण का स्तर आपकी आवंटित अनुमतियों पर निर्भर करता है।  संवेदनशील सामग्री पढ़ें  अनुमति वाले व्यवस्थापक एआई अनुप्रयोग को भेजे गए वास्तविक प्रॉम्प्ट को देख सकते हैं। यदि प्रॉम्प्ट समस्यात्मक सामग्री शामिल करता है, तो संबंधित अनुभागों को फ्लैग किया जाता है या हाइलाइट किया जाता है। जब नियम क्रिया अवरोध भी शामिल करती है, तो इंटरैक्शन विवरण में ब्लॉक पृष्ठ प्रदर्शित होता है जो उपयोगकर्ता को प्रस्तुत किया गया था।

भूमिकाओं और अनुमतियों के बारे में जानकारी के लिए, RBAC का उपयोग करके एडमिन भूमिकाएं प्रबंधन देखें।

नोट: संचालन, जैसे प्रॉम्प्ट देखना, लेखा परीक्षा लॉग में दर्ज किया जाता है।

उपयोग का मामला - यह समझना कि कर्मचारी एआई चैट्स का उपयोग कैसे करते हैं

एबीसी कंपनी एआई सुरक्षा सक्षम करती है ताकि कर्मचारियों द्वारा उनके कारोबारी दिन में एआई चैट अनुप्रयोग का उपयोग कैसे किया जाता है, इसमें दृश्यता प्राप्त हो सके। एआई इंटरैक्शन पृष्ठ पर इंटरैक्शन की समीक्षा करके, सुरक्षा टीम देख सकती है कि उपयोगकर्ता एआई उपकरणों को किस प्रकार के प्रश्न और अनुरोध सबमिट करते हैं।

यह अंतर्दृष्टि आपकी संगठन को कर्मचारी गतिविधियों को बेहतर समझने, सामान्य ज्ञान के अंतराल या आवर्ती सहायता जरूरतों की पहचान करने और अतिरिक्त मार्गदर्शन, प्रशिक्षण, या सक्षमता से उत्पादकता को सुधारने के लिए जोखिम को कम करते हुए तय करने में मदद करती है।

एआई इंटरैक्शन का विश्लेषण करना

विशिष्ट एआई इंटरैक्शन का विश्लेषण करने के लिए सत्र विवरण का उपयोग करें ताकि आप पूरे संदर्भ को समझ सकें, पहचान सत्यापित करें, और वे समस्याएं पहचानें जिनके लिए प्रतिक्रिया या फॉलो-अप की आवश्यकता है।

एआई इंटरैक्शन का विश्लेषण करने के लिए:

1. नेविगेशन मेनू से, AI सुरक्षा > सेशन एक्सप्लोरर पर क्लिक करें।

2. आप जांच करना चाहते हैं, उस बातचीत को चुनें और सेशन सामग्री देखने के लिए सेशन दिखाएं पर क्लिक करें।

3. बातचीत की पूरी संदर्भ समझने के लिए प्रॉम्प्ट और प्रतिक्रिया अनुक्रम की समीक्षा करें।

4. विशिष्ट प्रॉम्प्ट के लिए जांच जारी रखने के लिए, विश्लेषण देखें पर क्लिक करें। इंजन विश्लेषण रिपोर्ट खुलती है।

विश्लेषण रिपोर्ट की समीक्षा करें

इंजन विश्लेषण रिपोर्ट दिखाती है कि विशिष्ट प्रॉम्प्ट को भेजे जाने के समय एआई सुरक्षा इंजन द्वारा कैसे मूल्यांकन किया गया था। यह दिखाता है कि कौन से नियम, प्रोफ़ाइल और डिटेक्टर निष्पादन के दौरान सक्रिय थे, जिससे आपको समझने में मदद मिलती है कि पहचानें कैसे निर्धारित की गईं। प्रत्येक रिपोर्ट में एक विश्लेषण आईडी शामिल होती है, जिसका उपयोग आप संदर्भ, सत्र एक्सप्लोरर में खोज करने या समर्थन के साथ काम करते समय कर सकते हैं।

रिपोर्ट के भीतर, खोजें दृश्य रूप से प्रदर्शित की जाती हैं:

• पीले रंग का प्रोफ़ाइल इंगित करता है कि एक खोज हुई है। इसका अर्थ है कि इस प्रोफ़ाइल के साथ एक नियम निष्पादित किया गया था, और कम से कम एक डिटेक्टर ने मिलान उत्पन्न किया।

• हरे रंग का प्रोफ़ाइल इंगित करता है कि कोई खोज नहीं हुई, हालांकि नियम निष्पादित किया गया था।

व्यवहार को और जांचने के लिए, आप इंजन प्लेग्राउंड में खोलें पर क्लिक कर सकते हैं और पूरी सत्र को फिर से चला सकते हैं। यह आपको जांचने की अनुमति देता है कि वर्तमान प्रोफ़ाइल कैसे व्यवहार करते हैं और यदि परिणाम आपकी अपेक्षाओं से भिन्न है तो कॉन्फ़िगरेशन को बारीकी से समायोजित करें। 

विश्लेषण रिपोर्ट की समीक्षा करते समय, ध्यान रखें कि निष्पादन के समय से कॉन्फ़िगरेशन अपडेट किया जा सकता है। इसका परिणामस्वरूप वर्तमान परिभाषा उस परिप्रेक्ष्य से भिन्न हो सकती है जब प्रॉम्प्ट मूल रूप से मूल्यांकित किया गया था।

प्रतिक्रिया जमा करना

जब किसी प्रॉम्प्ट के लिए डिटेक्टर परिणाम गलत है, तो आप Cato के डिटेक्शन का मूल्यांकन करने में मदद करने के लिए प्रतिक्रिया सबमिट कर सकते हैं। गलत सकारात्मक के मामले में, उन ट्रिगर्ड डिटेक्टरों की समीक्षा करें जिन्होंने गलत तरीके से प्रॉम्प्ट का मिलान किया। यदि कोई डिटेक्टर ट्रिगर होना चाहिए था लेकिन नहीं हुआ, तो सभी डिटेक्टरों की समीक्षा करें ताकि यह पता लगाया जा सके कि कौन से उस समय सक्रिय थे जब यह प्रॉम्प्ट भेजा गया था।

उम्मीद के परिणाम के लिए मुफ़्त-पाठ टिप्पणियाँ जोड़ें और जांच में मदद कर सकने वाले किसी भी संदर्भ को प्रदान करें। Cato इस प्रतिक्रिया की समीक्षा करता है और समय के साथ डिटेक्टर की गुणवत्ता में सुधार के लिए इसका उपयोग करता है।

गंभीर मुद्दों के लिए, आप प्रतिक्रिया के अतिरिक्त एक समर्थन टिकट खोल सकते हैं।

AI बातचीत के लिए प्रतिक्रिया सबमिट करने के लिए:

1. इंजन विश्लेषण में, प्रतिक्रिया सबमिट करें पर क्लिक करें।

2. गलत सकारात्मक रिपोर्ट करने के लिए, ट्रिगर्ड डिटेक्टरों का उपयोग करें।

3. गलत नकारात्मक रिपोर्ट करने के लिए, उस प्रोफ़ाइल में सक्रिय डिटेक्टरों का समीक्षा करने के लिए सभी डिटेक्टरों का उपयोग करें।

4. संबंधित डिटेक्टर या डिटेक्टरों का चयन करें।

5. अतिरिक्त संदर्भ प्रदान करने के लिए मुफ़्त-पाठ टिप्पणियाँ जोड़ें।

6. आपत्कालीन मुद्दों के लिए, समर्थन टिकट खोलें चुनें।

7. प्रस्तुत करें पर क्लिक करें।