الأمان الذكاء الاصطناعي للمستخدمين النهائيين - المراقبة والتحليلات مع مستكشف الجلسة

تتيح لك صفحة مستكشف الجلسات مراقبة كيفية استخدام تطبيقات الدردشة بالذكاء الاصطناعي عبر مؤسستك وتقييم المخاطر المحتملة للتعرض للبيانات من خلال مطالبات المستخدم. بعد تمكين أمان الذكاء الاصطناعي، توفر الصفحة رؤية نحو الطلبات المرسلة إلى التطبيقات المدعومة والمفعلة للذكاء الاصطناعي، مما يساعدك على فهم أنماط الاستخدام والتحقق من التفاعلات المعرضة للمخاطرة.

كل تفاعل يمثل طلباً واحداً ويشتمل على معلومات سياقية مثل تطبيق الذكاء الاصطناعي المستلم للطلب والموضوع المكتشف والنية.

الاكتشافات

عند تحديد قواعد أمان الذكاء الاصطناعي مع إجراء مراقبة، تظهر الطلبات المطابقة على صفحة تفاعلات الذكاء الاصطناعي مع مؤشر الكشف. لهذه التفاعلات:

• تُظهر عمود الكشف ملف تعريف المراقبة الذي أطلق الكشف.

• يمكنك تحديد بسرعة أي قاعدة مراقبة تطابقت مع المطالبة.

تساعدك هذه المعلومات على التحقق من تغطية القواعد وتحسين سياساتك.

عند الخوض في تفاعل محدد، يعتمد مستوى التفاصيل المتاح على الأذونات المخصصة لك. المسؤولون الذين لديهم إذن  قراءة المحتوى الحساس  يمكنهم عرض الرسالة الفعلية التي تم إرسالها إلى تطبيق الذكاء الاصطناعي. إذا كان الطلب يحتوي على محتوى مشبوه، فإنه يتم تمييز الأقسام ذات الصلة أو تسليط الضوء عليها. عند احتواء إجراء القاعدة على منع، تظهر تفاصيل التفاعل صفحة الحظر المعروضة للمستخدم.

لمزيد من المعلومات حول الأدوار والأذونات، طالع إدارة أدوار المسؤول باستخدام RBAC.

ملاحظة: العمليات، مثل عرض الطلب، تسجل في سجل التدقيق.

حالة الاستخدام - فهم كيفية استخدام الموظفين لمحادثات الذكاء الاصطناعي

تمكن شركة ABC أمان الذكاء الاصطناعي لاكتساب الرؤية حول كيفية استخدام الموظفين لتطبيقات الدردشة بالذكاء الاصطناعي في عملهم اليومي. من خلال مراجعة التفاعلات على صفحة تفاعلات الذكاء الاصطناعي، يمكن لفريق الأمن رؤية أنواع الأسئلة والطلبات التي يقدمها المستخدمون لأدوات الذكاء الاصطناعي.

تساعد هذه الرؤية مؤسستك على فهم أنشطة الموظفين بشكل أفضل، تحديد فجوات المعرفة الشائعة أو الاحتياجات المتكررة للمساعدة، وتحديد المجالات التي يمكن أن يعزز فيها التوجيه، التدريب، أو التمكين تحسين الإنتاجية مع تقليل المخاطر.

تحليل التفاعل الذكاء الاصطناعي

استخدم تفاصيل الجلسة لتحليل تفاعل الذكاء الاصطناعي محدد حتى تتمكن من فهم السياق الكامل، التحقق من الاكتشافات، وتحديد المشاكل التي تتطلب التغذية أو المتابعة.

لتحليل تفاعل الذكاء الاصطناعي:

1. من قائمة التنقل، انقر على أمان الذكاء الاصطناعي > مستكشف الجلسات.

2. اختر التفاعل الذي تريد التحقيق فيه وانقر على كشف الجلسة لعرض محتوى الجلسة.

3. راجع تسلسل المحفز والاستجابة لفهم السياق الكامل للتفاعل.

4. للمتابعة في التحقيق لمحفز معين، انقر على عرض التحليل. يفتح تقرير تحليل المحرك.

مراجعة تقرير التحليل

يوفر تقرير تحليل المحرك عرضًا مفصلاً لكيفية تقييم المطالبة المحددة بواسطة محرك أمان الذكاء الاصطناعي في الوقت الذي تم إرساله فيه. يُبرز التقرير القواعد والملفات الشخصية والكاشفات التي كانت نشطة أثناء التنفيذ، مما يساعدك على فهم كيفية تحديد الاكتشافات. يتضمن كل تقرير هوية تحليل، والتي يمكنك استخدامها كمرجع أو للبحث في مستكشف الجلسة، أو عند العمل مع الدعم.

داخل التقرير، يتم تمثيل الاكتشافات بصريًا:

• ملف شخصي ذو لون أصفر يشير إلى حدوث اكتشاف. هذا يعني أنه تم تنفيذ قاعدة بهذا الملف الشخصي، وقدم على الأقل كاشف واحد مطابقة.

• لون أخضر ملف شخصي يشير إلى عدم حدوث اكتشاف، حتى وإن تم تنفيذ القاعدة.

لتعزيز التحقيق في السلوك، يمكنك النقر فوق افتح في ملعب المحرك وأعد تشغيل الجلسة بأكملها. هذا يسمح لك بفحص كيفية سلوك الملفات الشخصية الحالية وضبط التكوينات إذا كان الناتج يختلف عن توقعاتك. 

عند مراجعة تقرير التحليل، كن واعياً بأن التكوينات قد تم تحديثها منذ وقت التنفيذ. نتيجة لذلك، قد يختلف التعريف الحالي عما كان مطبقًا عند تقييم التنبيه في الأصل.

إرسال الملاحظات

عند عدم دقة نتائج الكشف بشأن محفز ما، يمكنك إرسال ملاحظات لمساعدة كاتو في تقييم الكشف. للحالات الإيجابية الخاطئة، قم بمراجعة الكشف المشغّل الذي تطابق بشكل خاطئ مع المحفز. إذا كان ينبغي للمكشاف أن يتم تشغيله ولم يفعل، قم بمراجعة كل المكشافات لتحديد أي منها كان نشطًا عندما تم إرسال هذا المحفز.

أضف تعليقًا نصيًا لشرح النتيجة المتوقعة وتقديم أي سياق قد يساعد التحقيق. كاتو يراجع هذه الملاحظات ويستخدمها لتحسين جودة المكشافات مع مرور الوقت.

للقضايا الحرجة، يمكنك فتح تذكرة دعم بالإضافة إلى تقديم الملاحظات.

لإرسال ملاحظة بشأن تفاعل الذكاء الاصطناعي:

1. في تحليل المحرك، انقر على إرسال الملاحظات.

2. للإبلاغ عن إيجابية خاطئة، استخدم المكشافات المشغّلة.

3. للإبلاغ عن سلبية خاطئة، استخدم كل المكشافات لمراجعة المكشافات النشطة في البروفايل لذلك المحفز.

4. اختر المكشاف أو المكشافات ذات الصلة.

5. أضف تعليقًا نصيًا لتوفير سياق إضافي.

6. للمسائل العاجلة، اختر فتح تذكرة دعم.

7. انقر على إرسال.