تستطيع التطبيقات الذكية المخصصة معالجة المحفزات التي تحتوي على بيانات حساسة، أو محتوى غير آمن، أو محاولات الهجوم، أو طلبات تنتهك سياسات استخدام الذكاء الاصطناعي في مؤسستك. حظر الوصول إلى هذه التطبيقات يمكن أن يقلل من المخاطر، إلا أنه قد يحد أيضًا من قيمة سير عمل الذكاء الاصطناعي المعتمد.
تتيح لك سياسة تفاعل الحراس التحكم في كيفية تعامل الحراس المحددين مع التفاعلات مع الذكاء الاصطناعي من خلال فحص المحتوى في الوقت الحقيقي وتطبيق الإجراءات عند اكتشاف المحتوى الخطير أو غير المتوافق. بدلاً من تطبيق نفس الحماية على كل سير عمل محمي، يمكنك إنشاء قواعد دقيقة للحراس المختارين وتعيين ملفات التعريف والمحركات التي تطابق متطلبات الأمان لكل تطبيق.
باستخدام قواعد سياسة تفاعل الحراس، يمكنك كشف أو حجب أو إخفاء أو مراقبة التفاعلات مع الذكاء الاصطناعي استنادًا إلى متطلبات أمن وحوكمة مؤسستك. يساعدك ذلك على حماية المعلومات الحساسة وفرض سياسات استخدام الذكاء الاصطناعي للتطبيقات التي تبنيها دون تعطيل الاستخدام الشرعي للأعمال.
تهيئة سياسات تفاعل الحراس
قبل إنشاء القواعد، قم بتمكين سياسة تفاعل الحراس للمستخدمين النهائيين في تطبيق إدارة كاتو.
لتمكين السياسة:
من قائمة التنقل، اختر أمان الذكاء الاصطناعي.
ضمن أمان تطبيقات الذكاء الاصطناعي، اختر سياسة تفاعل الحراس
قم بتفعيل خيار سياسة تطبيقات الذكاء الاصطناعي.
تهيئة قاعدة سياسة تفاعل الحراس
تعرف وتقييم قواعد سياسة تفاعل الحراس بغض النظر عن موقعها في قاعدة القواعد. إذا تم تفعيل أكثر من قاعدة، سيتم تطبيق الإجراء الأكثر تشددًا. على سبيل المثال، إذا كانت هناك قاعدة بإجراء المراقبة وأخرى بإجراء الحظر، سيتم تطبيق إجراء الحظر.
لإنشاء قاعدة:
من صفحة سياسة تفاعل الذكاء الاصطناعي، انقر على جديد.
في قسم عام، قم بتكوين الحقول، مثل الاسم والوصف، بالإضافة إلى موقع القاعدة.
في قسم الحراس، اختر الحراس المحددين الذين تنطبق عليهم القاعدة، أو انقر على تحديد الكل لتطبيق القاعدة على جميع الحراس.
في قسم بروفايل المحرك، حدد البروفايل المستخدم لتقييم محفزات الذكاء الاصطناعي.
بروفايلات المحرك هي نوع البيانات التي يتم فحص المحتوى بناءً عليها. على سبيل المثال، معرفة ما إذا كانت هناك أرقام الضمان الاجتماعي مدرجة في المحفز.
في قسم الإجراء، حدد الإجراء الذي سيتم تطبيقه عندما يتطابق المحفز مع ملف التعريف للمحتوى، مثل الحظر.
لتحديد نطاق القاعدة، اختر على الأقل اتجاه واحد لتطبيق القاعدة عليه.
انقر فوق حفظ.