التعيين
غالبًا ما يتفاعل المستخدمون مع تطبيقات الدردشة التي تعتمد على الذكاء الاصطناعي كجزء من عملهم اليومي، دون النظر الكامل إلى المخاطر المتعلقة بالأمان والامتثال أو كشف البيانات. يمكن أن يقلل الحظر الكامل للوصول إلى هذه الأدوات من المخاطر، ولكنه أيضًا يزيل الفوائد الإنتاجية التي توفرها سير العمل المستندة إلى الذكاء الاصطناعي.
تتيح لك سياسة تفاعل المستخدمين لتأمين الذكاء الاصطناعي التحكم في كيفية تفاعل المستخدمين مع تطبيقات الدردشة الخاصة بالذكاء الاصطناعي من خلال فحص المحفزات والتصرف عند اكتشاف المحتوى المحفوف بالمخاطر. بدلاً من حظر محادثات الذكاء الاصطناعي تمامًا، يمكنك تطبيق حماية دقيقة تساعد على منع كشف البيانات الحساسة، وانتهاكات السياسات، ومخاطر الامتثال مع الاستمرار في السماح باستخدام الذكاء الاصطناعي الموافق عليه.
حدد قواعد تفاعل المستخدمين لحظر أو إخفاء أو تنبيه أو مراقبة أنواع معينة من محتوى المحفزات بناءً على متطلبات الأمان والحكم في مؤسستك. تُمكّنك هذه المقاربة من حماية المعلومات الحساسة وفرض سياسات استخدام الذكاء الاصطناعي دون عرقلة الاستخدام الشرعي والمنتج لأدوات الذكاء الاصطناعي.
ملاحظة: عند استخدام وحدة تكامل واجهة برمجة التطبيقات لتأمين الذكاء الاصطناعي، فإن سياسة تفاعل المستخدمين تدعم مراقبة الأفعال فقط.
المتطلبات السابقة
يجب تمكين فحص TLS على مستوى الحساب لتتمكن سياسات التفاعل مع الذكاء الاصطناعي من فحص حركة مرور الذكاء الاصطناعي. إذا كان فحص TLS معطلاً للحساب، فإن سياسة تفاعل المستخدمين لا تفحص حركة المرور الخاصة بالذكاء الاصطناعي.
تقوم قواعد سياسة تفاعل المستخدمين بفحص حركة المرور الخاصة بالذكاء الاصطناعي بالاستناد إلى إعدادات فحص TLS على مستوى الحساب ولا تتطلب قاعدة فحص TLS محددة.
تأخذ قواعد سياسة التفاعل مع الذكاء الاصطناعي أولوية على سياسات فحص TLS وتفحص حركة المرور المشفرة حتى عند تكوين قاعدة تجاوز TLS للتطبيق أو الوجهة.
تهيئة سياسة تفاعل المستخدمين
تمكين السياسة
قبل إنشاء القواعد، قم بتمكين سياسات تفاعل المستخدمين للمستخدمين النهائيين في تطبيق إدارة كاتو.
لتمكين سياسات تفاعل الذكاء الاصطناعي للمستخدمين النهائيين:
From the navigation menu, click AI Security > User Interaction Policy.
قم بتمكين زر التبديل سياسة تفاعل المستخدمين.
تهيئة قاعدة سياسة تفاعل المستخدمين
لإنشاء قاعدة سياسة تفاعل المستخدمين:
From the navigation menu, click AI Security > User Interaction Policy.
في القسم عام، قم بتكوين الحقول، مثل الاسم والوصف.
في القسم المصدر، اختر المستخدمين أو المجموعات التي تنطبق عليها القاعدة، أو اترك الخيار أي لتطبيق القاعدة على جميع المصادر.
في القسم التطبيقات، اختر التطبيقات الذكاء الاصطناعي التي تنطبق عليها القاعدة، أو اترك الخيار أي لتطبيق القاعدة على جميع التطبيقات المدعومة.
في قسم بروفايلات المحرك، اختر البروفايل المستخدم لتقييم محفزات الذكاء الاصطناعي.
في القسم الإجراء، اختر الإجراء لتطبيقه عندما يتطابق الطلب مع ملف تعريف المحتوى، مثل الحظر.
إذا كنت تقوم بإنشاء قاعدة API، فإن الإجراء الوحيد المتاح هو المراقبة.
(اختياري) اختر نموذج إشعار لإخطار المستخدمين عند تنفيذ الإجراء.
انقر فوق حفظ.
عندما يتطابق محفز مع المعايير المجهزة، يتم تنفيذ الإجراء المحدد.
فهم الإجراءات
سياسة التفاعل مع الذكاء الاصطناعي تدعم الإجراءات التالية لكل قاعدة:
حظر - يتم حظر الطلب ولا يتم إرسال أي معلومات إلى موردي الذكاء الاصطناعي.
المراقبة - يتم إرسال الطلب إلى موردي الذكاء الاصطناعي ويتم متابعة التفاعل.
إخفاء وحجب - إذا كان ملف محركات البحث الذي اخترته يتضمن كاشفات التي:
دعم إخفاء المحتوى، يتم إخفاء المحتوى وإرساله.
لا يدعم إخفاء المحتوى، يتم حظر الطلب.
إخفاء ومراقبة - إذا كان ملف محركات البحث الذي اخترته يتضمن كاشفات التي:
دعم إخفاء المحتوى، يتم إخفاء المحتوى وإرساله.
لا تدعم إخفاء الهوية للمحتوى. يتم إرسال الإشارة إلى مزود الذكاء الاصطناعي ويتم مراقبة التفاعل.