العمل مع سياسة تفاعل المستخدمين

التعيين

غالبًا ما يتفاعل المستخدمون مع تطبيقات الدردشة التي تعتمد على الذكاء الاصطناعي كجزء من عملهم اليومي، دون النظر الكامل إلى المخاطر المتعلقة بالأمان والامتثال أو كشف البيانات. يمكن أن يقلل الحظر الكامل للوصول إلى هذه الأدوات من المخاطر، ولكنه أيضًا يزيل الفوائد الإنتاجية التي توفرها سير العمل المستندة إلى الذكاء الاصطناعي.

تتيح لك سياسة تفاعل المستخدمين للذكاء الاصطناعي التحكم في كيفية تفاعل المستخدمين مع تطبيقات الدردشة الخاصة بالذكاء الصناعي عن طريق فحص المحفزات والمحتوى النصي في الملفات المرفقة في الوقت الحقيقي، ومن ثم الرد عند اكتشاف محتوى محفوف بالمخاطر. بدلاً من حظر محادثات الذكاء الاصطناعي تمامًا، يمكنك تطبيق حماية دقيقة تساعد على منع كشف البيانات الحساسة، وانتهاكات السياسات، ومخاطر الامتثال مع الاستمرار في السماح باستخدام الذكاء الاصطناعي الموافق عليه. كل قاعدة تقوم بفحص الحركة عبر إضافة للمتصفح أو دمج API مباشر أو البنية التحتية للشبكة الحالية لديك، حتى يمكنك مطابقة التغطية مع تطبيقات الذكاء الاصطناعي والأجهزة التي تحتاج إلى الحماية.

حدد قواعد تفاعل المستخدمين لحظر أو إخفاء أو تنبيه أو مراقبة أنواع معينة من محتوى المحفزات بناءً على متطلبات الأمان والحكم في مؤسستك. تُمكّنك هذه المقاربة من حماية المعلومات الحساسة وفرض سياسات استخدام الذكاء الاصطناعي دون عرقلة الاستخدام الشرعي والمنتج لأدوات الذكاء الاصطناعي.

ملاحظة: عند استخدام وحدة تكامل واجهة برمجة التطبيقات لتأمين الذكاء الاصطناعي، فإن سياسة تفاعل المستخدمين تدعم مراقبة الأفعال فقط.

المتطلبات السابقة

• يجب تمكين فحص TLS على مستوى الحساب لتتمكن سياسات التفاعل مع الذكاء الاصطناعي من فحص حركة مرور الذكاء الاصطناعي. إذا كان فحص TLS معطلاً للحساب، فإن سياسة تفاعل المستخدمين لا تفحص حركة المرور الخاصة بالذكاء الاصطناعي.

• تقوم قواعد سياسة تفاعل المستخدمين بفحص حركة المرور الخاصة بالذكاء الاصطناعي بالاستناد إلى إعدادات فحص TLS على مستوى الحساب ولا تتطلب قاعدة فحص TLS محددة.

• تأخذ قواعد سياسة التفاعل مع الذكاء الاصطناعي أولوية على سياسات فحص TLS وتفحص حركة المرور المشفرة حتى عند تكوين قاعدة تجاوز TLS للتطبيق أو الوجهة.

• يجب تفعيل جدار الحماية للإنترنت لفحص حركة الشبكة، ويجب أن تتأكد من أن القاعدة الافتراضية لـ QUIC مفعلة في جدار الحماية للإنترنت.

تهيئة سياسة تفاعل المستخدمين

تمكين السياسة

قبل إنشاء القواعد، قم بتمكين سياسات تفاعل المستخدمين للمستخدمين النهائيين في تطبيق إدارة كاتو.

لتمكين سياسات تفاعل الذكاء الاصطناعي للمستخدمين النهائيين:

1. From the navigation menu, click AI Security > User Interaction Policy.

2. قم بتفعيل زر التبديل سياسة تفاعل المستخدمين.

فهم أنواع الاعتراض

كل قاعدة في سياسة تفاعل المستخدم تستخدم "نوع اعتراض" لتحديد كيفية فحص كاتو لحركة مرور الذكاء الاصطناعي لتلك القاعدة بناءً على التطبيقات الذكاء الاصطناعي التي تحتاج إلى تغطيتها ومستوى الإنفاذ المطلوب.

• البرنامج المساعد للمتصفح: ملحق خفيف الوزن للمتصفحات مثل كروم وإيدج، يتم نشره عبر حل الإدارة المدمج لديك. يقوم بفحص حركة مرور تطبيقات الذكاء الاصطناعي مباشرة في المتصفح، مما يوفر رؤية موثوقة لمن يستخدم أي أدوات الذكاء الاصطناعي، بما في ذلك الأجهزة الغير مُدارة التي لا تمر عبر شبكتك. يتم فحص حركة المرور في الخط، ولهذا يمكن أن يحجب هذه الطريقة حركة مرور الذكاء الاصطناعي.

• الشبكة: يعمل مع بنية تحتية كاتو السحابية مثل كاتو العميل ومتصفح المشاريع أو المقبس. بالنسبة للحسابات التي تم نشر كاتو العميل للمستخدمين فيها، لا يتطلب هذا النوع من الاعتراض أي نشر أو إعدادات إضافية. يتم فحص حركة المرور في الخط، وهذا يعني أن هذه الطريقة يمكنها حجب حركة مرور الذكاء الاصطناعي.

• التكامل مع API: يتصل مباشرة بتطبيقات الذكاء الاصطناعي المعتمدة من الشركات، على سبيل المثال، تكاملات مع Microsoft أو GitHub أو Anthropic عبر API الخاص بهم. توفر هذه الطريقة المراقبة والتنبيه بشأن انتهاكات السياسة في وقت شبه الحقيقي، ولكن لا يقوم بحجب حركة المرور. تم تصميمه لرؤية التطبيقات الذكية الموثوقة والموافقة عليها بالفعل بدلاً من الإنفاذ.

فهم فحص ملحقات الملفات

يمكن لسياسة تفاعل المستخدم فحص المحتوى المعتمد المستند إلى النصوص في الملفات التي يقوم المستخدمون بإرفاقها إلى الطلبات في التطبيقات الذكاء الاصطناعي المدعومة. يعمل فحص ملحقات الملفات بشكل مستقل عن DLP ويطبق سياسة تفاعل المستخدم على المحتوى المستخرج من الملف المرفق.

فحص ملحقات الملفات مدعوم لـ ChatGPT وGemini وCopilot وClaude.

يحتوي فحص ملحقات الملفات على القيود التالية:

• ملفات تصل إلى 10 ميجابايت مدعومة

• ملفات نصية مدعومة، على سبيل المثال، TXT وJSON وXLS وPDF وDOCX. OCR وملفات الصور والرسومات غير مدعومة

• يتم دعم إجراءات الحظر والمراقبة فقط لمحتوى الملفات. إخفاء الهوية غير مدعوم لمحتوى الملفات

• يقيم فحص الملف محتوى الملف المختار، لذلك قد يختلف الكشف عند ظهور محتوى خطير في الأجزاء التي لم يتم فحصها.

• فحص ملحقات الملفات مدعوم فقط لـ أمن الذكاء الاصطناعي للمستخدمين

تهيئة قاعدة سياسة تفاعل المستخدمين

لإنشاء قاعدة سياسة تفاعل المستخدمين:

1. From the navigation menu, click AI Security > User Interaction Policy.

2. انقر على جديد، وحدد نوع التفاعل للقاعدة.

3. في القسم عام، قم بتكوين الحقول، مثل الاسم والوصف.

4. في القسم المصدر، اختر المستخدمين أو المجموعات التي تنطبق عليها القاعدة، أو اترك الخيار أي لتطبيق القاعدة على جميع المصادر.

5. في القسم التطبيقات، اختر التطبيقات الذكاء الاصطناعي التي تنطبق عليها القاعدة، أو اترك الخيار أي لتطبيق القاعدة على جميع التطبيقات المدعومة.

6. في قسم بروفايلات المحرك، اختر البروفايل المستخدم لتقييم محفزات الذكاء الاصطناعي.

7. في القسم الإجراء، اختر الإجراء لتطبيقه عندما يتطابق الطلب مع ملف تعريف المحتوى، مثل الحظر.

   إذا كنت تقوم بإنشاء قاعدة API، فإن الإجراء الوحيد المتاح هو المراقبة.

8. (اختياري) اختر نموذج إشعار لإخطار المستخدمين عند تنفيذ الإجراء.

9. Click Save. The panel closes, and the settings are updated in the policy.
   The changes are saved to your unpublished revision and are available for editing until they are published or discarded.

10. انقر نشر. تفتح نافذة تأكيد، انقر على نشر.

فهم الإجراءات

سياسة التفاعل مع الذكاء الاصطناعي تدعم الإجراءات التالية لكل قاعدة:

• حظر- يتم حظر الطلب ولا يتم إرسال أي معلومات إلى موردي الذكاء الاصطناعي.

• مراقبة- يتم إرسال الطلب إلى موردي الذكاء الاصطناعي ويتم متابعة التفاعل.

• إخفاء وحجب- إذا كان ملف محركات البحث الذي اخترته يتضمن كاشفات التي:

  • دعم إخفاء المحتوى، يتم إخفاء المحتوى وإرساله.

  • لا يدعم إخفاء المحتوى، يتم حظر الطلب.

• إخفاء ومراقبة- إذا كان ملف محركات البحث الذي اخترته يتضمن كاشفات التي:

  • دعم إخفاء المحتوى، يتم إخفاء المحتوى وإرساله.

  • لا تدعم إخفاء الهوية للمحتوى. يتم إرسال الإشارة إلى مزود الذكاء الاصطناعي ويتم مراقبة التفاعل.

ملاحظة: إخفاء الهوية مدعوم فقط للمحتوى النصي الذي يمكن للكاشف إخفاءه. عندما تختار إجراء إخفاء الهوية، يقوم كاتو بإخفاء المحتوى المدعوم. بالنسبة للمحتوى الذي لا يمكن إخفائه، بما في ذلك محتوى الملفات، يطبق كاتو الإجراء الآخر في القاعدة: الحظر أو المراقبة.