Note: This is an Early Availability (EA) feature that is only available for limited release. For more information, contact your Cato Networks representative or send an email to ea@catonetworks.com.
إجمال
توفر كاشفات النصوص الحرة إمكانية تحديد المحتوى أو السلوك الذي يتعرف عليه Cato في تفاعلات الذكاء الاصطناعي باستخدام اللغة الطبيعية. يمكنك ضبط الكشف لتلبية متطلبات مؤسستك، مثل حماية المعلومات الخاصة، تحديد الطلبات المحظورة، أو الحفاظ على تطبيق الذكاء الاصطناعي ضمن نطاقه المقصود.
يستخدم تدفق الإنشاء الموجه نموذج لغة كبير (LLM) للمساعدة في توضيح متطلبات الكشف الخاصة بك. بعد وصف ما تريد الكشف عنه، يقدم لك النظام شروطًا لتسميتها كـ انتهاك أو آمن. تساعد إجاباتك في تحديد ما يشير إليه الكاشف وما يستثنيه، خاصة في الحالات الحدودية حيث يمكن أن يكون نفس الطلب مقبولاً لدى مؤسسة ويمثل انتهاكًا لمؤسسة أخرى.
يساعدك هذا الإجراء في تحديد الثغرات في تعليماتك، توضيح الحالات الحدودية، وتقليل الإيجابيات الكاذبة. ثم أضف الكاشف إلى ملف تعريف المحرك وطبق الملف التعريفي على قاعدة السياسة. يحدد الكاشف المحتوى المطابق، وتحدد القاعدة الإجراء.

حالة الاستخدام: الحفاظ على روبوت المحادثة الخاص بالتجزئة مركّزًا على منتجاتك وخدماتك
تعد شركة ABC بائعًا عبر الإنترنت يقدم روبوت دردشة للعملاء. تريد من العملاء الاستفسار عن منتجاتك، وأسعارك، وخدماتك بينما تمنعهم من استخدام روبوت الدردشة للبحث عن المنافسين.
أنشئ كاشف نص حر وحدد التحكم في النطاق. في التعليمات، تصف الغرض المقصود من روبوت الدردشة وتحدد أن الطلبات بالبحث عن بائعي تجزئة آخرين أو مقارنة عروضهم مع شركة ABC تعد انتهاكات.
خلال مرحلة التحسين، تصنف الشروط المتعلقة بالأسئلة حول أسعار شركة ABC كـ آمن. تُصنّف الشروط المتعلقة بمقارنات الأسعار مع بائع تجزئة آخر كـ انتهاك. على سبيل المثال:
| مثال للتعليمات | تسمية |
|---|---|
| كم تبلغ تكلفة المنتج X في شركة ABC؟ | آمن |
| هل تقدم شركة ABC توصيل مجاني للمنتج X؟ | آمن |
| كيف تقارن أسعار المنتج X في شركة ABC بأسعار شركة XYZ؟ | انتهاك |
| هل يمكنني شراء المنتج X بسعر أقل لدى بائع تجزئة آخر؟ | انتهاك |
تساعد هذه التمييزات في الحفاظ على تركيز روبوت المحادثة على دعم تجربة التسوق الخاصة بعملائك مع شركة ABC. قم باختبار الكاشف عن طريق زيارة ملف تعريف المحرك في الملعب قبل تطبيق الملف التعريفي على قاعدة سياسة تفاعل الحراس.
أنشئ كاشف النص الحر
يشمل تدفق الإنشاء أربع مراحل: الاسم والنوع، التعليمات، التحسين، والملخص.
اختر نوع الكاشف الذي يتناسب مع هدفك:
| نوع الكاشف | الغرض |
|---|---|
| التحكم في النطاق | حدد التعليمات التي يحاول المستخدمون من خلالها إخراج تطبيق الذكاء الاصطناعي الخاص بك خارج نطاقه المقصود |
| المواضيع المحددة والنوايا | حدد التعليمات المتعلقة بموضوعات أو أهداف محظورة بموجب سياسة مؤسستك |
| البيانات الحساسة الخاصة | حدد المعلومات الخاصة بالمؤسسة في التعليمات، مثل تفاصيل المنتجات المملوكة، أو أسماء المشروعات الرمزية، أو أسماء الأنظمة الداخلية |
لإنشاء كاشف النص الحر:
-
من قائمة التنقل، اختر الأمن الاصطناعي > ملفات تعريف المحرك.
-
حدد علامة التبويب كاشفات النص الحر.
-
انقر على كاشف جديد.
-
في خطوة الاسم والنوع، أدخل اسم الكاشف.
-
حدد حالة الاستخدام للكاشف التي تتوافق مع هدفك.
-
انقر على الزر التالي، واستمر إلى خطوة التعليمات.
تحديد تعليمات الكاشف
في خطوة التعليمات، صف المحتوى الذي تريد من الكاشف تحديده. اكتب باللغة الإنجليزية باستخدام ما بين 20 و 3,200 حرف.
ركز على استخدام حالة واحدة واضحة. استخدم الجمل الكاملة لشرح المحتوى والسياق والاستثناءات ذات الصلة. تساعد التعليمات المحددة على التمييز بين الانتهاكات والمحتوى الذي تعتبره آمناً.
لحالة استخدام روبوت المحادثة في البيع بالتجزئة، يمكنك إدخال:
يساعد روبوت المحادثة العملاء في منتجات شركة ABC، التسعير، العروض الترويجية، التسليم، المرتجعات، والخدمات الأخرى. عامل الأسئلة حول هذه المواضيع على أنها آمنة.
اكتشف الطلبات خارج هذا النطاق، بما في ذلك المواضيع الغير مرتبطة والطلبات للبحث عن منتجات أو أسعار أو عروض ترويجية أو خدمات لتجار آخرين. عامل الطلبات لمقارنة عروض شركة ABC مع تاجر آخر أو إيجاد سعر أقل في مكان آخر كخروقات، حتى لو تم ذكر شركة ABC أيضا.
لتعريف تعليمات الكاشف:
-
في خطوة التعليمات، صف ما يحدده الكاشف وأي استثناءات ذات صلة.
-
راجع التعليمات للمصطلحات الغامضة أو الأهداف الغير مرتبطة بالاكتشاف. تعريف المعلومات أو المصطلحات الداخلية المستخدمة.
-
أدخل تعليمات الكاشف.
-
انقر على التالي وتابع إلى خطوة التنقيح.
تنقيح الكاشف
يولد النظام شروطاً بناءً على تعليماتك. كل شرط يصف حالة تساعد في توضيح الحدود بين الخرق والمحتوى الآمن. يساعد هذا في التمييز بين الكشفات الفعلية والإيجابيات الكاذبة.
صنف كل شرط وفقًا لمتطلبات مؤسستك:
-
الخرق: يقوم الكاشف بتحديد المحتوى الذي يستوفي الشرط
-
آمن: يقوم الكاشف باستبعاد المحتوى الذي يستوفي الشرط
راجع الشروط ذات الصلة المقبولة بعناية. يساعد تصنيف هذه الشروط على أنها آمنة في تقليل الإيجابيات الكاذبة.
تظهر إشارة قوة الكاشف في الزاوية العلوية اليمنى مدى جودة تحسين معايير الكاشف للتمييز بين الخروقات والمحتوى الآمن.
لتنقيح الكاشف:
-
في الخطوة تنقيح، راجع كل شرط مُولد.
مرر فوق أيقونة المعلومات بجانب شرط لعرض نموذج طلب. -
حدد خرق أو آمن لكل شرط.
-
(اختياري) انقر على إضافة يدويًا لإضافة شرط يعالج شرط مطلوب مفقود، ووسمته كـ خرق أو آمن.
-
إذا لم تعكس الشروط المُولدة هدفك، عد إلى التعليمات وراجع الوصف. تولّد تغيير التعليمات مجموعة جديدة من الشروط.
-
انقر على التالي وواصل إلى الخلاصة.
-
راجع تكوين الكاشف وانقر على حفظ لإنشاء الكاشف النصي الحر.
اختبار وتطبيق كاشف النصوص الحرة
أضف كاشف النصوص الحرة إلى ملف تعريف المحرك، ثم اختبر هذا الملف الشخصي في ملعب المحرك. قم بتضمين الطلبات التي تتوقع أن تؤدي إلى خرق والطلبات ذات الصلة التي تتوقع أن تبقى آمنة.
راجع النتائج واضبط تعليمات الكاشف أو ملصقات الشروط حسب الحاجة قبل تطبيق الملف الشخصي على قواعد سياسة الإنتاج.
للحصول على تعليمات مفصلة، انظر:
-
تكوين ملفات تعريف الأمان للذكاء الاصطناعي لإضافة الكاشف إلى ملف تعريف
-
اختبار ملفات تعريف المحرك في الملعب لاختبار سلوك الاكتشاف
-
العمل مع سياسة تفاعل المستخدم لتطبيق الملف الشخصي على استخدام الذكاء الاصطناعي للموظفين
-
العمل مع سياسة تفاعل الحراس لتطبيق الملف الشخصي على تطبيقات الذكاء الاصطناعي المخصصة