التعامل مع حراس الأمن بالذكاء الاصطناعي

يساعدك حراس الأمن الذكي في حماية وإدارة التطبيقات المدعومة بالذكاء الاصطناعي التي تبنيها، وفرض ضوابط الأمان أثناء التشغيل. تسمح لك بفرض قواعد لفحص والتحكم في حركة المرور بين التطبيقات الذكية التي تبنيها، المستخدمين، والنماذج الذكية المدعومة. تستخدم الحراس لاكتشاف الإشارات الضارة، المحتوى الغير آمن، والإفشاء غير المقصود للبيانات الحساسة قبل أن تؤثر على تطبيقك. توفر الحراس أيضًا رؤى حول كيفية استخدام التطبيقات الذكية، مما يمكنك من مراقبة الانتهاكات وفرض السياسات التنظيمية بنقطة تحكم متسقة.

يعمل الحارس كطبقة تنفيذ لأمن الذكاء الاصطناعي. يقيم الإشارات، وعند الاقتضاء، يجيب على ذاك النموذج في مواجهة الاكتشافات والإجراءات التي قمت بتكوينها في سياستك. بناءً على تطابق السياسة، يمكن للحارس السماح، حظر، أو تسجيل التفاعل.

كيفية عمل الحراس

يفحص الحراس حركة الذكاء الاصطناعي ويقارنها بالاكتشافات والإجراءات المعرفة في سياستك. يتيح لك هذا تطبيق ضوابط الحماية والحكم على التفاعلات الذكية قبل وصول الحركة إلى مزود النموذج، وفي بعض الحالات، قبل أن يُعاد الرد إلى المستخدم.

تدفق الحركة

يدعم الذكاء الاصطناعي نماذج التدفق المختلفة بناءً على كيفية تكامل تطبيقك مع الحارس.

• وضع الوكيل - في هذا الوضع، يجلس الحارس بشكل متزامن بين التطبيق ومزود الذكاء الاصطناعي. يرسل تطبيقك الطلبات عبر الحارس، الذي يوجه الحركة إلى المزود بعد تقييم المحتوى وفقًا للمعلومات السياسية.

  يتيح لك هذا الوضع تطبيق الضوابط مباشرة في مسار الحركة. يمكن للحارس فحص الطلب قبل أن يصل إلى المزود، وحيثما يكون مدعومًا، فحص الرد قبل أن يُعاد إلى التطبيق. يوفر لك هذا نقطة تطبيق مباشرة للحماية في الوقت الحقيقي والرؤية.

  

• وضع API - في وضع API، يتفاعل تطبيقك مع الحارس عبر تكامل قائم على واجهة برمجة التطبيقات بدلاً من توجيه الحركة عبر وكيل متزامن. يرسل التطبيق المحتوى بشكل ملائم إلى الحارس للتقييم كجزء من تدفق التطبيق.

  يوفر لك هذا الوضع مزيدًا من المرونة للبيئات التي لا تكون فيها النشر المتزامن هو الهندسة المفضلة. لا يزال الحارس يقيم المحتوى وفقًا للمعلومات السياسية، لكن تدفق التنفيذ يعتمد على كيفية تكامل التطبيق مع الحارس.

  

ماذا يكتشف الحارس ويطبق

يمكنك استخدام الحراس لاكتشاف وتطبيق السياسة لمجموعة من المخاطر المتعلقة بالذكاء الاصطناعي، بما في ذلك:

• محاولات حقن الإشارات

• المحتوى الغير آمن أو المحظور

• تعريض البيانات الحساسة، مثل المعلومات الشخصية التي يمكن التعرف عليها (PII) أو المعلومات الصحية المحمية (PHI)

• انتهاكات المواضيع أو الاستخدام بناءً على سياسة الشركة

• التفاعلات المشبوهة أو الغير ممتثلة للقواعد

عندما يكتشف الحارس تطابق، ينفذ الإجراء الذي تم تكوينه في السياسة. على سبيل المثال، يمكن للحارس حظر طلب، السماح به، أو تسجيل الحدث للمراقبة والتحقيق.

حالة الاستخدام - حماية مساعد AI الداخلي

تستخدم شركتك مساعدًا ذكيًا داخليًا لمساعدة الموظفين في البحث في المستندات الداخلية وتلخيص المحتوى. لتقليل خطر تعريض البيانات الحساسة، هجوم حقن الإشارات، وانتهاكات السياسة، تطبق حارس أمان الذكاء الاصطناعي على حركة التطبيق.

يفحص الحارس الإشارات، وعند الاقتضاء، الردود وفقًا لسياسة الأمان الذكية. يمكنك اكتشاف التفاعلات الغير آمنة أو الغير ممتثلة وحظرها أو تسجيلها قبل أن يصل المحتوى إلى مزود الذكاء الاصطناعي أو يُعاد إلى المستخدم.

المزودون المدعومون

يدعم وضع الوكيل المزودين وتنسيقات API التالية.