دليل تشغيل الأمان للذكاء الاصطناعي

إجمال

يسجل Cato AI Security نشاط المستخدم مع تطبيقات GenAI والاستدعاءات التي ترسلها وكالاتك المحلية إلى النماذج التي يستدعونها. تكون الأحداث مرئية في تطبيق إدارة Cato (CMA) في صفحة الرئيسية > الأحداث، ويمكن إعادة توجيهها إلى SIEM أو بحيرة بيانات أو منصة خارجية أخرى للاحتفاظ بها، ومطابقتها، والتنبيه عليها.

الأحداث تحمل بيانات وصفية فقط. المطالبات والاستجابات المتبادلة مع النموذج لا تُخزن في الحدث. يتم استرجاع المحتوى بشكل منفصل، عند الطلب، من واجهة API الخاصة بـCato بواسطة المتصل الذي لديه مفتاح API يحوي التصريح المطلوب.

لذلك فإن التحقيق في اكتشاف أمن AI هو سير عمل من خطوتين:

1. قم بتوجيه الأحداث إلى نظام الإدارة SIEM لديك. قم بتكوين دمج الأحداث، مفلترًا لنوع الحدث الأمني للذكاء الاصطناعي AI، بحيث تصل الأحداث إلى جانب بقية بيانات Cato الخاصة بك.

2. استخدم API لسحب المحتوى الحساس للأحداث التي تتطلب ذلك. عندما يتطلب حدث التحقيق، قم باستعلام API باستخدام المعرفات الموجودة على هذا الحدث لاسترجاع المطالبة واستجابة النموذج.

ملاحظة: يمكن مراجعة التفاعلات الأمنية للذكاء الاصطناعي AI، بما في ذلك المطالبات والاستجابات الحساسة مباشرة في CMA دون استخدام API. أمان AI للتطبيقات > مستكشف التفاعل يسرد الاستدعاءات لوكلاءك المصممون محليًا، وأمان AI للمستخدمين > مستكشف الجلسات يسرد جلسات المستخدمين مع تطبيقات GenAI. كلاهما يسمح لك بالتحقيق في سجل فردي. يُقصد API للتحقيقات التي تبدأ في SIEM الخاص بك، وللاسترجاع البرمجي.

أحداث كاتو

كل أحداث أمان AI تحمل نوع الحدث أمان AI. يحدد نوع الحدث الفرعي أي جزء من أمان AI أنشأ الحدث، ويحدد الحقول التي يحملها الحدث وأي استعلام API يعيد محتواه. مستكشف مخطط الأحداث التفاعلي متاح في مخطط أحداث كاتو.

حقول تفاعل مستخدم الذكاء الاصطناعي AI

ملاحظة: ليس كل حدث يحتوي على محتوى قابل للاستخراج. session_id و message_id يظهران فقط في الأحداث حيث يكون نوع النشاط التطبيق هو دعوة، كشف أو استجابة LLM. طلبات الويب وأحداث معاملة الملف لا تحملها.

حقول حماية تشغيل التطبيق

المصطلحات. ما يشير إليه CMA على أنه عامل محلي يُشار إليه كتطبيق في الحدث. تحدد الحقل application_id للعامل المحلي الذي يحميه الحارس.

إرسال الأحداث إلى SIEM

تقوم عمليات تكامل الفعاليات بإرسال بيانات حدث كاتو تلقائيًا إلى منصات خارجية ووجهات تخزين، بدون تصدير يدوي أو استقصاء مستمر. يتم تكوين التكاملات في الموارد > التكاملات > التكاملات المكونة في CMA. للإطلاع على لمحة عامة، انظر البدء باستخدام تكاملات الأحداث.

إذا كان التكامل المحلي غير متاح، يمكن استخدام تكامل Push HTTP مخصص لدفع الأحداث بصيغة JSON إلى الوجهة التي تختارها. يمكن تكوين رؤوس مخصصة، مما يجعله متوافقًا مع مجموعة واسعة من البائعين. لمزيد من المعلومات، انظر إرسال البيانات باستخدام التكامل المخصص لـ HTTP Push.

تصفية لأحداث أمان الذكاء الصناعي

بصرف النظر عن التكامل الذي تختاره، حدد نطاقه لأحداث أمان الذكاء الصناعي بدلاً من إرسال الحدث الكامل للحساب. يتم إجراء ذلك في مرشحات الأحداث، التي يتم بناؤها من مجموعة أو أكثر من مجموعات التصفية: يتم الجمع بين الشروط داخل المجموعة مع AND، ويتم الجمع بين المجموعات مع OR، لذلك يتم إرسال الحدث إذا كان يطابق أي مجموعة. أي حقل حدث متاح كشرط.

1. أضف مجموعة تصفية إلى مرشح الأحداث. في تكوين التكامل، افتح مرشح الأحداث وأضف مجموعة تصفية.

2. حدد شرط نوع الحدث. حقل نوع الحدث، القيمة أمان الذكاء الصناعي. هذا يحدد نطاق المجموعة لأحداث أمان الذكاء الصناعي لجميع الأنواع الفرعية.
    

3. (اختياري) حدد شرط النوع الفرعي. حقل نوع فرعي، بقيم تفاعل المستخدم مع الذكاء الصناعي وحماية تشغيل التطبيق، أو واحد فقط مطلوب من هذا التكامل. لأن كلا الشرطين في نفس المجموعة، يتم دمجهما مع AND، لذلك يتم إرسال أحداث أمان الذكاء الصناعي فقط للأنواع الفرعية المحددة.
   

4. (اختياري) توجه النوعين الفرعيين بشكل منفصل. مجموعة واحدة تحتوي على كل القيم ترسل النوعين الفرعيين إلى نفس الوجهة. لتسليمها إلى وجهات مختلفة، يمكنك تكوين تكاملين للأحداث، كل منهما لديه مجموعة محدودة لنوع فرعي واحد.

5. حدد نطاقًا أضيق، إذا لزم الأمر. يمكن إضافة شروط إضافية إلى نفس المجموعة لتقليل الحجم. على سبيل المثال، يمكن إضافة مرشح اسم الحارس لإرسال أحداث حماية تشغيل التطبيق التي تتوافق مع حارس محدد فقط.
    

سحب المحتوى الحساس باستخدام API

تستبعد أحداث أمان الذكاء الصناعي عمداً محتوى التفاعل: فهي لا تحتوي على الدعوات، استجابات النموذج، أو أي من بيانات الرسائل الخام التي تم تبادلها مع النموذج. يتم استخراج هذا المحتوى من واجهة GraphQL API الخاصة بـ كاتو، عند الطلب، وفقط من قبل المتصلين الذين يحمل مفتاح الـ API الخاص بهم الأذن المطلوب. يتوفر استعلامان، الواحد لكل نوع فرعي للحدث.

مفتاح API و الأذونات

الاستعلامات مصادق عليها بمفتاح كاتو الـ API الذي تم إنشاؤه في CMA. للتفاصيل حول كيفية إنشاء مفتاح الـ API، انظر إنشاء مفاتيح API لواجهة برمجة التطبيقات الخاصة بـ Cato.

يتم التحكم في الوصول إلى محتوى التفاعل عن طريق أذونات RBAC على المفتاح:

نقطة نهاية ومخطط API

عنوان URL لنقطة نهاية ومخطط API خاص بالموقع الذي تستضيف فيه مثيل تطبيق إدارة كاتو (CMA). قد يتم إلحاق قيمة <prefix> بعنوان URL الخاص بحساب CMA ونقطة النهاية ومخطط API.

البادئات للمناطق المختلفة من CMA

حدد البادئة من عنوان URL لحساب CMA الخاص بك واستخدم نقطة النهاية المقابلة في كل طلب. لمزيد من المعلومات، انظر: ما هو API كاتو.

تشغيل الاستعلامات في مكان لعب GraphQL

يقوم مكان لعب GraphQL بتشغيل الاستعلامات ضد واجهة Cato API مباشرةً من المتصفح، وهو مفيد للتحقيق الفوري ولتأكيد الاتصال قبل إنشاء استعلام. راجع واجهة API من Cato بستخدام مكان لعب GraphQL للحصول على التعليمات.

تفاعل مستخدم الذكاء الصناعي

استرد الدعوة للمستخدم والاستجابة للنموذج خلف حدث تفاعل مستخدم الذكاء الصناعي. تتوفر نفس المحادثات في CMA تحت أمان الذكاء الصناعي للمستخدمين > مستكشف الجلسة.

التفاعلات بين المستخدمين مع الذكاء الصناعي التي تتطابق مع الكواشف المكونة في السياسة تحتوي على الكشف في حقل app_activity_type. تكون هذه الأحداث ذات صلة أكبر لتحقيقات الأمان.

حقول الطلب

GraphQL

استعلام SessionConversation(
  $accountId: المعرف!
  $sessionId: معرف!
  $messageId: معرف!
  $appId: معرف!
) {
  aiSecurity(accountId: $accountId) {
    endUsers {
      sessionConversation(
        input: { sessionId: $sessionId, messageId: $messageId, appId: $appId }
      ) {
        userPrompt
        llmResponse
      }
    }
  }
}

المتغيرات:

{
  "accountId": "<ACCOUNT_ID>",
  "sessionId": "<معرف الجلسة من الحدث>",
  "messageId": "<معرف الرسالة من الحدث>",
  "appId": "<معرف التطبيق من الحدث>"
}

Curl

Curl -s -X POST https://api.<prefix>.catonetworks.com/api/v1/graphql2 \
  -H "x-api-key: $CATO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "query": "استعلام SessionConversation(المعرف accountId:!, المعرف sessionId:!, معرف messageId:!, معرف appId:!) { aiSecurity(accountId: $accountId) { endUsers { sessionConversation(input: {sessionId: $sessionId, messageId: $messageId, appId: $appId}) { userPrompt llmResponse } } } }",
"variables": {
"accountId": "<ACCOUNT_ID>",
"sessionId": "<session_id from the event>",
"messageId": "<message_id from the event>",
"appId": "<application_id from the event>"
}
} ' | jq .

بايثون

استيراد json، urllib.request 

API_KEY = "<API_KEY>"

QUERY = """
استعلام SessionConversation($accountId: ID!, $sessionId: ID!, $messageId: ID!, $appId: ID!) { 
aiSecurity(accountId: $accountId) { 
endUsers { 
sessionConversation(input: {sessionId: $sessionId, messageId: $messageId, appId: $appId}){
userPrompt 
llmResponse
}
}
}
}
"""
payload = json.dumps({"query": QUERY, "variables": {
"accountId": "<ACCOUNT_ID>",
"sessionId": "<session_id from event>",
"messageId": "<message_id from event>",
"appId": "<application_id from event>",
}}).encode("utf-8")
req = urllib.request.Request(
    "https://api.<prefix>.catonetworks.com/api/v1/graphql2",
    البيانات=payload,
    headers={"x-api-key": API_KEY, "Content-Type": "application/json"},
    method="POST",
) 
WITH urllib.request.urlopen(req, timeout=30) AS resp: 
    طباعة(json.dumps(json.load(resp), indent=2)) 

حقول الاستجابة

مثال على الاستجابة

{
 "data": {
 "aiSecurity": {
 "endUsers": {
 "sessionConversation": {
 "userPrompt": "<user prompt>",
 "llmResponse": “<llm response or null>”
 }
 }
 }
 }
}

حماية تشغيل التطبيق

استرداد بيانات الاستدعاء ورسائل الدردشة الخام وراء حدث حماية تشغيل التطبيق. نفس الاستدعاءات متوفرة في CMA تحت أمن الذكاء الاصطناعي للتطبيقات > مستكشف التفاعل.

حقول الطلب

GraphQL

query GetInvocation($accountId: ID!, $id: ID!) {
 aiSecurity(accountId: $accountId) {
 apps {
 invocation(input: { id: $id }) {
 id
 sessionId
 timestamp
 tokenCount
 guard {
 id
 name
 }
 action
 data {
 message {
 role
 content {
 text
 }
 }
 }
 }
 }
 }
}

متغيرات:

{
 "accountId": "<ACCOUNT_ID>",
 "id": "<invocation_id from the event>"
}

Curl

curl -s -X POST https://api.<prefix>.catonetworks.com/api/v1/graphql2 \
 -H "x-api-key: <CATO_API_KEY>” \
 -H "Content-Type: application/json" \
 -d '{
 "query": "query GetInvocation($accountId: ID!, $id: ID!) { aiSecurity(accountId: $accountId) { apps { invocation(input: {id: $id}) { id sessionId timestamp tokenCount guard { id name } action data { message { role content { text } } } } } } }
 "variables": {
 "accountId": "<ACCOUNT_ID>",
 "id": "<invocation_id from the event>"
}
} ' | jq .

بايثون

استيراد json، urllib.request 

API_KEY = "<CATO_API_KEY>"

QUERY = """
استعلام GetInvocation($accountId: ID!, $id: ID!) { 
aiSecurity(accountId: $accountId) { 
apps { 
invocation(input: {id: $id}) { 
id 
sessionId 
timestamp 
tokenCount 
guard { id name } 
action 
data { message { role content { text } } }
}
}
}
}
"""
payload = json.dumps({"query": QUERY, "variables": {
"accountId": "<ACCOUNT_ID>",
"id": "<invocation_id from the event>",
}}).encode("utf-8")
req = urllib.request.Request(
    "https://api.<prefix>.catonetworks.com/api/v1/graphql2",
    البيانات=payload,
    headers={"x-api-key": API_KEY, "Content-Type": "application/json"},
    method="POST",
) 
WITH urllib.request.urlopen(req, timeout=30) AS resp: 
    طباعة(json.dumps(json.load(resp), indent=2)) 

حقول الاستجابة

مثال على الاستجابة

{
 "data": {
 "aiSecurity": {
 "apps": {
 "invocation": {
 "id": "01a00ada-c424-700b-9898-ed1ea05a82fb",
 "sessionId": "8cf9384d-9a45-4d01-aeff-c3eb31164599",
 "timestamp": "2026-08-16T13:55:04.392Z",
 "tokenCount": 30,
 "guard": {
 "id": "d3918cad-ffab-408d-b079-bfecd4842ed1",
 "name": "<guard_name>"
 },
 "action": "BLOCK",
 "data": {
 "message": [
 {
 "role": "user",
 "content": [
 {
 "text": "<user prompt>”
 }
 ]
 }
 ]
 }
 }
 }
 }
 }
}

الملحق: أمثلة الأحداث ونداءات واجهة برمجة التطبيقات.

أمثلة الأحداث ونداءات واجهة برمجة التطبيقات التي تسترجع محتواها، لكلا النوع الفرعي للحدث.

الأمان الذكي للمستخدمين

عينة الأحداث

[
 {
 "account_id": <account_id>,
 "account_name": "<account_name>",
 "ad_name": "<ad_name>",
 "ai_app_risk_level": "متوسط",
 "app_activity_type": "المطالبة",
 "application_id": "microsoft_copilot",
 "application_name": "Microsoft Copilot",
 "application_risk": 5,
 "application_type": "النظام",
 "categories": [
 "أدوات الذكاء الاصطناعي التوليدية"
 ],
 "cato_app": "microsoft_copilot",
 "event_count": 1,
 "event_id": "7c41ae90b2d5f318",
 "event_sub_type": "تفاعل مستخدم الذكاء الاصطناعي",
 "event_type": "أمن الذكاء الاصطناعي",
 "interaction_intent": "الحصول على المعلومات",
 "interaction_sub_topic": "خصوصية البيانات",
 "interaction_topic": "قانوني",
 "invocation_id": "01a01f70-9b12-74ac-8f31-2b6ce0d41aa7",
 "is_cloud_app": true,
 "is_sanctioned_app": true,
 "message_id": "6f2b1c48-55d7-4a9e-9c10-8ab3f7e2d114",
 "session_id": "b71f9c02-3ad4-4e8b-90c6-1f5d8e7a4c33",
 "time": 1787233820104,
 "time_str": "2026-08-20T13:50:20Z",
 "url": "https://copilot.microsoft.com/chats",
 "user_id": <user_id>,
 "user_name": "<user_name>",
 "vpn_user_email": "<user_email>"
 },
 {
 "account_id": <account_id>,
 "account_name": "<account_name>",
 "app_activity_type": "الاكتشاف",
 "application_id": "microsoft_copilot",
 "application_name": "Microsoft Copilot",
 "event_count": 1,
 "event_id": "b0d3572ea9146fc7",
 "event_sub_type": "تفاعل مستخدم الذكاء الاصطناعي",
 "event_type": "أمن الذكاء الاصطناعي",
 "invocation_id": "01a01f70-9b12-74ac-8f31-2b6ce0d41aa7",
 "message_id": "6f2b1c48-55d7-4a9e-9c10-8ab3f7e2d114",
 "rule_id": "1296751412582697861",
 "rule_name": "<rule_name>",
 "session_id": "b71f9c02-3ad4-4e8b-90c6-1f5d8e7a4c33",
 "time": 1787233820331,
 "time_str": "2026-08-20T13:50:20Z",
 "user_id": <user_id>,
 "user_name": "<user_name>",
 "vpn_user_email": "<user_email>"
 }
]

نداء API

curl -s -X POST https://api.catonetworks.com/api/v1/graphql2 \
 -H "x-api-key: <api_key>" \
 -H "Content-Type: application/json" \
 -d '{
 "query": "query SessionConversation($accountId: ID!, $sessionId: ID!, $messageId: ID!, $appId: ID!) { aiSecurity(accountId: $accountId) { endUsers { sessionConversation(input: {sessionId: $sessionId, messageId: $messageId, appId: $appId}) { userPrompt llmResponse } } } }",
 "variables": {
 "accountId": "<account_id>",
 "sessionId": "b71f9c02-3ad4-4e8b-90c6-1f5d8e7a4c33",
 "messageId": "6f2b1c48-55d7-4a9e-9c10-8ab3f7e2d114",
 "appId": "microsoft_copilot"
}
} ' | jq .

استجابة API

{
 "data": {
 "aiSecurity": {
 "endUsers": {
 "sessionConversation": {
 "userPrompt": "<user_prompt>",
 "llmResponse": "<llm_response>"
 }
 }
 }
 }
}

أمن الذكاء الاصطناعي للتطبيقات

عينة الأحداث

[
 {
 "account_id": <account_id>,
 "account_name": "<account_name>",
 "action": "حظر",
 "detectors": [
 "SIMPLE_DETECTOR_TYPE_SAFETY_CONTROLS_SAFETY"
 ],
 "event_count": 1,
 "event_id": "f98820262dfb8aa9",
 "event_sub_type": "حماية تشغيل التطبيق",
 "event_type": "أمن الذكاء الاصطناعي",
 "guard_id": "d3918cad-ffab-408d-b079-bfecd4842ed1",
 "guard_name": "<guard_name>",
 "interaction_id": "01a01f71-c3e5-75be-a3cc-d77ec3b9277f",
 "internalId": "f98820262dfb8aa9",
 "internal_id": "f98820262dfb8aa9",
 "invocation_id": "01a01f71-c3e5-75be-a3cc-d77ec3b9277f",
 "is_sanctioned_app": false,
 "rule_id": "1296751412582697861",
 "rule_name": "<rule_name>",
 "session_id": "d500d5a4-82cd-4f48-8d70-0ebfc590d605",
 "time": 1787233944579,
 "time_str": "2026-08-20T13:52:24Z"
 },
 {
 "account_id": <account_id>,
 "account_name": "<account_name>",
 "action": "حظر",
 "detectors": [
 "SIMPLE_DETECTOR_TYPE_SECURITY_CONTROLS_JAILBREAK",
 "SIMPLE_DETECTOR_TYPE_SAFETY_CONTROLS_SAFETY"
 ],
 "event_count": 1,
 "event_id": "31156257bcf2d54c",
 "event_sub_type": "حماية تشغيل التطبيق",
 "event_type": "أمن الذكاء الاصطناعي",
 "guard_id": "d3918cad-ffab-408d-b079-bfecd4842ed1",
 "guard_name": "<guard_name>",
 "interaction_id": "01a01f72-38ce-782f-96c5-5ca071ac9792",
 "internalId": "31156257bcf2d54c",
 "internal_id": "31156257bcf2d54c",
 "invocation_id": "01a01f72-38ce-782f-96c5-5ca071ac9792",
 "is_sanctioned_app": false,
 "rule_id": "1296751412582697861",
 "rule_name": "<rule_name>",
 "session_id": "d500d5a4-82cd-4f48-8d70-0ebfc590d605",
 "time": 1787233974486,
 "time_str": "2026-08-20T13:52:54Z"
 }
]

نداء واجهة برمجة التطبيقات

curl -s -X POST https://api.catonetworks.com/api/v1/graphql2 \
 -H "x-api-key: <api_key>" \
 -H "Content-Type: application/json" \
 -d '{
 "query": "query GetInvocation($accountId: ID!, $id: ID!) { aiSecurity(accountId: $accountId) { apps { invocation(input: {id: $id}) { id sessionId timestamp tokenCount guard { id name } action data { message { role content { text } } } } }} }"
 "variables": {
 "accountId": "<account_id>",
 "id": "01a01f72-38ce-782f-96c5-5ca071ac9792"
 }' | jq .

استجابة واجهة برمجة التطبيقات

{
  "البيانات": {
    "الأمن الذكي": {
      "التطبيقات": {
        "استدعاء": {
          "المعرف": "01a01f72-38ce-782f-96c5-5ca071ac9792",
          "معرف الجلسة": "d500d5a4-82cd-4f48-8d70-0ebfc590d605",
          "الطابع الزمني": "2026-08-20T13:52:54.486Z",
          "عدد الرموز": 38,
          "الحارس": {
            "المعرف": "d3918cad-ffab-408d-b079-bfecd4842ed1",
            "الاسم": "<guard_name>"
          },
          "الإجراء": "منع",
          "البيانات": {
            "رسالة": [
              {
                "الدور": "المستخدم",
                "المحتوى": [
                  {
                    "النص": "<user_prompt>"
                  }
                ]
              }
            ]
          }
        }
      }
    }
  }
}