Руководство по эксплуатации ИИ безопасности

Обзор.

Cato AI Security ведет журналы активности пользователей с приложениями GenAI и вызовами, которые ваши собственные агенты отправляют вызываемым моделям. События видны в приложении управления Cato (CMA) на странице Домашняя > События и могут быть перенаправлены в SIEM, озеро данных или другую внешнюю платформу для хранения, корреляции и оповещения.

События содержат только метаданные. Запросы и ответы, обмененные с моделью, не сохраняются в событии. Этот контент извлекается отдельно, по запросу, из GraphQL API компании Cato тем, у кого есть API-ключ с необходимым разрешением.

Таким образом, исследование инцидента с ИИ в области безопасности представляет собой двухэтапный рабочий процесс:

1. Перенаправьте события в вашу SIEM-систему. Настройте интеграцию событий, фильтруя по типу событий AI Security, чтобы события AI Security поступали вместе с остальной телеметрией Cato.

2. Используйте API для извлечения конфиденциального контента для событий, которые этого требуют. Когда событие требует расследования, запросите API с идентификаторами, содержащимися в этом событии, чтобы получить запрос и модельный ответ.

Примечание: Взаимодействия с ИИ в области безопасности, включая конфиденциальные запросы и ответы, можно просмотреть напрямую в CMA без использования API. AI Security для приложений > Исследователь взаимодействий список вызовов для ваших встроенных агентов, а AI Security для пользователей > Исследователь сеансов список пользовательских сессий с приложениями GenAI. Оба позволяют подробно изучить отдельные записи. API предназначен для расследований, начинающихся в вашей SIEM, и для программного извлечения.

События Cato

Все события AI Security относятся к типу события AI Security. Подтип события определяет, какая часть AI Security сгенерировала событие, и определяет, какие поля событие несет и каким запросом API оно извлекает его содержимое. Интерактивный исследователь схемы событий доступен на Cato Event Schema.

Поля взаимодействия пользователя с ИИ

Примечание: не каждое событие имеет извлекаемый контент. session_id и message_id появляются только в событиях, где app_activity_type равно Prompt, Detection или LLM Response. События Web Request и File Transaction не содержат их.

Поля защиты времени выполнения приложения

Терминология. То, что CMA называет Самодельным Агентом, называется приложением в событии. Поле application_id идентифицирует Самодельный Агент, который Охранник защищает.

Отправка Событий в SIEM

Интеграции событий автоматически пересылают данные события Cato на внешние платформы и в места хранения, без ручного экспорта или постоянного опроса. Интеграции настраиваются в Ресурсы > Интеграции > Настроенные Интеграции в CMA. Для обзора, смотрите Начало работы с Интеграциями Событий.

Если нативная интеграция недоступна, интеграция Custom HTTP Push может использоваться для отправки событий в формате JSON в выбранное вами место назначения. Пользовательские заголовки можно настроить, чтобы сделать это совместимым с различными поставщиками. Для дополнительной информации, смотрите Отправка данных с помощью интеграции Custom HTTP Push.

Фильтрация для событий AI Security

Независимо от того, какую интеграцию вы выберете, ограничьте её до событий AI Security вместо переправки полного объёма событий учетной записи. Это делается в Фильтре Событий, который составляет из одной или более групп фильтров: условия внутри группы объединяются с AND, а группы объединяются с OR, поэтому событие переправляется, если оно соответствует любой группе. Любое поле события доступно как условие.

1. Добавьте группу фильтров в Фильтр Событий. В конфигурации интеграции, откройте Фильтр Событий и добавьте группу фильтров.

2. Установите условие тип события. Поле Тип события, значение AI Security. Это определяет группу для событий AI Security всех подтипов.
    

3. (Необязательно) Установите условие Подтип. Поле Подтип, со значениями AI User Interaction и Application Runtime Protection, или только тот, который нужен для этой интеграции. Поскольку оба условия находятся в одной и той же группе, они объединены с AND, поэтому только события AI Security выбранных подтипов переправляются.
   

4. (Необязательно) Маршрутизируйте два подтипа отдельно. Одна группа с обоими значениями отправляет оба подтипа в одно место назначения. Чтобы доставить их в разные места назначения, настройте две Интеграции Событий, каждая с группой, определенной для одного подтипа.

5. Сузьте диапазон, если требуется. Дополнительные условия могут быть добавлены к той же группе для уменьшения объема. Например, фильтр Имя Охранника можно добавить, чтобы отправлять только события Application Runtime Protection, которые соответствуют определенному Охраннику.
    

Извлечение конфиденциального контента с помощью API

События AI Security намеренно исключают содержимое взаимодействия: они не содержат запросы, ответы модели или любые сырые данные сообщений, обменяемых с моделью. Этот контент извлекается из GraphQL API Cato по запросу и только теми абонентами, чей API ключ обладает необходимыми разрешениями. Доступны два запроса, по одному для каждого подтипа события.

API ключ и разрешения

Запросы аутентифицируются с помощью API ключа Cato, сгенерированного в CMA. Для подробной информации о создании API ключа, смотрите Создание API ключей для Cato API.

Доступ к контенту взаимодействия контролируется разрешениями RBAC на ключе:

Конечная точка API и схема

URL для конечной точки API и схемы специфичен для места, где размещена ваша инстанция CMA. Значение <prefix> может быть добавлено к URL для вашей учетной записи CMA и к конечной точке API и схеме.

Префиксы для различных регионов CMA

Идентифицируйте префикс по URL вашей учетной записи CMA и используйте соответствующую конечную точку в каждом запросе. Для получения дополнительной информации см. Что такое API Cato.

Выполнение запросов в GraphQL Playground

GraphQL Playground выполняет запросы к API Cato непосредственно из браузера, что полезно для разовых расследований и для подтверждения подключения перед скриптованием запроса. Смотрите Подключение к API Cato из GraphQL Playground для инструкций.

AI User Interaction

Извлеките пользовательский запрос и модельный ответ за событием AI User Interaction. Те же самые разговоры доступны в CMA под AI Security для пользователей > Исследователь сессий.

AI User Interactions, которые соответствуют сконфигурированным в политике детекторам, содержат Detection в поле app_activity_type. Эти события наиболее актуальны для расследований безопасности.

Поля запроса

GraphQL

query SessionConversation(
  $accountId: ID!
  $sessionId: ID!
  $messageId: ID!
  $appId: ID!
) {
  aiSecurity(accountId: $accountId) {
    endUsers {
      sessionConversation(
        input: { sessionId: $sessionId, messageId: $messageId, appId: $appId }
      ) {
        userPrompt
        llmResponse
      }
    }
  }
}

Переменные:

{
  "accountId": "<ACCOUNT_ID>",
  "sessionId": "<session_id from the event>",
  "messageId": "<message_id from the event>",
  "appId": "<application_id from the event>"
}

Curl

curl -s -X POST https://api.<prefix>.catonetworks.com/api/v1/graphql2 \
  -H "x-api-key: $CATO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "query": "query SessionConversation($accountId: ID!, $sessionId: ID!, $messageId: ID!, $appId: ID!) { aiSecurity(accountId: $accountId) { endUsers { sessionConversation(input: {sessionId: $sessionId, messageId: $messageId, appId: $appId}) { userPrompt llmResponse } } } }",
    "variables": {
      "accountId": "<ACCOUNT_ID>",
      "sessionId": "<session_id from the event>",
      "messageId": "<message_id from the event>",
      "appId": "<application_id from the event>"
    }
  }' | jq .

Python

import json, urllib.request 
 
API_KEY = "<API_KEY>" 
 
QUERY = """ 
query SessionConversation($accountId: ID!, $sessionId: ID!, $messageId: ID!, $appId: ID!) { 
  aiSecurity(accountId: $accountId) { 
    endUsers { 
      sessionConversation(input: {sessionId: $sessionId, messageId: $messageId, appId: $appId}) { 
        userPrompt 
        llmResponse 
      } 
    } 
  } 
} 
""" 
payload = json.dumps({"query": QUERY, "variables": { 
    "accountId": "<ACCOUNT_ID>", 
    "sessionId": "<session_id from event>", 
    "messageId": "<message_id from event>", 
    "appId": "<application_id from event>", 
}}).encode("utf-8") 
req = urllib.request.Request( 
    "https://api.<prefix>.catonetworks.com/api/v1/graphql2", 
    data=payload, 
    headers={"x-api-key": API_KEY, "Content-Type": "application/json"}, 
    method="POST", 
) 
with urllib.request.urlopen(req, timeout=30) as resp: 
    print(json.dumps(json.load(resp), indent=2)) 

Поля ответа

Пример ответа

{
  "data": {
    "aiSecurity": {
      "endUsers": {
        "sessionConversation": {
          "userPrompt": "<user prompt>",
          "llmResponse": “<llm response or null>”
        }
      }
    }
  }
}

Защита времени выполнения приложений

Получить метаданные вызова и необработанные сообщения чата в событии защиты времени выполнения приложений. Те же вызовы доступны в CMA под AI Security for Apps > Interaction Explorer.

Поля запроса

GraphQL

запрос GetInvocation($accountId: ID!, $id: ID!) {
 aiSecurity(accountId: $accountId) {
 apps {
 invocation(input: { id: $id }) {
 id
 sessionId
 timestamp
 tokenCount
 guard {
 id
 name
 }
 action
 data {
 message {
 role
 content {
 text
 }
 }
 }
 }
 }
 }
}

Переменные:

{
  "accountId": "<ACCOUNT_ID>",
  "id": "<invocation_id from the event>"
}

Curl

curl -s -X POST https://api.<prefix>.catonetworks.com/api/v1/graphql2 \
  -H "x-api-key: <CATO_API_KEY>” \
  -H "Content-Type: application/json" \
  -d '{
    "query": "query GetInvocation($accountId: ID!, $id: ID!) { aiSecurity(accountId: $accountId) { apps { invocation(input: {id: $id}) { id sessionId timestamp tokenCount guard { id name } action data { message { role content { text } } } } } } }",
    "variables": {
      "accountId": "<ACCOUNT_ID>",
      "id": "<invocation_id from the event>"
    }
  }' | jq .

Python

import json, urllib.request 
 
API_KEY = "<CATO_API_KEY>" 
 
QUERY = """ 
query GetInvocation($accountId: ID!, $id: ID!) { 
  aiSecurity(accountId: $accountId) { 
    apps { 
      invocation(input: {id: $id}) { 
        id 
        sessionId 
        timestamp 
        tokenCount 
        guard { id name } 
        action 
        data { message { role content { text } } } 
      } 
    } 
  } 
} 
""" 
payload = json.dumps({"query": QUERY, "variables": { 
    "accountId": "<ACCOUNT_ID>", 
    "id": "<invocation_id from the event>", 
}}).encode("utf-8") 
req = urllib.request.Request( 
    "https://api.<prefix>.catonetworks.com/api/v1/graphql2", 
    data=payload, 
    headers={"x-api-key": API_KEY, "Content-Type": "application/json"}, 
    method="POST", 
) 
with urllib.request.urlopen(req, timeout=30) as resp: 
    print(json.dumps(json.load(resp), indent=2)) 

Поля ответа

Пример ответа

{
  "data": {
    "aiSecurity": {
      "apps": {
        "invocation": {
          "id": "01a00ada-c424-700b-9898-ed1ea05a82fb",
          "sessionId": "8cf9384d-9a45-4d01-aeff-c3eb31164599",
          "timestamp": "2026-08-16T13:55:04.392Z",
          "tokenCount": 30,
          "guard": {
            "id": "d3918cad-ffab-408d-b079-bfecd4842ed1",
            "name": "<guard_name>"
          },
          "action": "BLOCK",
          "data": {
            "message": [
              {
                "role": "user",
                "content": [
                  {
                    "text": "<user prompt>”
                  }
                ]
              }
            ]
          }
        }
      }
    }
  }
}

Приложение: Примеры событий и вызовов API

Примеры событий и вызовы API, которые извлекают их содержание, для обоих подтипов событий.

AI безопастность для пользователей

Примеры событий

[
  {
    "account_id": <account_id>,
    "account_name": "<account_name>",
    "ad_name": "<ad_name>",
    "ai_app_risk_level": "Средний",
    "app_activity_type": "Запрос",
    "application_id": "microsoft_copilot",
    "application_name": "Microsoft Copilot",
    "application_risk": 5,
    "application_type": "Система",
    "categories": [
      "Генеративные AI инструменты"
    ],
    "cato_app": "microsoft_copilot",
    "event_count": 1,
    "event_id": "7c41ae90b2d5f318",
    "event_sub_type": "Взаимодействие пользователя с AI",
    "event_type": "AI Безопасность",
    "interaction_intent": "получение информации",
    "interaction_sub_topic": "конфиденциальность данных",
    "interaction_topic": "правовой",
    "invocation_id": "01a01f70-9b12-74ac-8f31-2b6ce0d41aa7",
    "is_cloud_app": true,
    "is_sanctioned_app": true,
    "message_id": "6f2b1c48-55d7-4a9e-9c10-8ab3f7e2d114",
    "session_id": "b71f9c02-3ad4-4e8b-90c6-1f5d8e7a4c33",
    "time": 1787233820104,
    "time_str": "2026-08-20T13:50:20Z",
    "url": "https://copilot.microsoft.com/chats",
    "user_id": <user_id>,
    "user_name": "<user_name>",
    "vpn_user_email": "<user_email>"
  },
  {
    "account_id": <account_id>,
    "account_name": "<account_name>",
    "app_activity_type": "Обнаружение",
    "application_id": "microsoft_copilot",
    "application_name": "Microsoft Copilot",
    "event_count": 1,
    "event_id": "b0d3572ea9146fc7",
    "event_sub_type": "Взаимодействие пользователя с AI",
    "event_type": "AI Безопасность",
    "invocation_id": "01a01f70-9b12-74ac-8f31-2b6ce0d41aa7",
    "message_id": "6f2b1c48-55d7-4a9e-9c10-8ab3f7e2d114",
    "rule_id": "1296751412582697861",
    "rule_name": "<rule_name>",
    "session_id": "b71f9c02-3ad4-4e8b-90c6-1f5d8e7a4c33",
    "time": 1787233820331,
    "time_str": "2026-08-20T13:50:20Z",
    "user_id": <user_id>,
    "user_name": "<user_name>",
    "vpn_user_email": "<user_email>"
  }
]

Вызыв API

curl -s -X POST https://api.catonetworks.com/api/v1/graphql2 \
  -H "x-api-key: <api_key>" \
  -H "Content-Type: application/json" \
  -d '{
    "query": "query SessionConversation($accountId: ID!, $sessionId: ID!, $messageId: ID!, $appId: ID!) { aiSecurity(accountId: $accountId) { endUsers { sessionConversation(input: {sessionId: $sessionId, messageId: $messageId, appId: $appId}) { userPrompt llmResponse } } } }",
    "variables": {
      "accountId": "<account_id>",
      "sessionId": "b71f9c02-3ad4-4e8b-90c6-1f5d8e7a4c33",
      "messageId": "6f2b1c48-55d7-4a9e-9c10-8ab3f7e2d114",
      "appId": "microsoft_copilot"
    }
  }' | jq .

Ответ API

{
  "data": {
    "aiSecurity": {
      "endUsers": {
        "sessionConversation": {
          "userPrompt": "<user_prompt>",
          "llmResponse": "<llm_response>"
        }
      }
    }
  }
}

AI Безопасность для Приложений

Примеры событий

[
  {
    "account_id": <account_id>,
    "account_name": "<account_name>",
    "action": "Блокировать",
    "detectors": [
      "SIMPLE_DETECTOR_TYPE_SAFETY_CONTROLS_SAFETY"
    ],
    "event_count": 1,
    "event_id": "f98820262dfb8aa9",
    "event_sub_type": "Защита живого времени приложения",
    "event_type": "AI Безопасность",
    "guard_id": "d3918cad-ffab-408d-b079-bfecd4842ed1",
    "guard_name": "<guard_name>",
    "interaction_id": "01a01f71-c3e5-75be-a3cc-d77ec3b9277f",
    "internalId": "f98820262dfb8aa9",
    "internal_id": "f98820262dfb8aa9",
    "invocation_id": "01a01f71-c3e5-75be-a3cc-d77ec3b9277f",
    "is_sanctioned_app": false,
    "rule_id": "1296751412582697861",
    "rule_name": "<rule_name>",
    "session_id": "d500d5a4-82cd-4f48-8d70-0ebfc590d605",
    "time": 1787233944579,
    "time_str": "2026-08-20T13:52:24Z"
  },
  {
    "account_id": <account_id>,
    "account_name": "<account_name>",
    "action": "Блокировать",
    "detectors": [
      "SIMPLE_DETECTOR_TYPE_SECURITY_CONTROLS_JAILBREAK",
      "SIMPLE_DETECTOR_TYPE_SAFETY_CONTROLS_SAFETY"
    ],
    "event_count": 1,
    "event_id": "31156257bcf2d54c",
    "event_sub_type": "Защита живого времени приложения",
    "event_type": "AI Безопасность",
    "guard_id": "d3918cad-ffab-408d-b079-bfecd4842ed1",
    "guard_name": "<guard_name>",
    "interaction_id": "01a01f72-38ce-782f-96c5-5ca071ac9792",
    "internalId": "31156257bcf2d54c",
    "internal_id": "31156257bcf2d54c",
    "invocation_id": "01a01f72-38ce-782f-96c5-5ca071ac9792",
    "is_sanctioned_app": false,
    "rule_id": "1296751412582697861",
    "rule_name": "<rule_name>",
    "session_id": "d500d5a4-82cd-4f48-8d70-0ebfc590d605",
    "time": 1787233974486,
    "time_str": "2026-08-20T13:52:54Z"
  }
]

Вызыв API

curl -s -X POST https://api.catonetworks.com/api/v1/graphql2 \
  -H "x-api-key: <api_key>" \
  -H "Content-Type: application/json" \
  -d '{
    "query": "query GetInvocation($accountId: ID!, $id: ID!) { aiSecurity(accountId: $accountId) { apps { invocation(input: {id: $id}) { id sessionId timestamp tokenCount guard { id name } action data { message { role content { text } } } } } } }",
    "variables": {
      "accountId": "<account_id>",
      "id": "01a01f72-38ce-782f-96c5-5ca071ac9792"
    }
  }' | jq .

Ответ API

{
  "данные": {
    "aiБезопасность": {
      "приложения": {
        "вызов": {
          "id": "01a01f72-38ce-782f-96c5-5ca071ac9792",
          "идентификаторСеанса": "d500d5a4-82cd-4f48-8d70-0ebfc590d605",
          "время": "2026-08-20T13:52:54.486Z",
          "количествоТокенов": 38,
          "охранник": {
            "id": "d3918cad-ffab-408d-b079-bfecd4842ed1",
            "имя": "<имяОхранника>"
          },
          "действие": "Блокировать",
          "данные": {
            "сообщение": [
              {
                "роль": "пользователь",
                "содержание": [
                  {
                    "текст": "<пользовательскийЗапрос>"
                  }
                ]
              }
            ]
          }
        }
      }
    }
  }
}