AI Безопасность для Пользователей - Мониторинг и Аналитика с Session Explorer

Страница Session Explorer позволяет контролировать, как приложения чата с ИИ используются в вашей организации, и оценивать потенциальный риск утечки данных через пользовательские запросы. После включения AI Безопасности страница предоставляет информацию о запросах, отправленных в поддерживаемые и включенные приложения AI, помогая понять модели использования и исследовать потенциально рискованные взаимодействия.

Каждое взаимодействие представляет собой единичный запрос и включает контекстную информацию, такую как AI приложение, получившее запрос, и выявленную тему и намерение.

Обнаружения

Когда вы определяете правила AI Безопасности с действием "Мониторинг", соответствующие запросы отображаются на странице AI Взаимодействия с индикатором обнаружения. Для этих взаимодействий:

Столбец "Обнаружения" показывает профиль мониторинга, который вызвал срабатывание.
Вы можете быстро определить, какое правило мониторинга соответствовало запросу.

Эта информация помогает вам проверять охват правил и настраивать ваши политики.

Подробности взаимодействия

Когда вы углубляетесь в специфическое взаимодействие, уровень доступных подробностей зависит от ваших назначенных разрешений. Администраторы с разрешением Чтение конфиденциального контента могут увидеть фактический запрос, отправленный AI приложению. Если запрос содержит проблематичный контент, соответствующие разделы помечаются или выделяются. Когда действие правила также включало Блокировку, подробности взаимодействия показывают страницу блокировки, представленную пользователю.

Для получения информации о ролях и разрешениях, смотрите Управление ролями администраторов с использованием RBAC.

Примечание: Операции, такие как просмотр запроса, регистрируются в журнале Аудита.

Сценарий использования — понимаем, как сотрудники используют ИИ-чаты

Компания ABC включает AI Безопасность для получения видимости того, как сотрудники используют AI чат-программы в своей повседневной работе. Анализируя взаимодействия на странице AI Взаимодействия, команда безопасности может видеть, какие типы вопросов и запросов пользователи отправляют AI инструментам.

Это видение помогает вашей организации лучше понимать активности сотрудников, выявлять общие пробелы в знаниях или повторяющиеся потребности в помощи, а также определять, где дополнительное руководство, обучение или включение могут улучшить продуктивность, уменьшая риск.

Анализ взаимодействия ИИ

Используйте подробности сеанса для анализа специфического взаимодействия ИИ, чтобы вы могли понять полный контекст, проверить обнаружения и выявить проблемы, требующие обратной связи или дальнейших действий.

Для анализа взаимодействия ИИ:

Из навигационного меню нажмите Безопасность ИИ > Проводник сессий.
Выберите взаимодействие, которое вы хотите изучить, и нажмите Показать сеанс, чтобы просмотреть содержимое сеанса.
Просмотрите последовательность запроса и ответа, чтобы понять полный контекст взаимодействия.
Чтобы продолжить расследование для конкретного запроса, нажмите Просмотр анализа. Открывается Отчет об анализе двигателя.

Пересмотр Аналитического Отчета

Аналитический Отчет Движка предоставляет детальное представление того, как определенный Запрос был оценен Движком Безопасности в момент его отправки. Он показывает, какие правила, профили и детекторы были активны во время исполнения, помогая вам понять, как были определены обнаружения. Каждый отчет включает ID анализа, который вы можете использовать для ориентира, поиска в Проводнике Сессии или при работе с Поддержкой.

В отчете обнаружения визуально представлены:

Желтый цвет профиля указывает на то, что обнаружение произошло. Это значит, что правило с этим профилем было выполнено, и по крайней мере один детектор совпал.
Зеленый цвет профиля указывает на то, что обнаружение не произошло, хотя правило было выполнено.

Чтобы дальше изучить поведение, вы можете нажать на Открыть в поле движка и перезапустить всю сессию. Это позволяет вам изучить, как ведут себя текущие профили и скорректировать конфигурации, если результат отличается от ожиданий.

При просмотре Анализного отчета учитывайте, что конфигурации могли быть обновлены после выполнения. В результате текущая версия может отличаться от той, которая была применена при первоначальной оценке.

Отправка отзыва

Когда результат детектора для запроса неверен, вы можете отправить отзыв, чтобы помочь Cato оценить обнаружение. Для ложных срабатываний просмотрите Инициированные детекторы, которые неверно соответствовали запросу. Если детектор должен был сработать, но не сработал, просмотрите Все детекторы, чтобы определить, какие из них активно функционировали, когда был отправлен этот запрос.

Добавьте комментарии в свободной форме, чтобы объяснить ожидаемый результат и предоставить любой контекст, который может помочь в расследовании. Cato просматривает эти отзывы и использует их для улучшения качества детектора со временем.

Для критических проблем вы можете открыть тикет в службу поддержки в дополнение к отзыву.

Чтобы отправить отзыв о взаимодействии с ИИ:

В Анализе двигателя нажмите Отправить отзыв.
Чтобы сообщить о ложноположительных срабатываниях, используйте Инициированные детекторы.
Чтобы сообщить о ложноотрицательных результатах, используйте Все детекторы, чтобы просмотреть детекторы, которые были активны в профиле для этого запроса.
Выберите соответствующий детектор или детекторы.
Добавьте комментарии в свободной форме, чтобы предоставить дополнительный контекст.
Для срочных проблем выберите Открыть тикет в службу поддержки.
Кликните Отправить.