Обзор.
Предотвратите доступ сотрудников к несанкционированным приложениям ИИ и направьте их к одобренным ресурсам. Настройте Политику доступа пользователей для определения реакции плагина безопасности ИИ в браузере, когда пользователи пытаются получить доступ к приложениям ИИ:
- Заблокировать доступ к несанкционированным приложениям ИИ
- Перенаправить пользователей к санкционированному ресурсу ИИ
- Вовлекать пользователей для подтверждения доступа к безопасному ресурсу перед продолжением
Основные случаи применения
Перенаправление пользователей из неразрешенных приложений ИИ к Microsoft 365 Copilot
Организация стандартизирует использование Microsoft 365 Copilot как одобренного инструмента ИИ для бизнеса. Администратор создает конкретное правило разрешения для Microsoft 365 Copilot и ставит его выше более широкого правила перенаправления для приложений ИИ. Одобренный трафик Copilot соответствует правилу разрешения. Прочий трафик приложений ИИ соответствует правилу перенаправления и отправляет пользователей к Microsoft 365 Copilot.
Пример настроек правила перенаправления:
- Источник: Все пользователи
- Категория приложений: Приложения ИИ
- Действие: Перенаправление
- URL перенаправления: URL Microsoft 365 Copilot
Вовлечение пользователей перед доступом к ChatGPT
Организация разрешает пользователям доступ к ChatGPT, но хочет напомнить им не вводить конфиденциальные или регулируемые данные. Администратор создает правило вовлечения пользователя для ChatGPT, которое показывает уведомление об использовании ИИ, которое пользователи должны одобрить перед продолжением.
Пример настроек правила вовлечения пользователя:
- Источник: Все пользователи
- Приложение: ChatGPT
- Действие: Вовлечение пользователя
- Уведомление пользователя: Уведомление о безопасности ИИ для вовлечения пользователя с рекомендациями по использованию
Понимание политики доступа пользователей
Правила политики доступа пользователей определяют, как безопасность ИИ обрабатывает доступ к приложениям ИИ, доступным через браузер для пользователей с установленным плагином безопасности ИИ. Для каждого запроса политика проверяет базу правил и применяет действие из первого совпадающего правила, например, блокировка несанкционированного приложения ИИ или перенаправление пользователя к одобренному корпоративному ресурсу ИИ.
Политика доступа пользователей и политика взаимодействия пользователей
Политика доступа пользователей и политика взаимодействия пользователей могут применяться к одному и тому же приложению ИИ. Движок безопасности ИИ сначала определяет, может ли пользователь получить доступ к приложению ИИ. Для разрешенных приложений применяется политика взаимодействия пользователей к запросам и взаимодействиям пользователя.
Если политика доступа пользователей блокирует доступ или перенаправляет пользователя к другому ресурсу ИИ, правила политики взаимодействия пользователей не применяются к исходному доступу приложения.
Действия правила
Каждое правило включает критерии трафика, которые должны быть соблюдены, и применяемое действие. Cato назначает уровень риска безопасности ИИ для каждого приложения ИИ, и вы можете использовать эту классификацию в правилах, чтобы применить контроль доступа к приложениям с одинаковым уровнем риска.
Доступные действия и применяется ли Политика взаимодействия пользователей:
- Разрешить: Разрешает доступ к приложению ИИ. Поскольку пользователь продолжает использовать приложение, правила политики взаимодействия могут применяться.
- Блокировать: Блокирует доступ к приложению ИИ. Правила политики взаимодействия пользователей не применяются, так как доступ заблокирован.
- Перенаправление: Перенаправляет пользователя из запрашиваемого приложения ИИ на настроенный URL. Правила политики взаимодействия пользователей применяются только к приложению, определенному перенаправленным URL.
- Вовлечение пользователя: Показывает пользователю уведомление о безопасности ИИ перед продолжением доступа. Правила политики взаимодействия пользователей применяются только в случае, если пользователь одобряет доступ к приложению ИИ.
Порядок правил
Правила оцениваются сверху вниз. Когда запрос соответствует правилу, применяется действие правила, и политика не оценивает последующие правила для этого запроса.
Порядок правил имеет значение, когда специфический одобренный ресурс ИИ и более широкое правило приложения ИИ могут оба соответствовать тому же запросу. Разместите конкретное правило первым, чтобы одобренный доступ был обработан до того, как более общее правило применит блокировку, перенаправление или вовлечение.
Исключения
Исключения позволяют сохранить общее правило, исключая его для конкретных пользователей, групп или приложений ИИ. Когда запрос соответствует исключению, действие правила пропускается, и оценка политики продолжается с следующего правила. Это позволяет применить широкий контроль доступа к большинству пользователей, при этом разрешая одобренные исключения без дублирования правила.
Создание правил политики доступа пользователей
Правила политики доступа пользователей контролируют, как безопасность ИИ обрабатывает доступ к приложениям ИИ через браузер. Каждое правило определяет трафик, который соответствует по пользователю, группе или приложению, и действие, которое нужно применить, когда этот трафик обнаружен.
Для правил блокировки или вовлечения пользователя с пользовательским сообщением убедитесь, что шаблон уведомления безопасности ИИ существует до создания правила. Если вы хотите исключить конкретных пользователей или приложения из правила, не удаляя его полностью, используйте исключения, а не создавайте дублирующее правило с узкой областью.
Для создания правила политики доступа пользователей
- Из меню навигации выберите Безопасность ИИ > Политика доступа.
- Кликните на вкладку Политика доступа пользователей.
- Кликните на Новое правило. Панель настроек правила открывается.
- Введите Имя правила.
- В разделе Источник выберите пользователей или группы, к которым применяется это правило.
- В разделе Приложение выберите соответствующее приложение ИИ или категорию приложений.
- Из выпадающего меню Действие выберите, как безопасность ИИ реагирует, когда пользователь получает доступ к соответствующему приложению ИИ.
- Если вы выбрали Перенаправление, введите URL перенаправления.
- Если вы выбрали Блокировать или Вовлечение пользователя, выберите шаблон Уведомление пользователя.
- Используйте переключатель Включено для активации правила.
- Кликните Сохранить. Политика обновлена.
Создание исключений
Вы можете использовать исключения для игнорирования конкретного правила и продолжения с правилами более низкого приоритета. Например, если правило №3 блокирует доступ к Microsoft Copilot для всех пользователей, вы можете создать исключение, которые не будет блокировать доступ для отдела исследований и разработок.
Исключение для правила является подмножеством правила, и некоторые параметры применяются как к правилу, так и к исключению:
- Когда вы отключаете правило, исключение также отключается.
- Когда вы перемещаете правило и изменяете приоритет, исключение также перемещается.
Чтобы добавить исключение:
- Из меню навигации выберите Безопасность > Безопасность ИИ.
- Кликните на вкладку Политика доступа пользователей.
- Рядом с правилом, для которого вы хотите создать исключение, кликните три точки и выберите Добавить исключение.
a. Определите имя и описание исключения.
b. В разделе Источник выборите пользователей или группы, к которым применяется исключение.
с. В разделе Приложение выберите приложение ИИ, категорию или уровень риска, к которому применяется исключение. - Кликните Сохранить.
Создание шаблонов уведомлений безопасности ИИ
Настройте шаблоны уведомлений, чтобы управлять, что пользователи видят, когда применяется правило блокировки или вовлечения. Используйте уведомления о блокировке, чтобы объяснить, почему доступ был отказан, и уведомления о вовлечении, чтобы направлять пользователей к безопасным решениям ИИ.
Уведомления о блокировке
Создайте уведомление о блокировке, чтобы объяснить пользователям, почему доступ к приложению ИИ был отказан.
Чтобы создать шаблон уведомления о блокировке безопасности ИИ
- Из меню навигации выберите Учетная запись > Уведомления пользователей.
- Кликните Новый > Уведомление о безопасности ИИ для пользователя.
- Введите Имя шаблона.
- Из выпадающего меню Тип политики выборите AI Security Взаимодействие.
- Из выпадающего меню Тип страницы выберите Блокировка.
- В разделе Настройки уведомлений введите Заголовок и Описание для сообщения уведомления.
- (Опционально) Выберите Показать сообщение об объяснение обнаружения, чтобы включить детали о том, что вызвало блокировку.
- Кликните Сохранить.
Уведомления о вовлечении
Создайте уведомление о вовлечении, чтобы направить пользователей к безопасным решениям ИИ перед доступом к приложению ИИ.
Определите варианты, позволяющие пользователям подтвердить политику и продолжить, или перенаправить их к санкционированному ресурсу ИИ.
Контролируйте, как часто один и тот же пользователь видит уведомление, установив частоту уведомлений. Когда уведомление подавлено, пользователи переходят непосредственно к приложению без вовлечения.
Чтобы создать шаблон уведомления о вовлечении безопасности ИИ
- Из меню навигации выберите Учетная запись > Уведомления пользователей.
- Кликните Новый > Уведомление о безопасности ИИ для пользователя.
- Введите Имя шаблона.
- Из выпадающего меню Тип политики выборите AI Security Доступ.
- Из выпадающего меню Тип страницы выберите Вовлечение пользователя.
- В разделе Настройки уведомлений введите Заголовок и Описание для сообщения уведомления.
- (Опционально) Для представления пользователям вариантов нажмите Добавить вариант. Для каждого варианта введите Текст и выберите Действие: Продолжить, Блокировка или Перенаправление.
- Из выпадающего меню Частота уведомлений выберите, как часто уведомление показывается пользователю.
- Кликните Сохранить.