Обзор
Пользователи часто взаимодействуют с чат-приложениями ИИ, являющимися частью их повседневной работы, не полностью учитывая риски безопасности, соответствия и утечки данных. Полное блокирование доступа к этим инструментам может снизить риск, но также устраняет преимущества в продуктивности, которые предоставляют рабочие процессы на базе ИИ.
Политика развертывания взаимодействий ИИ позволяет контролировать, как пользователи взаимодействуют с чат-приложениями ИИ, инспектируя запросы и поддерживаемые прикрепленные файлы в реальном времени, затем реагируя, когда обнаружен рискованный контент. Вместо полного блокирования чатов ИИ вы можете применять детальные средства защиты, которые помогают предотвратить утечку конфиденциальных данных, нарушение политики и риски соответствия, при этом позволяя одобренное использование ИИ. Каждое правило инспектирует трафик через плагин браузера, прямую интеграцию API или вашу существующую сетевую инфраструктуру, чтобы вы могли сопоставить покрытие с AI-приложениями и устройствами, которые нужно защитить.
Определите правила взаимодействия с пользователем для блокировки, анонимизации, оповещения или мониторинга определенных типов контента запросов в соответствии с требованиями безопасности и управления вашей организации. Такой подход позволяет вам защищать конфиденциальную информацию и внедрять политики использования ИИ без нарушения легитимного и продуктивного использования инструментов ИИ.
Примечание: При использовании модуля Интеграции Безопасности AI, Политики Взаимодействия AI поддерживают только мониторинг действий.
Предпосылки
Инспекция TLS должна быть включена на уровне учетной записи для Политики взаимодействия AI с целью инспекции трафика AI. Если Инспекция TLS отключена для учетной записи, Политики взаимодействия AI не инспектируют трафик AI.
Правила Политики взаимодействия AI инспектируют соответствующий трафик AI на основе настройки Инспекции TLS на уровне учетной записи и не требуют специфического правила Инспекции TLS.
Правила Политики взаимодействия AI имеют приоритет над политиками Инспекции TLS и инспектируют зашифрованный трафик, даже когда для приложения или назначения настроено правило обхода TLS.
Межсетевой экран Интернета должен быть включен для инспектирования сетевого трафика, и вы должны обеспечить, чтобы правило по умолчанию для QUIC было включено в межсетевой экран Интернета.
Настройка политики взаимодействия с пользователем
Включение Политики развертывания
Прежде чем создавать правила, включите Политику взаимодействия с пользователем для конечных пользователей в приложении управления Cato.
Чтобы включить Политику развертывания взаимодействий ИИ для конечных пользователей:
From the navigation menu, click AI Security > User Interaction Policy.
Включите переключатель Политика развертывания взаимодействия пользователей.
Понимание типов перехвата
Каждое правило Политики взаимодействия с пользователями использует Тип перехвата, чтобы определить, как Cato инспектирует AI трафик для этого правила, основываясь на AI приложениях, которые необходимо покрыть, и уровне применимости.
Расширение браузера: Легковесное расширение для Chrome и Edge, развёртываемое с помощью вашего решения MDM. Оно инспектирует трафик AI приложений непосредственно в браузере, обеспечивая надежную видимость того, кто использует какие инструменты AI, включая неуправляемые устройства, не маршрутизируемые через вашу сеть. Трафик инспектируется встроенно, поэтому этот метод может блокировать AI трафик.
Сеть: Работает с инфраструктурой облака Cato: Клиент Cato, Корпоративный браузер Cato или Socket. Для аккаунтов, развёртывающих клиент Cato для своих пользователей, этот тип перехвата не требует дополнительного развёртывания или настроек. Трафик инспектируется встроенно, поэтому этот метод может блокировать AI трафик.
Интеграция API: Напрямую подключается к разрешённым, утверждённым в компании AI приложениям, например интеграции с Microsoft, GitHub или Anthropic через их API. Этот метод предоставляет мониторинг и оповещение о нарушениях политики в почти реальном времени, но не блокирует трафик. Он предназначен для видимости в доверенных, уже утверждённых AI приложениях, а не для применения.
Понимание инспекции файловых вложений
Политика взаимодействия пользователей может инспектировать поддерживаемый текстовый контент и читать и анализировать текст в файлах изображений, которые пользователи прикрепляют к запросам в поддерживаемых приложениях ИИ. Инспекция файловых вложений работает независимо от DLP и применяет Политику взаимодействия с пользователями к содержимому, извлечённому из вложенного файла.
Инспекция файловых вложений поддерживается для ChatGPT, Gemini, Copilot и Claude.
Инспекция файловых вложений имеет следующие ограничения:
Поддерживаются файлы до 10 МБ
Поддерживаемые текстовые файлы, например, TXT, JSON, XLS, PDF и DOCX. OCR
Поддерживаемые файлы изображений, например, PNG, JPG, JPEG, JFIF и WEBP
Только действия Блокировка и Мониторинг поддерживаются для содержимого файлов. Анонимизация не поддерживается для содержимого файлов.
Инспекция файлов оценивает выбранное содержимое файла, поэтому обнаружение может варьироваться, когда рискованное содержимое появляется в разделах, которые не сканируются.
Инспекция файловых вложений поддерживается только для AI безопасности для пользователей.
Настройка правила политики взаимодействия с пользователем
Чтобы создать правило политики взаимодействия с пользователем:
From the navigation menu, click AI Security > User Interaction Policy.
Нажмите Новый и выберите Тип взаимодействия для правила.
В разделе Общие настройки настройте поля, например, Имя и Описание.
В разделе Источник выберите пользователей или группы, к которым применяется правило, или оставьте Любой, чтобы применить правило ко всем источникам.
В разделе Приложения выберите AI приложения, к которым применяется правило, или оставьте Любой, чтобы применить правило ко всем поддерживаемым приложениям.
В разделе Профили движков выберите профиль, используемый для оценки запросов ИИ.
В Действие разделе выберите действие, которое будет применено, если запрос соответствует профилю контента, например Блокировка.
Если вы создаете правило API, единственное доступное действие — Мониторинг.
(Опционально) Выберите Шаблон уведомления, чтобы уведомлять пользователей, когда действие применяется.
Click Save. The panel closes, and the settings are updated in the policy.
The changes are saved to your unpublished revision and are available for editing until they are published or discarded.Нажмите Опубликовать. Окно подтверждения открывается, нажмите Опубликовать.
Понимание Действий
Политика развертывания AI поддерживает следующие действия для каждого правила:
Блокировка - запрос заблокирован, и никакая информация не передается производителю AI.
Мониторинг - запрос отправляется производителю AI, и взаимодействие отслеживается.
Анонимизация и Блокировка - если выбранный вами Профиль движка включает детекторы, которые:
Поддержка анонимизации контента: контент анонимизирован и отправлен.
Не поддерживается анонимизация контента; запрос заблокирован.
Анонимизация и Мониторинг - если выбранный вами Профиль движка включает детекторы, которые:
Поддержка анонимизации контента: контент анонимизирован и отправлен.
Проведение анонимизации контента не поддерживается. Запрос отправляется производителю ИИ, и взаимодействие мониторится.
Примечание: Анонимизация поддерживается только для текстового содержимого, которое детектор может анонимизировать. Когда вы выбираете действие анонимизации, Cato анонимизирует поддерживаемое содержимое. Для содержимого, которое нельзя анонимизировать, включая содержимое файлов, Cato применяет другое действие в правиле: Блокировка или Мониторинг.