Пользовательские приложения ИИ могут обрабатывать запросы, содержащие конфиденциальные данные, небезопасный контент, попытки атак или запросы, нарушающие Политику развертывания ИИ вашей организации. Блокирование доступа к этим приложениям может снизить риски, но также ограничить ценность одобренных рабочих процессов ИИ.
Политика развертывания взаимодействий охранников позволяет контролировать, как специфические охранники обрабатывают взаимодействия ИИ, инспектируя контент в реальном времени и применяя действия при обнаружении рискованного или несоответствующего контента. Вместо применения одинаковой защиты ко всем охраняемым рабочим процессам, вы можете создавать детализированные правила для выбранных охранников и назначать профили движков и действия, соответствующие требованиям безопасности каждого приложения.
Используя правила Политики развертывания взаимодействий охранников, вы можете обнаруживать, блокировать, анонимизировать или контролировать взаимодействия ИИ на основе требований безопасности и управления вашей организации. Это помогает защитить конфиденциальную информацию и обеспечивать соблюдение Политики развертывания ИИ для приложений, которые вы создаете, не нарушая законное использование бизнеса.
Настройка Политики развертывания взаимодействий охранников
Прежде чем создавать правила, включите Политику развертывания взаимодействий охранников для конечных пользователей в Приложении управления Cato.
Чтобы включить политику:
В навигационном меню выберите AI Безопасность.
Под AI Безопасность приложений выберите Политику взаимодействий охранников
Включите переключатель Политика ИИ приложений.
Настройка правила Политики развертывания взаимодействий охранников
Правила в Политике взаимодействий охранников оцениваются независимо от их позиции в базе правил. Если активировано более одного правила, применяется более строгое действие. Например, если есть правило с действием Мониторинг, и другое правило с действием Блокировка, будет применено действие Блокировка.
Чтобы создать правило:
На странице Политики развертывания взаимодействий ИИ нажмите Новый.
В разделе Общие настройте поля, например Имя и Описание, а также позицию правила.
В разделе Охранники выберите специфических охранников, к которым применяется правило, или нажмите Выбрать все для применения правила ко всем охранникам.
В разделе Профиль движка выберите профиль, используемый для оценки запросов ИИ.
Профили движков – это тип данных, против которого проверяется контент. Например, ПИИ для проверки наличия социальных номеров в запросе.
В разделе Действие выберите действие, которое будет применяться, если запрос соответствует профилю контента, например, Блокировать.
Чтобы определить область применения правила, выберите по крайней мере одно Направление, на котором правило будет применяться.
Нажмите Сохранить.