В этой статье объясняется конечный процесс создания ИИ защиты, подключения пользовательского приложения к защите и настройки политики взаимодействия защиты.
Обзор.
Cato AI Security Guards позволяют обеспечить безопасность для пользовательских AI приложений, направляя трафик приложения через Cato, прежде чем он достигнет провайдера больших языковых моделей (LLM). Это дает администраторам видимость взаимодействий ИИ и позволяет им применять политику правил для подсказок, ответов, входных и выходных данных инструментов.
Шаг 1 - Создание ИИ защитника безопасности
Создайте защитника, чтобы определить, как Cato соединяется с AI сервисом или пользовательской конечной точкой LLM. В режим прокси, приложение отправляет трафик на конечную точку защитника, и защитник пересылает трафик на конечную точку провайдера после проверки.
Для создания ИИ защитника безопасности:
Выберите из меню навигации AI Безопасность > Защитники.
Нажмите Новый.
Введите Имя защитника.
Под Выбор типа защитника, выберите Прокси.
Под Выбор AI сервиса, выберите соответствующий AI сервис или пользовательскую конечную точку.
В URL конечной точки, введите конечную точку провайдера.
Настройте параметры размещения защитника.
Нажмите Сохранить.
Защитник создан и доступен на странице защитников.
Шаг 2 - Получение деталей соединения защитника
После создания защитника, получите детали соединения, которое приложение использует для отправки трафика через Cato. Эти значения идентифицируют конечную точку защитника, аутентифицируют приложение для защиты и определяют любые необходимые детали аутентификации провайдера.
Чтобы получить детали соединения защитника:
На странице защитников, откройте защитника.
Скопируйте конечную точку защитника.
Скопируйте API ключ защитника.
Проверьте обязательные заголовки запросов.
Проверьте требования аутентификации провайдера.
Проверьте требования заголовков идентификатора сессии, если это актуально.
Используйте эти значения при обновлении конфигурации приложения.
Шаг 3 - Подключите приложение к защитнику
Обновите приложение так, чтобы оно отправляло AI запросы на конечную точку защитника, а не непосредственно к LLM провайдеру. Приложение аутентифицируется у защитника, и защитник пересылает трафик на конечную точку провайдера в соответствии с конфигурацией защитника.
Чтобы подключить приложение к защитнику:
Обновите конечный URL приложения от конечной точки LLM провайдера до конечной точки защитника.
Добавьте обязательный заголовок аутентификации защитника.
Добавьте детали аутентификации провайдера, если требуется.
Добавьте детали идентификатора сессии, если требуется.
Отправьте тестовый трафик через приложение.
Трафик приложения теперь маршрутизируется через защитника.
Шаг 4 - Подтвердите, что Защитник получает трафик
До настройки правил политики, подтвердите, что защитник получает трафик от приложения. Это помогает убедиться, что приложение корректно подключено к защитнику и что Cato может проверить AI взаимодействия.
Чтобы подтвердить, что защитник получает трафик:
Выберите из меню навигации AI Безопасность > Защитники.
Откройте защитника.
Откройте Журнал защитника.
Просмотрите созданные сессии.
Подтвердите, что подсказки и ответы зарегистрированы в журнале.
На этом этапе защитник обеспечивает видимость трафика приложения. Исполнение политики начинается только после создания и публикации правил Политики Взаимодействия Защитников.
Шаг 5 - Создание и публикация Правил Политики Взаимодействия Защитников
Политика Взаимодействия Защитников определяет, как защитники обрабатывают взаимодействия ИИ. Каждое правило указывает на защитника, к которому оно применяется, профиль двигателя обнаружения, действие и направление трафика для проверки.
Правила могут применять действия, такие как мониторинг, блокировка, анонимизация конфиденциальных данных или сочетание анонимизации с мониторингом или блокировкой. Правила оцениваются вне зависимости от их положения в базе правил. Если несколько правил соответствуют одному и тому же взаимодействию, применяется более строгое действие.
Чтобы создать и опубликовать правила Политики Взаимодействия Защитников:
Из меню навигации выберите AI Безопасность > Политика взаимодействия с защитниками AI.
Нажмите Новый.
Введите правило Имя и Описание.
Используйте переключатель Включено для активации правила.
В Защитники, выберите защитника, к которому применяется правило.
В Профиль двигателя, выберите категорию обнаружения для правила.
В Действие, выберите действие, которое необходимо применить при совпадении правила.
В Направление, выберите направление трафика для инспекции.
Нажмите Сохранить.
Повторите эти шаги для дополнительных правил.
Проверьте неопубликованную редакцию.
Нажмите Опубликовать.
После опубликования политики защитник применяет активные правила на трафике, проходящем через него.
Шаг 6 - Подтверждение политики
Подтвердите политику, чтобы убедиться, что защитник применяет ожидаемые правила и что активность политики видна в журналах защитника.
Чтобы подтвердить политику:
Выберите из меню навигации AI Безопасность > Защитники.
Откройте защитника.
На странице Обзора, проверьте активные правила.
Откройте Журнал защитника.
Просмотрите сессии, соответствующие правилам политики.
Подтвердите обнаруженное содержимое, примененные действия и результаты исполнения.