Пункт защиты является точкой применения безопасности ИИ в ваших пользовательских приложениях. Вы используете пункты защиты для инспекции взаимодействий ИИ, применения политик и возможности видеть, как защищенные приложения используются. Для получения дополнительной информации о концепциях охранников и их применении см. Работа с охранниками ИИ безопасности.
В этой статье объясняется, как создать пункт защиты, использовать созданный ключ аутентификации для подключения его к приложению ИИ и мониторить его активность после развертывания.
Определение пункта защиты
Вы создаете и управляете пунктами защиты на странице Безопасность ИИ > Пункты защиты. Эта страница содержит список всех пунктов защиты в вашей учетной записи и включает сводную информацию, такую как тип пункта защиты, местоположение хостинга, взаимодействия ИИ, количество нарушений и дата создания.
Чтобы создать пункт защиты
В меню навигации выберите Безопасность ИИ > Пункты защиты и нажмите Новый.
Введите имя пункта защиты. Cato рекомендует указать описательное имя, чтобы помочь вам вспомнить, к какому приложению применяется пункт защиты.
Выберите Тип пункта защиты:
Прокси: пункт защиты перехватывает запросы в реальном времени, и Cato выполняет настроенное действие
API: пункт защиты проверяет запросы, не перехватывая их, и Cato возвращает результат, чтобы ваше приложение могло применить действие
AI Gateway: Пункт защиты интегрируется с существующим шлюзом ИИ для сканирования и автоматического перехвата запросов
Если вы выбрали тип прокси пункта защиты, выберите Сервис ИИ для связи с пунктом защиты, и введите ключ API для сервиса.
Нажмите Проверить, чтобы убедиться, что вы ввели правильный ключ
Если вы выбрали тип пункта защиты API, определите, следует ли хостить пункт защиты на Outpost.
(Дополнительно) Определите, как Cato обрабатывает запросы, которые нельзя инспектировать. Включите переключатель Разрешить транзит, чтобы перенаправить запросы на конечную точку AI-сервиса без инспекции. Отключите разрешение на передачу, чтобы отклонить эти запросы.
Нажмите Save.
Внедрение пункта защиты в ваше приложение ИИ
После создания пункта защиты откройте его со страницы Пункты защиты, чтобы просмотреть детали внедрения для вашего приложения. Страница подробностей пункта защиты предоставляет информацию, необходимую для подключения трафика вашего приложения к пункту защиты.
В зависимости от типа пункта защиты и сервиса, страница может включать:
Подробности конечной точки
Требуемые заголовки
Формат тела запроса
API ключи пункта защиты
На странице также есть образец кода запроса, который вы можете скопировать и использовать как отправную точку для интеграции вашего приложения.
Используйте созданный фрагмент для обновления вашего приложения, чтобы трафик проходил через пункт защиты или проверялся им, в зависимости от выбранного типа интеграции.
Мониторинг активности пункта защиты
После развертывания пункта защиты вы можете просматривать его активность, чтобы понять, как он используется, какие правила к нему применяются, и выявляет ли он нарушения политики. При нажатии на конкретную сессию вы также можете увидеть фактические данные взаимодействия, которые были отправлены модели и от модели.
Примечание: Просмотр данных сессии возможен только если у вас есть необходимые разрешения на чтение чувствительного контента. Для получения дополнительной информации о ролях и разрешениях, см. Управление ролями администраторов с использованием RBAC.
На странице обзора пункта защиты показывается сводная информация для выбранного пункта защиты, включая взаимодействия, процент нарушений, активные правила и многое другое.
Вы можете использовать эти данные, чтобы понять, как часто используется пункт защиты, какие политические меры активно применяются для него, и как часто взаимодействия вызывают обнаружения или нарушения.
Журнал защиты
Страница журнала защиты предоставляет видимость уровня сессии в трафик, обрабатываемый пунктом защиты. Для каждой сессии вы можете просматривать сводные поля, такие как:
ID Сессии
Вызовы
Обнаружения
Первая Активность
Последняя Активность
Разверните сессию, чтобы просмотреть более детальную информацию, такую как, какие действия были предприняты, временная метка сессии и многое другое.
Эти данные помогают исследовать активность пункта защиты более детально и подтверждать, что пункт защиты применяет политику как ожидается.