Работа с AI Системами Безопасности

Системы Безопасности на базе ИИ помогут защитить и управлять приложениями, которые вы разрабатываете, а также применять меры безопасности во время выполнения. Они позволяют внедрять правила для проверки и контроля трафика между приложениями на базе ИИ, которые вы создаете, пользователями и поддерживаемыми моделями ИИ. Вы используете системы для обнаружения вредоносных запросов, небезопасного контента и утечки конфиденциальных данных до того, как они повлияют на ваше приложение. Системы также дают вам возможность видеть, как используются приложения ИИ, чтобы вы могли мониторить нарушения и применять организационные политики с единым контрольным пунктом.

Система безопасности действует как уровень применения для AI Безопасности. Она оценивает запросы и, при необходимости, реакции модели по сравнению с обнаружениями и действиями, которые вы настраиваете в своей политике. На основании совпадения политики, система безопасности может разрешить, заблокировать или зафиксировать взаимодействие.

Как работают системы охраны

Системы проверяют трафик ИИ и сравнивают его с обнаружениями и действиями, определенными в вашей политике. Это позволяет вам применять контрольные меры безопасности и управления к взаимодействиям ИИ до того, как трафик достигнет поставщика модели и, в некоторых случаях, до того, как ответ будет возвращен пользователю.

Поток трафика

AI Безопасность поддерживает различные модели движения трафика в зависимости от того, как ваше приложение интегрируется с системой безопасности.

• Прокси режим - в этом режиме система безопасности находится в пути между приложением и провайдером ИИ. Ваше приложение отправляет запросы через систему безопасности, которая направляет трафик к провайдеру после оценки содержимого в соответствии с политикой.

  Этот режим позволяет применять контролирующие меры прямо в пути трафика. Система может проверить запрос прежде, чем он достигнет провайдера, и, где возможно, проверить ответ, прежде чем он будет возвращен приложению. Это дает вам прямую точку применения для защиты в реальном времени и видимости.

  

• API режим - в API режиме ваше приложение взаимодействует с системой безопасности через интеграцию на основе API, а не маршрутизирует трафик через встроенный прокси. Приложение отправляет соответствующее содержание на систему безопасности для оценки как часть потока приложения.

  Этот режим дает больше гибкости для сред, где встроенное развертывание не является предпочтительной архитектурой. Система безопасности все равно оценивает содержимое в соответствии с политикой, но поток применения зависит от того, как ваше приложение интегрировано с системой безопасности.

  

Что обнаруживает и применять Система безопасности

Вы можете использовать системы для обнаружения и применения политики для ряда связанных с ИИ рисков, включая:

• Попытки введения запроса

• Небезопасный или ограниченный контент

• Утечку конфиденциальных данных, таких как личная идентификационная информация (PII) или защищенная медицинская информация (PHI)

• Нарушения тематики или использования на основе политики компании

• Подозрительные или несоответствующие взаимодействия ИИ

Когда система безопасности обнаруживает совпадение, она применяет действие, заданное в политике. Например, система может заблокировать запрос, разрешить его или зафиксировать событие для мониторинга и исследования.

Случай использования - Защита внутренней системы на базе ИИ

Ваша компания использует внутреннего помощника ИИ, чтобы помочь сотрудникам с поиском внутренней документации и суммированием содержимого. Чтобы снизить риск утечки конфиденциальных данных, введения запроса и нарушений политики, вы применяете AI Систему Безопасности к трафику приложения.

Система безопасности проверяет запросы и, где возможно, ответы в соответствии с вашей политикой AI Безопасности. Вы можете обнаруживать небезопасные или несоответствующие взаимодействия и блокировать или фиксировать их до того, как содержимое достигнет провайдера ИИ или будет возвращено пользователю.

Поддерживаемые провайдеры

Прокси режим поддерживает следующие провайдеры и форматы API.