В этой статье объясняется, как использовать панель управления GenAI Apps для мониторинга использования приложений GenAI в вашей среде. Для получения дополнительной информации о защите приложений на основе ИИ см. Защита трафика приложений ИИ.
Обзор
Панель управления GenAI Apps обеспечивает центральную, комплексную видимость использования приложений GenAI в реальном времени, включая теневая AI. Панель управления детализирует, какие AI-приложения используются по всей вашей организации и кем, и отслеживает все взаимодействия пользователей и обмен конфиденциальными данными. Это помогает выявить, были ли конфиденциальные данные, например исходный код, PII или финансовая информация, раскрыты LLM. Раскрытие этих конфиденциальных данных LLM может создать риск безопасности, так как злоумышленники могут запросить модель для извлечения данных. С помощью видимости, предоставляемой панелью управления GenAI Apps, вы можете заблаговременно предотвращать утечки данных, выявляя риски.
Панель управления также классифицирует GenAI приложения, позволяя применять детализированные политики безопасности через правила контроля приложений или DLP, адаптированные к вашим специфическим требованиям.
Получение видимости этих данных является ключевой частью защиты вашей организации и ее конфиденциальных данных при обеспечении безопасного использования приложений на основе ИИ. Для получения дополнительной информации о разработке стратегии защиты вашей организации при использовании приложений на основе ИИ см. Защита трафика приложений ИИ.
Для панели управления GenAI приложениями требуется лицензия CASB. Для получения дополнительной информации о покупке лицензии CASB, пожалуйста, свяжитесь с вашим представителем Cato.
Пример использования - идентификация теневых AI и управление AI
Команда безопасности компании ABC имеет четкую политику развертывания данных о том, какие GenAI приложения могут использоваться. Они создают правила контроля приложений и DLP для обеспечения соблюдения политики. Тем не менее, они часто не знают, какие GenAI приложения используются в их организации. Это создает риск безопасности, так как без этой информации они не могут обеспечить соблюдение своей политики безопасности.
Чтобы уменьшить этот риск и идентифицировать теневые AI, команда безопасности проводит обзор:
Топ Приложений виджет, чтобы выявить, кто использует теневые AI и уровень риска, связанный с приложением
Загрузки файла виджет, чтобы определить загрузку конфиденциальных файлов в несанкционированные приложения и создать новые политики развертывания данных для предотвращения дальнейших утечек
Классификация виджет, чтобы выявить дубликаты разрешенных приложений по категориям и ограничить доступ к несанкционированным приложениям
Начало работы с панелью управления GenAI приложениями
Чтобы получить доступ к панели управления GenAI приложениями, перейдите Безопасность > GenAI приложения.
Панель управления GenAI приложениями разделена на три секции:
Сводка: Общий обзор GenAI приложений, используемых в вашей экосистеме и их категориях
Обзор: Видимость GenAI приложений, используемых в вашей среде, их событий, активности пользователей и предпринятых действий
Защита данных: Аналитика о нарушениях политики данных и пользователях и файлах, участвующих в этом
Всю панель управления можно фильтровать по пользователю или приложению для более глубокого изучения использования GenAI.
Заметка:
Некоторые виджеты на панели управления требуют, чтобы Контроль приложений был включен с правилом, которое мониторит всю облачную активность во всех облачных приложениях.
Эти таблицы объясняют виджеты на панели управления GenAI приложениями.
Понимание раздела Сводка
Эта таблица объясняет виджеты в разделе Сводка.
Название | Description |
|---|---|
GenAI приложения | Сколько инструментов GenAI используется. |
Классификация | Количество санкционированных и несанкционированных GenAI приложений. |
Рискованные приложения | Количество рискованных приложений GenAI, которые используются. |
Пользователи | Количество пользователей, использующих приложения GenAI. |
Нарушения данных | Количество нарушений данных, обнаруженных в GenAI приложениях. |
Использование сети | Использование сети GenAI приложениями. |
Приложения по категориям | Количество GenAI приложений, используемых по AI категориям. |
Понимание секции Обзор
Эта таблица объясняет виджеты в секции Обзор.
Имя | Описание |
|---|---|
События по действиям | Подробный обзор действий, предпринятых Cato по событиям, созданным GenAI приложениями. |
Приложения по | Список всех GenAP приложений, используемых в вашей среде, упорядоченный по количеству пользователей, имеющих доступ к приложению, или по оценке риска приложения. |
Наиболее активные пользователи GenAI | Список пользователей с наибольшим использованием сети GenAI приложениями. |
Топ активности пользователей во времени | Наиболее частые активности пользователей на GenAI приложениях со временем. Вы можете увидеть точное количество активностей, нажав на график. Это помогает вам обнаружить аномалии в действиях пользователей. |
Понимание секции Защиты данных
Эта таблица объясняет виджеты в секции Защита данных.
Для просмотра этого раздела необходима лицензия DLP. Для получения дополнительной информации о покупке лицензии DLP, пожалуйста, свяжитесь с вашим представителем Cato.
Имя | Description |
|---|---|
Нарушения по профилю данных | Доля каждого типа данных, участвующего в нарушениях и Топ-4 приложений с наибольшим количеством нарушений данных. |
Нарушения политики во времени | Количество нарушений политики данных со временем. |
Наиболее активные пользователи, делящиеся конфиденциальными данными | Список пользователей, которые чаще всего нарушают политику данных. |
Нарушения политики | Список правил DLP, которые чаще всего нарушались. |
Загрузка файлов | Список последних файлов, загруженных в приложения GenAI. |