Использование панели управления GenAI приложениями

В этой статье объясняется, как использовать панель управления GenAI Apps для мониторинга использования приложений GenAI в вашей среде. Для получения дополнительной информации о защите приложений на основе ИИ см. Защита трафика приложений ИИ.

Обзор

Панель управления GenAI приложениями предоставляет централизованную и всеобъемлющую видимость использования встроенных GenAI приложений, включая теневые AI. Панель управления показывает, какие AI приложения используются в вашей организации, кем они используются, и отслеживает все взаимодействия пользователей и обмен конфиденциальными данными. Это помогает выявить, были ли конфиденциальные данные, например исходный код, PII или финансовая информация, раскрыты LLM. Раскрытие этих конфиденциальных данных LLM может создать риск безопасности, так как злоумышленники могут запросить модель для извлечения данных. С помощью видимости, предоставляемой панелью управления GenAI приложениями, вы можете проактивно предотвращать утечки данных, идентифицируя риски.

Панель управления также классифицирует GenAI приложения, позволяя применять детализированные политики безопасности через правила контроля приложений или DLP, адаптированные к вашим специфическим требованиям.

Получение видимости этих данных является ключевой частью защиты вашей организации и ее конфиденциальных данных при обеспечении безопасного использования приложений на основе ИИ. Для получения дополнительной информации о разработке стратегии защиты вашей организации при использовании приложений на основе ИИ см. Защита трафика приложений ИИ.

Для панели управления GenAI приложениями требуется лицензия CASB. Для получения дополнительной информации о приобретении лицензии CASB, пожалуйста, свяжитесь с вашим представителем Cato.

Пример использования - идентификация теневых AI и управление AI

Команда безопасности компании ABC имеет четкую политику развертывания данных о том, какие GenAI приложения могут использоваться. Они создают правила контроля приложений и DLP для обеспечения соблюдения политики. Тем не менее, они часто не знают, какие GenAI приложения используются в их организации. Это создает риск безопасности, так как без этой информации они не могут обеспечить соблюдение своей политики безопасности.

Чтобы уменьшить этот риск и идентифицировать теневые AI, команда безопасности проводит обзор:

Топ Приложений виджет, чтобы выявить, кто использует теневые AI и уровень риска, связанный с приложением
Загрузки файла виджет, чтобы определить загрузку конфиденциальных файлов в несанкционированные приложения и создать новые политики развертывания данных для предотвращения дальнейших утечек
Классификация виджет, чтобы выявить дубликаты разрешенных приложений по категориям и ограничить доступ к несанкционированным приложениям

Начало работы с панелью управления GenAI приложениями

Чтобы получить доступ к панели управления GenAI приложениями, перейдите Безопасность > GenAI приложения.

Панель управления GenAI приложениями разделена на три секции:

Сводка: Общий обзор GenAI приложений, используемых в вашей экосистеме и их категориях
Обзор: Видимость GenAI приложений, используемых в вашей среде, их событий, активности пользователей и предпринятых действий
Защита данных: Аналитика о нарушениях политики данных и пользователях и файлах, участвующих в этом

Всю панель управления можно фильтровать по пользователю или приложению для более глубокого изучения использования GenAI.

Примечание

Примечание: Некоторые виджеты на панели управления требуют, чтобы Контроль приложений был включен с правилом, которое мониторит все активности в облаке через все облачные приложения.

Эти таблицы объясняют виджеты на панели управления GenAI приложениями.

Понимание секции Сводка

Эта таблица объясняет виджеты в секции Сводка.

Имя	Описание
GenAI приложения	Сколько инструментов GenAI используется.
Классификация	Количество санкционированных и несанкционированных GenAI приложений.
Риски приложения	Количество рискованных GenAI приложений.
Пользователи	Количество пользователей, использующих GenAI приложения.
Нарушения данных	Количество нарушений данных, обнаруженных в GenAI приложениях.
Использование сети	Использование сети GenAI приложениями.
Приложения по категориям	Количество GenAI приложений, используемых по AI категориям.

Понимание секции Обзор

Эта таблица объясняет виджеты в секции Обзор.

Имя	Описание
События по действиям	Подробный обзор действий, предпринятых Cato по событиям, созданным GenAI приложениями.
Приложения по	Список всех GenAP приложений, используемых в вашей среде, упорядоченный по количеству пользователей, имеющих доступ к приложению, или по оценке риска приложения.
Наиболее активные пользователи GenAI	Список пользователей с наибольшим использованием сети GenAI приложениями.
Топ активности пользователей во времени	Наиболее частые активности пользователей на GenAI приложениях со временем. Вы можете увидеть точное количество действий, нажав на график. Это помогает выявить аномалии в активности пользователей.

Понимание секции Защита данных

Эта таблица объясняет виджеты в секции Защита данных.

Для просмотра этой секции требуется лицензия DLP. Для получения дополнительной информации о приобретении лицензии DLP, пожалуйста, свяжитесь с вашим представителем Cato.

Имя	Описание
Нарушения по профилю данных	Пропорция каждого типа данных, участвующих в нарушениях, и Топ 4 приложений с наибольшими нарушениями данных.
Нарушения политики во времени	Количество нарушений политики данных во времени.
Топ пользователей, делящихся конфиденциальными данными	Список пользователей, которые чаще всего нарушают политику данных.
Нарушение политики	Список правил DLP, которые чаще всего нарушаются.
Загрузка файла	Список последних файлов, загруженных в GenAI приложения.