В этой статье объясняется, как поддерживать безопасный доступ к AI приложениям в вашей организации.
Использование инструментов на основе ИИ увеличивает производительность, но также представляет новые проблемы безопасности и риски для вашей организации. Например, пользователи могут вводить собственные данные в бесплатную версию приложения ИИ, что дает поставщику приложений право использовать эту информацию. Недоброжелатели могут запросить LLM приложения ИИ, чтобы извлечь собственные данные. По мере быстрого роста числа приложений ИИ команды безопасности сталкиваются с проблемой выяснения, какие приложения используются и где передаются конфиденциальные данные.
Чтобы защитить вашу организацию и её конфиденциальные данные, обеспечивая безопасное использование приложений ИИ, Cato рекомендует трехчастную стратегию:
-
Получить видимость: Поймите, какие приложения ИИ используются, кто их использует и как они применяются
-
Контролировать доступ: Внедрите политики для регулирования доступа к приложениям ИИ и обеспечения мер безопасности
-
Защитить данные: Охраняйте конфиденциальную информацию, предотвращая несанкционированный доступ или передачу внутри приложений ИИ
Использование комбинации функций позволяет внедрить эту стратегию и мониторить и защищать трафик приложений ИИ. Вы можете определить правила Межсетевого экрана Интернета, чтобы контролировать доступ к категории приложений ИИ и устанавливать правила для конкретных приложений ИИ. Кроме того, определите политику Контроля приложений, чтобы гарантировать, что пользователи имеют доступ только к вашему корпоративному арендатору для приложения ИИ или блокировать детализированные действия, защищая ваши собственные данные. Как дополнительный слой защиты, вы можете настроить политику Контроля данных для предотвращения передачи конфиденциальных данных в приложения ИИ.
Знание и понимание рисков, связанных с использованием приложений ИИ в вашей организации, может предотвратить риски утечки данных, нарушения соответствия и потенциальные уязвимости безопасности. Понимание того, какие приложения ИИ используются, кто их использует и как они взаимодействуют с конфиденциальными данными, позволяет вам внедрять политики, снижать угрозы и обеспечивать ответственное использование ИИ. Видимость также помогает оценить потенциальные риски приложений ИИ, поддерживать управление и согласовывать использование ИИ с вашей организационной системой безопасности.
Панель управления GenAI и Каталог приложений предоставляют вам видимость и понимание используемых в вашей среде приложений ИИ.
Панель управления GenAI предоставляет централизованную, всестороннюю видимость в использовании интегрированных приложений GenAI, включая тени ИИ. Панель управления демонстрирует, какие приложения ИИ используются в вашей организации, кем они используются, отслеживая все взаимодействия пользователей и передачи конфиденциальных данных. С видимостью, предоставляемой панелью управления GenAI, вы можете активно предотвращать утечки данных, идентифицируя риски. Для получения дополнительной информации см. Использование панели управления приложениями GenAI.
Каталог приложений содержит широкий спектр данных безопасности, соответствия и общей информации для сотен приложений и сервисов ИИ. Это включает в себя предоставление всех данных, необходимых для проведения TPRM (управление рисками третьих сторон), чтобы оценить риск использования этого приложения. Вы можете использовать каталог, чтобы узнать больше о приложении и решить, как его использовать в вашей организации. Для получения дополнительной информации см. Использование Каталога приложений.
Аудиторские действия предоставляют вам внеполосную видимость всех действий, выполненных любым пользователем в подключенном SaaS-приложении, даже если пользователь не подключен к облаку Cato. Microsoft Copilot и ChatGPT могут быть интегрированы с Cato, чтобы предоставить вам видимость чатов и данных, которыми делятся с этими приложениями. Для получения дополнительной информации см. Что такое Контроль приложений через API с Активностями приложений.
Компания ABC просматривает панель управления GenAI и выявляет неизвестный инструмент анализа кода на основе ИИ. Они ищут приложение в Каталоге приложений и находят, что у приложения уровень риска 6. Чтобы избежать риска раскрытия конфиденциальной информации, они создают роль контроля приложений для блокировки доступа к приложению.
Без надлежащего контроля доступа пользователи могут неосознанно вводить конфиденциальную информацию в модели ИИ, что приводит к утечке данных или нарушениям регламентов. Кроме того, непроверенные приложения ИИ могут вводить уязвимости безопасности, раскрывать собственный код или создавать вводящие в заблуждение или вредоносные контент. Установив строгие политики доступа, вы можете гарантировать, что только авторизованные пользователи взаимодействуют с авторизованными инструментами ИИ, минимизируя риски и обеспечивая принятие ИИ.
Cato поддерживает 8 системных категорий для приложений ИИ в дополнение к общей категории GenAI Tools. Эти категории могут быть использованы в Межсетевом экране Интернета для контроля доступа к категории приложений ИИ, например, приложениям помощников кода или к самым популярным приложениям ИИ, включая ChatGPT, AgentGPT, Google Bard, Elicit AI, MagicPen AI, Poe AI, OpenAI и другие.
Вы также можете определить правила для конкретных приложений ИИ или категорий приложений. Например, после создания правила, блокирующего трафик в категорию Генеративных AI инструментов, вы можете создать правило с более высоким приоритетом, которое позволит трафик к ChatGPT для конкретной группы пользователей, которым нужен доступ. Для получения дополнительной информации см. Что такое Межсетевой экран Интернета Cato?.
Следующий пример правил Межсетевого экрана позволяет Группе пользователей Исследовательской команде получить доступ к ChatGPT, блокируя при этом весь другой доступ к категории Генеративных AI инструментов:
Политика контроля приложений позволяет детально управлять доступом к приложениям на основе специфических критериев, таких как уровень риска приложения или степень его соблюдения норм. Для получения дополнительной информации о настройке правил контроля приложений см. Управление политикой контроля приложений.
Чтобы предотвратить раскрытие конфиденциальной информации в бесплатной версии приложения, вы можете создать правила в Политика контроля приложений, которые блокируют пользователям доступ к частным учетные записи и разрешают доступ только к вашему корпоративному арендатору. Например, вы можете определить правила для приложения OpenAI, которые разрешают активность входа только в арендатор вашей организации и блокируют все другие входы (например, вход с частный адрес электронной почты).
Ниже приведен пример базы правил, где первое правило разрешает вход в OpenAI для имен пользователей, включающих домен компании, а затем следующие правила блокируют все входы в OpenAI через прямую и стороннюю аутентификацию.
Для увеличения детализации, для некоторых приложений вы можете сбалансировать безопасность и производительность, разрешая пользователям доступ к необходимым приложениям, блокируя рискованные действия внутри них. Для этого вы можете создать правила в политике контроля приложений, которые включают детализированные активности. Например, вы можете разрешить доступ к Wordtune, но запретить пользователям загружать файлы.
Приложения GenAI часто обрабатывают пользовательские вводы таким образом, который может привести к утечке данных, например, если пользователи ненамеренно делятся собственным кодом, персональными данными (PII) или конфиденциальной бизнес-информацией. Служба Предотвращения утечки данных Cato сканирует контент и внедряет политики в приложении ИИ, чтобы помочь вам предотвратить компрометацию конфиденциальных данных пользователями при использовании приложения. Создавая правила Предотвращения утечки данных для приложений GenAI, вы можете внедрять политики, которые выявляют и блокируют ввод конфиденциальных данных в модели ИИ.
Служба Предотвращения утечки данных Cato использует десятки моделей, способных обнаружить конфиденциальные данные в потоке трафика с помощью продвинутых техник. Это включает такие категории, как Финансы, Право, HR, Иммиграция и Медицина. Кроме того, Предотвращение утечки данных также включает Типы данных для использования с приложениями GenAI. Например, Профиль данных PII включает Типы данных, такие как информация по кредитным картам и лицензии. Это позволяет создать детализированную политику, которая применяется только к соответствующим конфиденциальным данным и предотвращает их использование в приложении ИИ.
Если предопределенные профили данных могут предоставить ваши собственные файлы/данные для обучения пользовательской модели ML. Переходные ИИ движки изучают это и ввод, выводят контекст и затем обнаруживают конфиденциальные данные в той же области.
Для получения дополнительной информации см. Работа с пользовательскими Типами данных для Предотвращения утечки данных.
Примечание
Примечание: Эта функция доступна по умолчанию для аккаунтов, созданных после 25 марта 2025 года. Для аккаунтов, созданных до этой даты, вы можете вручную создать Типы данных. Для получения дополнительной информации см. Рекомендованные правила Предотвращения утечки данных для мониторинга приложений ИИ.
Политика контроля приложений и Предотвращение утечки данных включают предопределённые рекомендуемые правила Cato. Включены правила для защиты ваших приложений ИИ. По умолчанию, Предотвращение утечки данных мониторит и создаёт события для следующих Типов данных при загрузке их в инструменты GenAI:
-
PII
-
Финансовые данные
-
Ключи доступа & токены
-
Юридические данные
Компания ABC подписывает договор на подключение к новому SaaS-приложению. Им отправляется контракт для подписания, и пользователь загружает его в бесплатную версию высокорискового приложения GenAI для проверки и краткого изложение контракта. Предопределённое правило Предотвращения утечки данных создаёт событие для оповещения команды безопасности о нарушении этой политики.
0 комментариев
Статья закрыта для комментариев.