Обнаружение теневого ИИ позволяет вам получить видимость использования генеративных ИИ и сервисов на базе ИИ, которые не были официально одобрены или управляются вашей организацией. Это помогает понять, где и как пользователи взаимодействуют с инструментами ИИ, чтобы оценить потенциальную утечку данных и риск перед определением периодичности или политик управления.
Обнаружение теневого ИИ сосредоточено на осведомленности и аналитике. По умолчанию не блокирует трафик и не инспектирует содержимое запросов или реакций ИИ.
Обнаружение теневого ИИ идентифицирует взаимодействия с сервисами ИИ в интернет-трафике, включая:
- Общедоступные генеративные AI инструменты
- Функции на базе AI, встроенные в SaaS приложения
- Прямое взаимодействие пользователей с AI сервисами с сайтов или удаленных пользователей
Эти взаимодействия могут происходить без явного одобрения ИТ и вне разрешенных корпоративных платформ ИИ.
Обнаружение теневого ИИ основано на сетевой видимости и анализе трафика.
Cato идентифицирует услуги ИИ, используя комбинацию сигнатур приложений, доменов и поведенческих паттернов. Это включает как автономные приложения ИИ, так и возможности ИИ, встроенные в более широкие платформы SaaS.
Трафик непрерывно анализируется и классифицируется для обнаружения активности, связанной с ИИ, на основе протокола, назначения и поведения использования. Этот подход не опирается на интеграции API с поставщиками ИИ или проверку на конечных точках.
Использование ИИ затем связывается с контекстом сети, что позволяет получить видимость того, кто использует услуги ИИ, откуда и на каких устройствах, без инспекции содержимого пользовательских взаимодействий.
Кроме того, Cato предоставляет обнаружение, видимость конфигурации и оценку рисков для моделей ИИ, встроенных в приложения SaaS (такие как Microsoft 365 Copilot или функции AI Google Workspace). Эти встроенные возможности ИИ идентифицируются как часть того же аналитического процесса, обеспечивая, чтобы они не были упущены из виду.
AI Security от Cato оценивает рисковую позицию этих встроенных функций ИИ, включая конкретные планы или настройки, которые используются, и позволяет организациям применять политики, регулирующие, как ИИ доступен и используется в этих приложениях.
Обнаружение теневого ИИ собирает метаданные и контекстную информацию, связанную с использованием ИИ. Собранная информация включает:
- Идентификация приложения или сервиса ИИ
- Категория приложения и классификация ИИ
- Контекст источника, такой как пользователь, сайт или IP-адрес
- Назначение сервиса ИИ
- Частота и объем активности, связанной с ИИ
Аналитика теневого ИИ представлена на отдельной странице теневого ИИ в Приложении управления Cato. Эта страница разработана для предоставления агрегированного, осведомленного о рисках обзора использования ИИ в вашей организации.
Страница теневого ИИ помогает ответить на ключевые вопросы, такие как:
- Какие приложения ИИ используются в среде
- Как широко используется каждое приложение ИИ, на основе пользователей и взаимодействий
- Какие приложения ИИ представляют более высокий риск и требуют более пристального рассмотрения
Используйте эти аналитические данные, чтобы понять паттерны внедрения ИИ, идентифицировать несанкционированные или более рискованные услуги ИИ и принять решение о необходимости дополнительных контролей управления или политик.
Компания ABC позволяет сотрудникам свободно заходить в Интернет для поддержки производительности и сотрудничества. Со временем пользователи начинают использовать общедоступные генеративные инструменты ИИ и функции на базе ИИ для выполнения задач, таких как создание контента, исследования и кодирование. Эти услуги часто используются без официального одобрения или видимости от ИТ.
Как администратор ИТ, вы используете обнаружение теневого ИИ для анализа интернет-трафика, маршрутизируемого через Cato Cloud, и для идентификации взаимодействий с сервисами ИИ. Страница теневого ИИ создает инвентарь используемых приложений ИИ, показывает, насколько широко они используются, и выделяет приложения, которые могут представлять более высокий риск.
Используя эти аналитические данные, вы можете понять, как используется ИИ в вашей организации, идентифицировать несанкционированные или более рискованные услуги ИИ, осмыслить потенциальную утечку данных и принимать обоснованные решения о управлении ИИ и разрешенных платформах ИИ.
0 комментариев
Войдите в службу, чтобы оставить комментарий.