Обзор
Пользователи часто взаимодействуют с чат-приложениями ИИ, являющимися частью их повседневной работы, не полностью учитывая риски безопасности, соответствия и утечки данных. Полное блокирование доступа к этим инструментам может снизить риск, но также устраняет преимущества в продуктивности, которые предоставляют рабочие процессы на базе ИИ.
Политика развертывания взаимодействий ИИ позволяет контролировать, как пользователи взаимодействуют с чат-приложениями ИИ, инспектируя запросы в реальном времени и реагируя при обнаружении рискованного контента. Вместо полного блокирования чатов ИИ вы можете применять детальные средства защиты, которые помогают предотвратить утечку конфиденциальных данных, нарушение политики и риски соответствия, при этом позволяя одобренное использование ИИ.
Используя Политику развертывания взаимодействий ИИ, вы можете блокировать, анонимизировать, оповещать или контролировать специфические типы контента запроса в зависимости от требований безопасности и управления вашей организации. Такой подход позволяет вам защищать конфиденциальную информацию и внедрять политики использования ИИ без нарушения легитимного и продуктивного использования инструментов ИИ.
Примечание: При использовании модуля Интеграции Безопасности AI, Политики Взаимодействия AI поддерживают только мониторинг действий.
Предварительные условия
Инспекция TLS должна быть включена на уровне учетной записи, чтобы Политики Взаимодействия AI могли инспектировать трафик AI. Если инспекция TLS отключена для учетной записи, политики взаимодействия ИИ не инспектируют трафик ИИ.
Политики взаимодействия ИИ инспектируют соответствующий трафик ИИ на основе настройки инспекции TLS на уровне учетной записи и не требуют конкретного правила инспекции TLS.
Настройка Политики развертывания взаимодействий ИИ
Прежде чем создавать правила, включите Политику развертывания взаимодействий ИИ для конечных пользователей в Приложении Управления Cato.
Чтобы включить Политику развертывания взаимодействий ИИ для конечных пользователей:
- В навигационном меню выберите Безопасность ИИ.
- В разделе Защита пользователей выберите Политика развертывания взаимодействий ИИ
- Включите переключатель Правила запросов конечных пользователей.
Чтобы создать правило Политики развертывания взаимодействий ИИ:
- На странице Политики развертывания взаимодействий ИИ нажмите Новый.
- В разделе Общие настройки настройте поля, например, Имя и Описание.
- В разделе Источник выберите пользователей или группы, к которым применяется правило, или оставьте Любой, чтобы применить правило ко всем источникам.
- В разделе Приложения выберите приложения ИИ, к которым применяется правило, или оставьте Любой, чтобы применить правило ко всем поддерживаемым приложениям.
- В разделе Профили движка выберите профиль, используемый для оценки запросов ИИ.
-
В Действие разделе выберите действие, которое будет применено, если запрос соответствует профилю контента, например Блокировка.
Если вы создаете правило API, единственное доступное действие — Мониторинг.
- (Опционально) Выберите Шаблон уведомления, чтобы уведомлять пользователей, когда действие применяется.
- Нажмите Сохранить.
Когда запрос соответствует настроенным критериям, выбранное действие применяется.
Политика развертывания AI поддерживает следующие действия для каждого правила:
- Блокировка - запрос заблокирован, и никакая информация не передается в AI производителю.
- Мониторинг - запрос отправляется AI производителю, и взаимодействие отслеживается.
-
Анонимизация и Блокировка - если выбранный вами Профиль движка включает Детекторы, которые:
- Поддержка анонимизации контента: контент анонимизирован и отправлен.
- Не поддерживается анонимизация контента; запрос заблокирован.
-
Анонимизация и Мониторинг - если выбранный вами Профиль движка включает Детекторы, которые:
- Поддержка анонимизации контента: контент анонимизирован и отправлен.
- Проведение анонимизации контента не поддерживается. Запрос отправляется производителю ИИ, и взаимодействие мониторится.
0 комментариев
Войдите в службу, чтобы оставить комментарий.