Страница AI Взаимодействия позволяет отслеживать, как приложения чата AI используются в вашей организации, и оценивать потенциальный риск утечки данных через пользовательские запросы. После включения AI Безопасности страница предоставляет информацию о запросах, отправленных в поддерживаемые и включенные приложения AI, помогая понять модели использования и исследовать потенциально рискованные взаимодействия.
Каждое взаимодействие представляет собой единичный запрос и включает контекстную информацию, такую как AI приложение, получившее запрос, и выявленную тему и намерение.
Когда вы определяете правила AI Безопасности с действием "Мониторинг", соответствующие запросы отображаются на странице AI Взаимодействия с индикатором обнаружения. Для этих взаимодействий:
-
В колонке Обнаружения отображается профиль мониторинга, который вызвал обнаружение.
-
Вы можете быстро определить, какое правило мониторинга соответствовало запросу.
Эта информация помогает вам проверять охват правил и настраивать ваши политики.
Когда вы углубляетесь в конкретное взаимодействие, уровень доступных подробностей зависит от ваших назначенных разрешений. Администраторы с необходимыми разрешениями могут запросить просмотр фактического запроса, отправленного AI приложению. Если запрос содержит проблематичное содержание, соответствующие разделы отмечаются или выделяются. Когда действие правила также включало блокировку, детали взаимодействия показывают страницу блокировки, предъявленную пользователю.
Для информации о ролях и разрешениях, смотрите Управление административными ролями с помощью RBAC.
Примечание: Операции, такие как просмотр запроса, записываются в журнале аудита.
Компания ABC включает AI Безопасность для получения видимости того, как сотрудники используют AI чат-программы в своей повседневной работе. Анализируя взаимодействия на странице AI Взаимодействия, команда безопасности может видеть, какие типы вопросов и запросов пользователи отправляют AI инструментам.
Это видение помогает вашей организации лучше понимать активности сотрудников, выявлять общие пробелы в знаниях или повторяющиеся потребности в помощи, а также определять, где дополнительное руководство, обучение или включение могут улучшить продуктивность, уменьшая риск.
0 комментариев
Войдите в службу, чтобы оставить комментарий.