Обзорная панель безопасности ИИ для конечных пользователей предоставляет централизованный просмотр использования генеративного ИИ в вашей организации. Вы можете быстро понять масштаб внедрения ИИ, выявить нарушения политики и оценить потенциальный риск от взаимодействий с ИИ. Эта панель управления помогает вам мониторить тенденции использования, обнаруживать рискованное поведение и принимать решения о необходимости более глубоких расследований или мер реагирования.
Чтобы узнать, как уточнять и анализировать данные панелей управления с помощью фильтров, см. Настройка фильтров для анализа данных панели управления.
Показать обзорную панель управления
Чтобы показать обзорную панель управления:
- Из меню навигации нажмите AI Безопасность > Мониторинг > Обзор.
Сводка метрик панели управления
В верхней части панели мониторинга представлены основные метрики, которые резюмируют использование ИИ:
- Общее количество ИИ приложений - общее количество обнаруженных ИИ приложений в вашей организации. Эта метрика помогает понять общий охват приложений ИИ, включая санкционированные и теневые ИИ инструменты.
- ИИ пользователи - общее количество пользователей, взаимодействующих с ИИ приложениями. Это обеспечивает видимость того, насколько широко адаптированы ИИ инструменты в организации.
- Взаимодействия с ИИ - общее количество обнаруженных взаимодействий с ИИ. Это отражает общий объем запросов или взаимодействий с ИИ инструментами.
- Уровень адаптации - процент пользователей, адаптирующих ИИ инструменты, вместе с индикатором трендов. Эта метрика помогает отслеживать, как изменяется использование ИИ со временем.
Виджет "Уровень нарушений ИИ" показывает процент взаимодействий с ИИ, приведших к нарушению политики.
Это дает быстрый показатель общей позиции риска, подчеркивая, сколько активности ИИ нарушает определенные политики взаимодействия.
Виджет "Анализ нарушений" показывает общее количество нарушений и как они распределены по различным правилам политики взаимодействия с ИИ. Вы можете использовать этот виджет для:
- Поймите, какие правила нарушаются чаще всего. Приоретизируйте настройку политик или усилия по повышению осведомленности пользователей
- Определите закономерности в применении политик.
- Приоретизируйте настройку политик или усилия по повышению осведомленности пользователей
Нажмите Просмотр политики взаимодействия с ИИ, чтобы просмотреть или скорректировать соответствующие политики.
Виджет "Последнее обнаруженное приложение" перечисляет недавно обнаруженные приложения ИИ. Это помогает вам:
- Определите использование теневых ИИ.
- Отслеживание недавно введённых или нового ИИ инструментов.
- Решите, требуют ли новые приложения рассмотрения или управления.
Нажмите Просмотр инвентаря теневого ИИ, чтобы увидеть полный список обнаруженных приложений ИИ.
Виджет "Популярность тем" категоризирует взаимодействия с ИИ по темам, таким как Кодирование и вычисления или Управление бизнесом. Этот виджет помогает понимать, как ИИ используется в рамках организации и выявлять использование в чувствительных или регулируемых областях тем.
Нажмите Просмотр взаимодействий ИИ, чтобы углубиться в детализированные данные взаимодействий.
Виджет "Поток лучших взаимодействий" визуализирует, как взаимодействия с ИИ переходят от конкретных приложений к результатам. Эта визуализация помогает вам:
- Сравните уровни риска между ИИ приложениями.
- Определите, какие инструменты генерируют наибольшее количество нарушений.
- Быстро обнаружьте высокорисковые приложения, которые могут потребовать более жёсткого контроля.
0 комментариев
Войдите в службу, чтобы оставить комментарий.