A página de Usuários de IA oferece visibilidade centralizada de como os usuários em sua organização interagem com aplicações de IA. Ela ajuda a identificar padrões de uso, detectar violações de política e entender a adoção de IA em departamentos.
De esta página, você pode:
-
Identificar usuários com violações de políticas elevadas
-
Comparar uso de IA entre departamentos
-
Focar nas ações de acompanhamento onde necessário
Na página de Usuários de IA, você pode aprofundar-se em um usuário individual para obter uma visão mais profunda sobre suas atividades de IA. A página de detalhes do usuário fornece uma visão consolidada de:
-
Total de interações de IA e violações para o intervalo de tempo selecionado
-
Uma visão detalhada de prompts seguros versus violações
-
As aplicações de IA utilizadas pelo usuário
-
Padrões de adoção ao longo do tempo
Esta visualização permite que você passe de um monitoramento de alto nível para uma análise direcionada do comportamento de um usuário específico.
Como administrador de segurança da Empresa ABC, você monitora regularmente o uso de IA em toda a organização. Você acessa a página de Usuários de IA e classifica por Violações de Política para identificar rapidamente os usuários que geram violações recorrentes. Você percebe que John Doe aparece próximo ao topo da lista. Para entender a situação, você abre o painel de Detalhes do Usuário para John Doe. Nesta página, você vê:
-
A relação entre prompts seguros e violações
-
As aplicações de IA que ele mais utiliza
Em seguida, você navega até a página de Interações de IA e filtra por John Doe. Lá, você revisa os prompts específicos que desencadearam violações e compreende o contexto por trás deles.
Com base nessas informações, você pode ter uma discussão informada com John Doe e fornecer educação direcionada sobre o uso adequado da IA e como a Empresa ABC espera que os funcionários usem a IA de maneira segura e responsável.
A Empresa ABC é uma instituição financeira obrigada a demonstrar que o uso de IA é monitorado, controlado e alinhado com as obrigações regulatórias e fiduciárias.
Como parte de uma revisão de auditoria interna, o administrador de segurança navega até a página de Usuários de IA e classifica a tabela por Departamento para focar no departamento de Aprovações de Empréstimos, uma unidade de negócios de alto risco que lida regularmente com dados financeiros sensíveis. Revisando o uso em todo o departamento, o administrador percebe que Jane Doe tem um alto volume de interações de IA.
Para garantir que os padrões de conformidade sejam mantidos, o administrador explora a página de Detalhes do Usuário de Jane Doe. Aqui, o administrador confirma uma forte relação entre prompts seguros e violações e não há violações de políticas recorrentes ou sistemáticas.
Embora Jane Doe use frequentemente ferramentas de IA, os dados mostram que seus prompts permanecem dentro dos limites da política e não expõem informações financeiras sensíveis.
0 comentário
Por favor, entre para comentar.