A página de Interações de IA permite monitorar como as aplicações de chat de IA são usadas em toda a organização e avaliar o risco potencial de exposição de dados por meio de prompts dos usuários. Após ativar a Segurança de IA, a página oferece visibilidade sobre os prompts enviados para aplicações de IA suportadas e ativadas, ajudando você a entender padrões de uso e investigar interações potencialmente arriscadas.
Cada interação representa um único prompt e inclui informações contextuais como a aplicação de IA que recebeu o prompt e o tópico e intenção detectados.
Quando você define regras de Segurança de IA com uma ação de Monitorar, prompts correspondentes aparecem na página de Interações de IA com um indicador de detecção. Para essas interações:
-
A coluna Detecções mostra o perfil de monitoramento que acionou a detecção
-
Você pode rapidamente identificar qual regra de monitoramento correspondeu ao prompt
Essas informações ajudam a validar a cobertura das regras e ajustar suas políticas.
Quando você aprofunda uma interação específica, o nível de detalhe disponível depende das permissões atribuídas a você. Os administradores com as permissões necessárias podem solicitar a visualização do prompt real que foi enviado para a aplicação de IA. Se o prompt contiver conteúdo problemático, as seções relevantes são sinalizadas ou destacadas. Quando a ação da regra também incluiu Bloquear, os detalhes da interação mostram a página de bloqueio que foi apresentada ao usuário.
Para informações sobre as funções e permissões, consulte Gerenciando Funções de Admin Usando RBAC.
Nota: Operações, como visualizar o prompt, são registradas no Log de Auditoria.
A Empresa ABC ativa a Segurança de IA para obter visibilidade sobre como os funcionários utilizam aplicações de chat de IA em seu dia a dia. Ao revisar interações na página de Interações de IA, a equipe de segurança pode ver que tipos de perguntas e solicitações os usuários enviam para as ferramentas de IA.
Este insight ajuda sua organização a entender melhor as atividades dos funcionários, identificar lacunas de conhecimento comuns ou necessidades recorrentes de assistência e determinar onde orientação, treinamento ou habilitação adicionais podem melhorar a produtividade enquanto reduzem riscos.
0 comentário
Por favor, entre para comentar.