Visão geral
Usuários frequentemente interagem com aplicações de chat de IA como parte de seu trabalho diário, sem considerar completamente os riscos de segurança, conformidade ou exposição de dados envolvidos. Bloquear completamente o acesso a essas ferramentas pode reduzir o risco, mas também remove os benefícios de produtividade que os fluxos de trabalho conduzidos por IA fornecem.
A Política de Interação de IA permite controlar como usuários interagem com aplicações de chat de IA, inspecionando prompts em tempo real e respondendo quando conteúdo de risco é detectado. Em vez de bloquear completamente os chats de IA, você pode aplicar proteções granulares que ajudam a prevenir exposição de dados sensíveis, violações de política e riscos de conformidade, enquanto ainda permite o uso aprovado de IA.
Usando Políticas de Interação de IA, você pode bloquear, anonimizar, alertar ou monitorar tipos específicos de conteúdo de prompt com base nos requisitos de segurança e governança da sua organização. Essa abordagem permite proteger informações sensíveis e aplicar políticas de uso de IA sem interromper o uso legítimo e produtivo das ferramentas de IA.
Nota: Quando você usa o módulo de Integração de API de Segurança AI, as Políticas de Interação AI oferecem suporte apenas a ações de monitoramento.
Pré-requisitos
Inspeção TLS deve estar ativada no nível da conta para que as Políticas de Interação AI inspecionem o tráfego AI. Se a Inspeção TLS estiver desativada para a conta, as Políticas de Interação com IA não inspecionam o tráfego de IA.
As Políticas de Interação com IA inspecionam o tráfego de IA correspondente com base na configuração de Inspeção TLS no nível da conta e não exigem uma regra específica de Inspeção TLS.
Configurando Políticas de Interação de IA
Antes de criar regras, ative Políticas de Interação de IA para usuários finais na Aplicação de Gerenciamento Cato.
Para ativar Políticas de Interação de IA para usuários finais:
- No menu de navegação, selecione Segurança IA.
- Sob Proteções de Usuário, selecione Política de Interação de IA
- Ative a opção Regras de Prompts de Usuários Finais.
Para criar uma regra de Política de Interação de IA:
- Na página de Política de Interação de IA, clique em Novo.
- Na Seção Geral, configure os campos, por exemplo, Nome e Descrição.
- Na seção Fonte, selecione os usuários ou grupos aos quais a regra se aplica, ou deixe Qualquer para aplicar a regra a todas as fontes.
- Na seção Aplicações, selecione as aplicações de IA às quais a regra se aplica, ou deixe Qualquer para aplicar a regra a todas as aplicações suportadas.
- Na seção Perfis de Motor, selecione o perfil usado para avaliar prompts de IA.
-
Na Seção de Ação, selecione a ação a aplicar quando um prompt corresponder ao perfil de conteúdo, como Bloquear.
Se você estiver criando uma regra API, a única ação disponível é Monitorar.
- (Opcional) Selecione um Modelo de Notificação para notificar os usuários quando a ação for aplicada.
- Clique em Salvar.
Quando um prompt corresponde aos critérios configurados, a ação selecionada é aplicada.
A política de interação com IA suporta as seguintes ações para cada regra:
- Bloquear - o prompt é bloqueado e nenhuma informação é enviada ao fornecedor de IA
- Monitorar - o prompt é enviado ao fornecedor de IA, e a interação é monitorada
-
Anonimizar e Bloquear - Se o perfil do motor que você selecionou incluir detectores que:
- Suporte para anonimização de conteúdo, o conteúdo é anonimizado e enviado
- Não suportar a anonimização do conteúdo; o prompt é bloqueado
-
Anonimizar e Monitorar - Se o perfil do motor que você selecionou incluir detectores que:
- Suporte para anonimização de conteúdo, o conteúdo é anonimizado e enviado
- Não suporte a anonimização de conteúdo. O prompt é enviado ao fornecedor de IA, e a interação é monitorada.
0 comentário
Por favor, entre para comentar.