Usando o Painel de Controle GenAI Apps

Este artigo explica como usar o Painel de Controle GenAI Apps para monitorar como os aplicativos GenAI são utilizados em seu ambiente. Para mais informações sobre proteger aplicativos baseados em IA, veja Protegendo o Tráfego de Aplicativos IA.

Visão Geral

O Painel de Controle GenAI Apps fornece visibilidade centralizada e abrangente no uso de aplicativos GenAI inline, incluindo AI oculto. O painel detalha quais aplicativos de IA estão sendo usados em toda a sua organização, por quem, e rastreia todas as interações dos usuários e compartilhamento de dados sensíveis. Isso ajuda você a detectar se dados sensíveis, por exemplo, código fonte, PII ou informações financeiras foram expostos a um LLM. Expor esses dados sensíveis a um LLM pode criar um risco de segurança, pois adversários podem consultar o modelo para extrair os dados. Com a visibilidade fornecida pelo painel GenAI Apps, você pode prevenir proativamente violações de dados identificando riscos.

O painel também categoriza os aplicativos GenAI, permitindo que você aplique políticas de segurança granulares através de Controle de Aplicativos ou regras de DLP adaptadas às suas necessidades específicas.

Obter visibilidade desses dados é uma parte fundamental para proteger sua organização e seus dados sensíveis enquanto permite o uso seguro de aplicativos de IA. Para mais informações sobre desenvolver uma estratégia para proteger sua organização enquanto utiliza aplicativos baseados em IA, veja Protegendo o Tráfego de Aplicativos IA.

Uma licença CASB é necessária para o Painel de Controle GenAI Apps. Para mais informações sobre a compra de uma licença CASB, entre em contato com seu representante Cato.

Caso de Uso - Identificando AI Oculta e Governança de AI

A equipe de segurança da empresa ABC tem uma política de dados clara sobre quais aplicativos GenAI podem ser usados. Eles criam regras de Controle de Aplicativos e DLP para implementar a política. No entanto, eles frequentemente desconhecem quais aplicativos GenAI são usados dentro de sua organização. Isso cria um risco de segurança, pois sem esse conhecimento, eles não podem aplicar sua política de segurança.

Para mitigar esse risco e identificar aplicativos AI ocultos, a equipe de segurança analisa o:

Principais Aplicativos widget para identificar quem está usando aplicativos AI ocultos e o nível de risco associado ao app
Carregamentos de Arquivos widget para identificar uploads de arquivos sensíveis para aplicativos não autorizados e criar novas políticas de dados para prevenir vazamentos adicionais
Classificação widget para identificar duplicatas de aplicativos sancionados por categoria e restringir o acesso a aplicativos não autorizados

Começando com o Painel de Controle GenAI Apps

Para acessar o Painel de Controle GenAI Apps, navegue para Segurança > Aplicativos GenAI.

O Painel de Controle GenAI Apps é dividido em três seções:

Resumo: Uma visão geral de alto nível dos aplicativos GenAI usados em seu ecossistema e as categorias em que estão
Visão Geral: Obtenha visibilidade nos aplicativos GenAI usados em seu ambiente, seus eventos gerados, atividade do usuário e ações tomadas
Proteção de Dados: Insights sobre violações de política de dados e os usuários e arquivos envolvidos

Todo o painel pode ser filtrado por usuário ou aplicativo para obter um entendimento mais profundo do uso de GenAI.

Nota

Nota: Alguns widgets no painel de controle requerem que o Controle de Aplicativo esteja habilitado com uma regra que monitora todas as atividades na nuvem por meio de todas as aplicações na nuvem.

Estas tabelas explicam os widgets no Painel de Controle GenAI Apps.

Entendendo a Seção Resumo

Esta tabela explica os widgets na seção Resumo.

Nome	Descrição
Aplicativos GenAI	Quantos aplicativos GenAI são usados.
Classificação	Número de aplicativos GenAI sancionados e não sancionados usados.
Aplicativos Arriscados	Número de aplicativos GenAI arriscados sendo usados.
Usuários	Número de usuários usando aplicativos GenAI.
Violações de Dados	Número de violações de dados detectadas de aplicativos GenAI.
Uso da Rede	Uso da rede de aplicativos GenAI.
Aplicativos por Categoria	Número de aplicativos GenAI usados por categoria de IA.

Entendendo a Seção Visão Geral

Esta tabela explica os widgets na seção Visão Geral.

Nome	Descrição
Eventos por Ação	Divisão da ação que a Cato tomou em eventos gerados por aplicativos GenAI.
Aplicações por	Lista de todos os aplicativos GenAP usados em seu ambiente, ordenados pelo número de usuários que acessam o app ou pela pontuação de risco do app.
Principais Usuários GenAI	Lista de usuários com o maior uso de rede de aplicativos GenAI.
Principais Atividades de Usuário ao Longo do Tempo	Atividades de usuário mais frequentes em aplicativos GenAI ao longo do tempo. Você pode ver o número exato de atividades clicando no gráfico. Isso ajuda você a detectar anomalias nas atividades dos usuários.

Entendendo a Seção Proteção de Dados

Esta tabela explica os widgets na seção Proteção de Dados.

Uma licença DLP é necessária para visualizar esta seção. Para mais informações sobre a compra de uma licença DLP, entre em contato com seu representante Cato.

Nome	Descrição
Violações por Perfil de Dados	Proporção de cada tipo de dados envolvidos em violações e os 4 principais aplicativos com mais violações de dados.
Violações de Política ao Longo do Tempo	A quantidade de violações de política de dados ao longo do tempo.
Principais Usuários Compartilhando Dados Sensíveis	Lista dos usuários que mais frequentemente violam a política de dados.
Violações de Política	Lista de regras de DLP que foram mais frequentemente violadas.
Uploads de Arquivos	Lista dos arquivos mais recentes enviados para aplicativos GenAI.