A descoberta de Shadow IA permite que você obtenha visibilidade sobre o uso de IA generativa e serviços baseados em IA que não são formalmente aprovados ou governados por sua organização. Isso ajuda você a entender onde e como os usuários interagem com ferramentas de IA, para que possa avaliar a exposição potencial de dados e risco antes de definir políticas de aplicação ou governança.
A descoberta de Shadow IA concentra-se na conscientização e percepção. Ele não bloqueia o tráfego por padrão, e não inspeciona o conteúdo de prompts ou respostas de IA.
A descoberta de Shadow IA identifica interações com serviços de IA em todo o tráfego da Internet, incluindo:
- Ferramentas de IA generativas públicas
- Recursos com tecnologia de IA incorporados em Aplicações SaaS
- Interações diretas do usuário com serviços de IA de sites ou usuários remotos
Essas interações podem ocorrer sem aprovação explícita de TI e fora das plataformas de IA empresariais autorizadas.
A descoberta de Shadow IA baseia-se na visibilidade do nível de rede e análise de tráfego.
Cato identifica serviços de IA usando uma combinação de assinaturas de aplicação, domínios e padrões comportamentais. Isso inclui tanto aplicações de IA autônomas quanto capacidades de IA embutidas em plataformas SaaS mais amplas.
O tráfego é continuamente analisado e classificado para detectar atividades relacionadas a IA com base em protocolo, destino e comportamento de uso. Essa abordagem não depende de integrações de API com fornecedores de IA ou inspeção baseada em agente nos pontos finais.
O uso de IA é então correlacionado com o contexto da rede, permitindo visibilidade sobre quem está usando serviços de IA, de onde e em quais dispositivos, sem inspecionar o conteúdo das interações dos usuários.
Além disso, a Cato fornece descoberta, visibilidade de configuração e avaliação de risco para modelos de IA embutidos dentro de aplicações SaaS (como o Microsoft 365 Copilot ou recursos de IA do Google Workspace). Essas capacidades de IA embutidas são identificadas como parte do mesmo processo de análise, garantindo que não sejam negligenciadas.
A Segurança de IA do Cato avalia a postura de risco desses recursos de IA embutidos, incluindo os planos ou configurações específicas em uso, e permite que as organizações imponham políticas que governem como a IA é acessada e usada dentro dessas aplicações.
A descoberta de Shadow IA coleta metadados e informações contextuais relacionadas ao uso de IA. As informações coletadas incluem:
- Identidade de aplicação ou serviço de IA
- Categoria de aplicação e classificação de IA
- Contexto de origem, como usuário, site ou endereço IP
- Destino do serviço de IA
- Frequência e volume da atividade relacionada à IA
Os insights da descoberta de Shadow IA são apresentados em uma página dedicada de Shadow IA no Aplicativo de Gerenciamento Cato. Esta página é projetada para lhe dar uma visão agregada e consciente de risco do uso de IA em sua organização.
A página de Shadow IA ajuda você a responder perguntas-chave como:
- Quais aplicações de IA estão sendo usadas no ambiente
- Quão amplamente cada aplicação de IA é usada, com base em usuários e interações
- Quais aplicações de IA representam maior risco e requerem revisão mais próxima
Use esses insights para entender padrões de adoção de IA, identificar serviços de IA não sancionados ou de alto risco, e decidir se controles adicionais de governança ou política são necessários.
A empresa ABC permite que os funcionários acessem a Internet livremente para apoiar a produtividade e a colaboração. Ao longo do tempo, os usuários começam a adotar ferramentas públicas de IA generativa e recursos baseados em IA para ajudar em tarefas como criação de conteúdo, pesquisa e codificação. Esses serviços são frequentemente usados sem aprovação formal ou visibilidade de TI.
Como administrador de TI, você usa a descoberta de Shadow IA para analisar o tráfego da Internet roteado através do Cato Cloud e identificar interações com serviços de IA. A página de Shadow IA constrói um inventário de aplicações de IA em uso, mostra quão amplamente são adotadas e destaca aplicações que podem introduzir maior risco.
Com esses insights, você pode entender como a IA está sendo usada em sua organização, identificar serviços de IA não sancionados ou de alto risco, avaliar a exposição potencial de dados e tomar decisões informadas sobre governança de IA e plataformas de IA sancionadas.
0 comentário
Por favor, entre para comentar.