O que é Segurança de Agentes de IA Locais

Visão geral

Segurança de IA para Agentes Locais permite que você descubra e proteja agentes de IA que executam em endpoints de usuários, como agentes de codificação. Você ganha visibilidade sobre agentes instalados, suas configurações, tipos de licença, servidores MCP conectados e atividades em tempo de execução. Isso ajuda você a controlar agentes sombra e reduzir o risco de vazamento de dados e injeção indireta de comandos.

Descobrindo e Protegendo Agentes de Codificação Sombra

Uma organização de engenharia permite que certas equipes usem assistentes de codificação geridos, como Cursor e Claude Code, com uma licença empresarial. No entanto, desenvolvedores individuais em toda a empresa instalaram ferramentas de codificação de IA adicionais sem aprovação de TI ou controles de segurança de nível empresarial.

Segurança de IA para Agentes usa o Cato AI Scout para analisar endpoints em toda a organização, identificando todos os agentes de IA instalados, suas configurações, tipos de licença e servidores MCP conectados. A equipe de segurança obtém um inventário completo de agentes geridos e não geridos, permitindo que eles imponham uma postura de segurança consistente - garantindo que apenas agentes aprovados e devidamente configurados estejam em uso.

Prevenindo Vazamento de Dados Através de Chamadas de Ferramentas de Agentes

Uma equipe de desenvolvimento usa agentes de codificação de IA que se conectam a sistemas internos e externos por meio de servidores MCP e outros tipos de ferramentas. Embora essas integrações aumentem a produtividade, também criam caminhos para dados sensíveis fluírem através do agente e potencialmente serem expostos.

A Segurança de IA para Agentes impõe políticas de tempo de execução em todos os quatro pontos de inspeção: mensagens de usuário, saídas de modelo, chamadas de ferramenta e mensagens de ferramenta. Quando um agente tenta enviar dados sensíveis, credenciais ou PII através de uma chamada de ferramenta, ou quando uma resposta de ferramenta contém informações sensíveis que não devem ser passadas para o modelo, o motor de políticas detecta e bloqueia/vermelhidão a ação em tempo real. Isso garante que fluxos de trabalho assistidos por agentes permaneçam produtivos sem introduzir riscos de vazamento de dados.

Protegendo Agentes de IA Locais de Injeção Indireta de Comandos

Agentes locais e de codificação estão expostos a ataques de injeção indireta de comandos, vindos de ferramentas. Por exemplo, "EchoLeak" e "CurXecute".

A Segurança de IA para Agentes fornece proteção em tempo de execução que inspeciona não apenas as mensagens e respostas trocadas com o LLM, mas também o conteúdo de chamadas de ferramentas e mensagens de ferramentas. Quando uma resposta de ferramenta contém uma carga maliciosa, como uma injeção indireta de comandos tentando sequestrar o comportamento do agente, o Firewall de IA da Cato detecta e bloqueia antes que o conteúdo alcance o agente. Isso garante que fontes de dados externas não possam ser armadas para manipular as ações do agente.