Qué Es La Seguridad De Los Agentes Locales De IA

Visión General

La Seguridad de IA para Agentes Locales le permite descubrir y asegurar agentes de IA que se ejecutan en puntos de conexión de usuario, como agentes de codificación. Obtiene visibilidad de los agentes instalados, sus configuraciones, tipos de licencia, servidores MCP conectados y actividad en tiempo de ejecución. Esto le ayuda a controlar agentes sombra y reducir el riesgo de fuga de datos e inyección de solicitud indirecta.

Descubriendo y Asegurando Agentes De Codificación Sombra

Una organización de ingeniería permite a ciertos equipos usar asistentes de codificación gestionados, como Cursor y Claude Code, con una licencia empresarial. Sin embargo, desarrolladores individuales en toda la compañía han instalado herramientas de codificación de IA adicionales sin aprobación de TI o controles de seguridad de nivel empresarial.

La Seguridad de IA para Agentes utiliza Cato AI Scout para escanear puntos de conexión en toda la organización, identificando todos los agentes de IA instalados, sus configuraciones, tipos de licencia y servidores MCP conectados. El equipo de seguridad obtiene un inventario completo de agentes gestionados y no gestionados, lo que les permite aplicar una postura de seguridad consistente, asegurando que sólo agentes aprobados y adecuadamente configurados están en uso.

Prevención de Fuga De Datos A Través De Llamadas De Herramientas De Agentes

Un equipo de desarrollo usa agentes de codificación de IA que se conectan a sistemas internos y externos a través de servidores MCP y otros tipos de herramientas. Aunque estas integraciones aumentan la productividad, también crean vías para que los datos sensibles fluyan a través del agente y potencialmente se expongan.

La Seguridad de IA para Agentes aplica políticas de ejecución en todos los cuatro puntos de inspección: solicitudes de usuario, salidas de modelo, llamadas de herramientas y mensajes de herramientas. Cuando un agente intenta enviar datos sensibles, credenciales, o PII a través de una llamada de herramienta, o cuando una respuesta de herramienta contiene información sensible que no debería pasarse al modelo, el motor de políticas detecta y bloquea/reda la acción en tiempo real. Esto asegura que los flujos de trabajo asistidos por agentes permanecen productivos sin introducir riesgos de fuga de datos.

Protección de Agentes De AI Locales Contra La Inyección De Solicitud Indirecta

Los agentes locales y de codificación están expuestos a ataques de inyección de solicitud indirecta, provenientes de herramientas. Por ejemplo, "EchoLeak" y "CurXecute".

La Seguridad de IA para Agentes proporciona protección en tiempo de ejecución que inspecciona no sólo las solicitudes y respuestas intercambiadas con el LLM, sino también el contenido de las llamadas y mensajes de herramientas. Cuando una respuesta de herramienta contiene un contenido malicioso, como una inyección de solicitud indirecta que intenta secuestrar el comportamiento del agente, el Firewall de IA de Cato lo detecta y lo bloquea antes de que el contenido llegue al agente. Esto asegura que las fuentes de datos externas no puedan ser utilizadas como arma para manipular las acciones del agente.