Qué es la Seguridad de Agentes de IA Gestionados

Visión general

La Seguridad de IA para Agentes Gestionados te permite descubrir, rastrear y proteger agentes de IA que funcionan en plataformas gestionadas de IA como AWS Bedrock, Azure AI Foundry y Microsoft Copilot Studio. Obtienes visibilidad sobre qué agentes existen, a qué fuentes de datos y herramientas pueden acceder y cómo se comportan en tiempo de ejecución. 

Las plataformas gestionadas proporcionan la infraestructura para crear, implementar y escalar agentes de IA, pero también introducen un conjunto distintivo de desafíos de seguridad y gobernanza. Las organizaciones a menudo carecen de una visibilidad centralizada sobre qué agentes existen en estas plataformas, qué datos y herramientas pueden acceder, y cómo se comportan en tiempo de ejecución.

La Seguridad de IA para Agentes Gestionados te ayuda a reducir el riesgo de acceso no autorizado, exposición de datos sensibles y acciones inseguras de agentes, mientras apoya los requisitos de gobernanza y cumplimiento.

Casos de Uso

Descubriendo Agentes Gestionados

El primer paso para asegurar agentes gestionados es saber qué existe. Cato se conecta a las plataformas de IA gestionadas a través de API y descubre automáticamente todos los agentes implementados dentro del entorno. Para cada agente, el sistema recopila un inventario completo que incluye el nombre del agente, su propósito e instrucciones de configuración, sus herramientas y conectores conectados, sus bases de conocimiento y fuentes de datos, y los permisos y controles de acceso asignados.

Rastreando Actividades de IA Agentes

Las plataformas de IA gestionadas generan datos de rastreo a medida que los agentes ejecutan, registrando la secuencia de instrucciones, respuestas del modelo, invocaciones de herramientas y resultados que componen cada sesión de agente. Cato consulta directamente estos datos de rastreo desde la plataforma y los transmite al panel de control de IA Agentes, proporcionando visibilidad en tiempo real sobre cómo los agentes gestionados se están comportando en producción.

El seguimiento captura el ciclo de vida completo de una interacción de agente: qué preguntó el usuario, cómo respondió el modelo, qué herramientas invocó el agente (y con qué parámetros), qué devolvieron esas herramientas y cómo el agente utilizó los resultados de las herramientas para formular su salida final. Este nivel de detalle es esencial para comprender el comportamiento agente porque, a diferencia de un simple chatbot, un agente puede ejecutar una cadena de múltiples llamadas a herramientas, cada una basada en el resultado anterior, antes de producir una respuesta. Una única solicitud del usuario puede desencadenar una secuencia compleja de acciones que sería invisible sin rastreo.

Para los equipos de seguridad y cumplimiento, el rastreo proporciona la evidencia necesaria para la investigación de incidentes y auditoría. Si un agente gestionado accede a datos que no debería, realiza una llamada a herramientas inesperada o produce un resultado que viola la política, el registro de rastreo muestra exactamente qué sucedió, paso a paso. Esto también es invaluable para comprender el radio de impacto de un incidente: el rastreo revela no solo qué salió mal, sino qué datos se tocaron y qué acciones se tomaron a lo largo del camino.

Protección a través de Integración de Firewall de IA

El descubrimiento y el rastreo proporcionan visibilidad, pero las organizaciones también necesitan protección activa para sus agentes gestionados. Cato logra esto transmitiendo las invocaciones de agentes rastreados al Firewall de IA (AI-FW), donde son evaluadas contra los mismos Guardias y políticas utilizadas en el resto de la pila de seguridad de agentes.

Esta integración significa que cada solicitud, respuesta del modelo, llamada a herramientas y mensaje de herramientas que fluye a través de un agente gestionado es inspeccionado por el motor de AI-FW. El motor aplica modelos de detección para inyección de instrucciones, intentos de jailbreak, exposición de datos sensibles y violaciones de políticas, la misma inspección de cuatro puntos que protege a los agentes locales y personalizados. Cuando el AI-FW detecta una amenaza, puede alertar al equipo de seguridad, registrar el evento para fines de cumplimiento o, dependiendo de la integración y el modo de aplicación, bloquear la interacción que viola.