Qu'est-ce que la Sécurité des Agents AI Gérés

Vue d'ensemble

La Sécurité AI pour les Agents Gérés vous permet de découvrir, tracer et protéger les agents AI qui fonctionnent sur des plateformes AI gérées telles que AWS Bedrock, Azure AI Foundry et Microsoft Copilot Studio. Vous obtenez une visibilité sur quels agents existent, quelles sources de données et quels outils ils peuvent accéder, et comment ils se comportent lors de l'exécution. 

Les plateformes gérées fournissent l'infrastructure pour créer, déployer et mettre à l'échelle des agents AI - mais elles introduisent également un ensemble distinct de défis en matière de sécurité et de gouvernance. Les organisations manquent souvent d'une visibilité centralisée sur quels agents existent sur ces plateformes, quelles données et outils ils peuvent accéder, et comment ils se comportent lors de l'exécution.

La Sécurité AI pour les Agents Gérés vous aide à réduire le risque d'accès non autorisé, d'exposition de données sensibles et d'actions dangereuses de l'agent tout en soutenant les exigences de gouvernance et de conformité.

Cas d'utilisation

Découverte des Agents Gérés

La première étape pour sécuriser les agents gérés est de savoir ce qui existe. Cato se connecte à des plateformes AI gérées via API et détecte automatiquement tous les agents déployés dans l'environnement. Pour chaque agent, le système collecte un inventaire complet incluant le nom de l'agent, son objectif, ses instructions de configuration, ses outils et connecteurs connectés, ses bases de connaissances et sources de données, et les permissions et contrôles d'accès qui lui sont assignés.

Suivi des Activités Agentiques AI

Les plateformes AI gérées génèrent des données de suivi lorsque les agents s'exécutent - enregistrant la séquence des invites, réponses des modèles, invocations d'outils, et résultats qui composent chaque session d'agent. Cato interroge directement ces données de suivi depuis la plateforme et les diffuse dans le tableau de bord Agentic AI, fournissant une visibilité en temps réel sur le comportement des agents gérés en production.

Le suivi capture le cycle de vie complet d'une interaction avec un agent : ce que l'utilisateur a demandé, comment le modèle a répondu, quels outils l'agent a invoqués (et avec quels paramètres), ce que ces outils ont renvoyé, et comment l'agent a utilisé les résultats des outils pour formuler sa réponse finale. Ce niveau de détail est essentiel pour comprendre le comportement agentique, car, contrairement à un simple chatbot, un agent peut exécuter une chaîne de multiples appels d'outils, chacun se basant sur le résultat précédent, avant de produire une réponse. Une seule demande utilisateur peut déclencher une séquence complexe d'actions qui serait invisible sans suivi.

Pour les équipes de sécurité et de conformité, le suivi fournit les preuves nécessaires pour l'enquête sur un incident et l'audit. Si un agent géré accède à des données qu'il ne devrait pas, fait un appel d'outil inattendu ou produit une sortie qui viole la politique, l'enregistrement de suivi montre exactement ce qui s'est passé - étape par étape. Cela est également précieux pour comprendre le rayon d'impact d'un incident : le suivi révèle non seulement ce qui a mal tourné, mais quelles données ont été touchées et quelles actions ont été prises en cours de route.

Protection via Intégration Pare-feu AI

La découverte et le suivi offrent une visibilité, mais les organisations ont également besoin de protection active pour leurs agents gérés. Cato réalise cela en diffusant les invocations d'agents tracés dans le Pare-feu AI (AI-FW), où elles sont évaluées en fonction des mêmes Gardiens et politiques utilisés dans le reste de la pile de sécurité des agents.

Cette intégration signifie que chaque invite, réponse de modèle, appel d'outil et message d'outil circulant par un agent géré est inspecté par le moteur AI-FW. Le moteur applique des modèles de détection pour les injections d'invites, les tentatives de jailbreak, l'exposition de données sensibles et les violations de politique, la même inspection en quatre points qui protège les agents locaux et personnalisés. Lorsque AI-FW détecte une menace, il peut alerter l'équipe de sécurité, enregistrer l'événement à des fins de conformité, ou, selon le mode d'intégration et d'application, bloquer l'interaction en violation.