Qu'est-ce que la Sécurité AI pour les Agents

Vue d'ensemble

La Sécurité AI pour les Agents vous permet d'adopter en toute sécurité des agents IA au sein de votre organisation sans perdre la visibilité ou le contrôle sur la manière dont ils accèdent, utilisent des outils et exécutent des actions. Vous pouvez protéger les flux de travail des agents contre l'injection de prompts, l'accès non autorisé aux données, l'exposition de données sensibles et les autres abus pouvant entraîner des risques de sécurité ou de conformité.

Cato classe les agents IA dans ces catégories :

Les agents locaux fonctionnent généralement sur le point de terminaison utilisateur et sont principalement fournis par des tiers. Les agents gérés sont généralement des agents low-code ou no-code fournis par des plateformes cloud et des fournisseurs SaaS. Les agents personnalisés sont des agents entièrement codés que vous construisez et exécutez sur des points d'extrémité ou dans des environnements cloud.

La Sécurité AI pour les Agents vous offre un moyen unifié de surveiller et de gouverner ces types d'agents à travers les environnements que vous gérez. Cela vous aide à déployer en toute confiance les agents IA tout en maintenant l'application des politiques, en réduisant les risques opérationnels et en soutenant vos exigences de conformité.

Risques Présentés par les Agents AI

Les agents AI qui fonctionnent de manière autonome et interagissent avec outils, données et systèmes externes introduisent des risques uniques pour la sécurité, la conformité et la gouvernance qui vont au-delà des menaces traditionnelles des chatbots AI :

• Attaques spécifiques à l'IA - y compris : injection de prompt, tentatives de jailbreak et attaques multi-tournées conçues pour manipuler le comportement des agents. Contrairement aux chatbots, les agents peuvent également être attaqués par les réponses de leurs outils (injection de prompt indirecte), où une charge utile malveillante dans la sortie d'un outil peut détourner les actions de l'agent.
• Exfiltration de données - agents ayant accès à des dépôts de code, des API internes, des systèmes CRM ou des systèmes de fichiers. Ces agents peuvent involontairement ou de manière malveillante divulguer des données sensibles telles que des codes sources, des identifiants, des identificateurs personnels ou des données financières via des appels d'outils ou des sorties de modèles.
• Agents ombragés - il peut y avoir des agents IA non gérés ou non autorisés installés par des employés sans approbation IT, créant des zones d'ombre dans le profil de sécurité. Cela inclut des instances personnelles d'assistants de codage fonctionnant sans licences d'entreprise ou contrôles de sécurité.
• Risques du serveur MCP - des serveurs MCP malveillants ou mal configurés peuvent exposer des données sensibles, exécuter des commandes non autorisées ou introduire des vulnérabilités dans le flux de travail de l'agent.
• Violations de conformité - non-respect des exigences réglementaires pour les systèmes AI, telles que l'Acte AI de l'UE, ou des politiques internes régissant la génération de code, la gestion des données et la prise de décisions automatisée.
• Lacunes en matière de gouvernance - manque de visibilité sur quels agents sont déployés, à quels outils ils se connectent et quelles données ils peuvent accéder, rendant impossible l'application cohérente des politiques de sécurité à travers l'organisation.