La découverte de l'IA furtive vous permet de gagner en visibilité sur l'utilisation des services génératifs IA et IA non formellement approuvés ou régis par votre organisation. Elle vous aide à comprendre où et comment les utilisateurs interagissent avec les outils IA, afin que vous puissiez évaluer l'exposition potentielle des données et les risques avant de définir des politiques d'application ou de gouvernance.
La découverte de l'IA furtive se concentre sur la sensibilisation et les aperçus. Elle ne bloque pas le trafic par défaut et n'inspecte pas le contenu des incitations ou des réponses IA.
La découverte de l'IA furtive identifie les interactions avec les services IA à travers le trafic Internet, y compris :
- Outils d'IA générative publics
- Caractéristiques alimentées par l'IA intégrées dans des applications SaaS
- Interactions directes des utilisateurs avec les services d'IA de sites ou utilisateurs distants
Ces interactions peuvent se produire sans approbation explicite des TI et en dehors des plateformes d'IA autorisées par l'entreprise.
La découverte de l'IA furtive est basée sur la visibilité au niveau du réseau et l'analyse du trafic.
Cato identifie les services d'IA en utilisant une combinaison de signatures d'application, de domaines et de modèles comportementaux. Cela comprend à la fois les applications IA autonomes et les capacités d'IA intégrées dans des plateformes SaaS plus larges.
Le trafic est continuellement analysé et classé pour détecter les activités liées à l'IA basées sur le protocole, la destination et le comportement d'utilisation. Cette approche ne repose pas sur des intégrations API avec des fournisseurs d'IA ni sur l'inspection basée sur un agent sur les points d'extrémité.
L'utilisation de l'IA est ensuite corrélée avec le contexte réseau, permettant une visibilité sur qui utilise les services d'IA, d'où et sur quels appareils, sans inspecter le contenu des interactions utilisateur.
De plus, Cato offre la découverte, la visibilité de la configuration et l'évaluation des risques pour les modèles d'IA intégrés dans les applications SaaS (telles que Microsoft 365 Copilot ou les fonctionnalités d'IA de Google Workspace). Ces capacités d'IA intégrées sont identifiées comme faisant partie du même processus d'analyse, garantissant qu'elles ne sont pas négligées.
La Sécurité IA de Cato évalue la posture de risque de ces fonctionnalités d'IA intégrées, y compris les plans ou configurations spécifiques utilisés, et permet aux organisations d'appliquer des politiques régissant la manière dont l'IA est accessible et utilisée dans ces applications.
La découverte de l'IA furtive collecte des métadonnées et des informations contextuelles liées à l'utilisation de l'IA. Les informations collectées incluent :
- Identité de l'application ou du service IA
- Catégorie d'application et classification d'IA
- Contexte de source, tel qu'utilisateur, site ou adresse IP
- Service IA de destination
- Fréquence et volume d'activité liée à l'IA
Les aperçus de la découverte de l'IA furtive sont présentés dans une page dédiée à l'IA furtive dans l'application de gestion Cato. Cette page est conçue pour vous donner une vue agrégée et consciente des risques de l'utilisation de l'IA dans votre organisation.
La page de l'IA furtive vous aide à répondre à des questions clés telles que :
- Quelles applications IA sont utilisées dans l'environnement
- À quelle fréquence chaque application IA est utilisée, en fonction des utilisateurs et des interactions
- Quelles applications IA représentent un risque élevé et nécessitent un examen plus approfondi
Utilisez ces aperçus pour comprendre les modèles d'adoption de l'IA, identifier les services IA non autorisés ou à haut risque, et décider si des contrôles supplémentaires de gouvernance ou de politique sont nécessaires.
L'entreprise ABC permet aux employés d'accéder librement à Internet pour soutenir la productivité et la collaboration. Avec le temps, les utilisateurs commencent à adopter les outils IA génératifs publics et les fonctionnalités alimentées par l'IA pour aider dans des tâches telles que la création de contenu, la recherche et le codage. Ces services sont souvent utilisés sans approbation formelle ni visibilité des TI.
En tant qu'administrateur TI, vous utilisez la découverte de l'IA furtive pour analyser le trafic Internet acheminé via le Cloud Cato et identifier les interactions avec les services IA. La page de l'IA furtive construit un inventaire des applications IA utilisées, montre à quel point elles sont adoptées et met en lumière les applications qui peuvent présenter un risque élevé.
En utilisant ces aperçus, vous pouvez comprendre comment l'IA est utilisée dans votre organisation, identifier les services IA non autorisés ou à haut risque, évaluer l'exposition potentielle des données, et prendre des décisions éclairées sur la gouvernance des IA et les plateformes IA autorisées.
0 commentaire
Vous devez vous connecter pour laisser un commentaire.