Utilisation du tableau de bord des applications GenAI

Cet article explique comment utiliser le tableau de bord des applications GenAI pour surveiller l'utilisation des applications GenAI dans votre environnement. Pour plus d'informations sur la protection des applications basées sur l'IA, voir Sécurisation du trafic des applications IA.

Vue d'ensemble

Le tableau de bord des applications GenAI fournit une visibilité centralisée et complète sur l'utilisation des applications GenAI en ligne, y compris l'IA de l'ombre. Le tableau de bord détaille quelles applications IA sont utilisées dans votre organisation, par qui, et suit toutes les interactions des utilisateurs et le partage de données sensibles. Cela vous aide à détecter si des données sensibles, par exemple, du code source, des IIP ou des informations financières, ont été exposées à un modèle de langage étendu LLM. Exposer ces données sensibles à un LLM peut créer un risque de sécurité, car les adversaires peuvent interroger le modèle pour extraire les données. Avec la visibilité offerte par le tableau de bord des applications GenAI, vous pouvez prévenir proactivement les violations de données en identifiant les risques.

Le tableau de bord catégorise également les applications GenAI, vous permettant d'appliquer des politiques de sécurité granulaires via des règles de contrôle des applications ou de DLP adaptées à vos besoins spécifiques.

Obtenir une visibilité sur ces données est une partie clé de la protection de votre organisation et de ses données sensibles tout en permettant l'utilisation sécurisée des applications IA. Pour plus d'informations sur le développement d'une stratégie de protection de votre organisation lors de l'utilisation d'applications basées sur l'IA, voir Sécurisation du trafic des applications IA.

Une licence CASB est requise pour le tableau de bord des applications GenAI. Pour plus d'informations sur l'achat d'une licence CASB, veuillez contacter votre représentant Cato.

Cas d'utilisation - Identification de l'IA de l'ombre et gouvernance de l'IA

L'équipe de sécurité de l'entreprise ABC a une politique claire concernant les applications GenAI qui peuvent être utilisées. Ils créent des règles de contrôle des applications et de DLP pour appliquer la politique. Cependant, ils ne sont souvent pas conscients des applications GenAI utilisées au sein de leur organisation. Cela crée un risque de sécurité car sans cette connaissance, ils ne peuvent pas appliquer leur politique de sécurité.

Pour atténuer ce risque et identifier les applications IA de l'ombre, l'équipe de sécurité examine les:

Principales Applications widget pour identifier qui utilise les applications IA de l'ombre et le niveau de risque associé à l'application
Téléchargements de Fichiers widget pour identifier les téléversements de fichiers sensibles vers des applications non autorisées et créer de nouvelles politiques de données pour prévenir les fuites supplémentaires
Classification widget pour identifier les doublons d'applications autorisées par catégorie et restreindre l'accès à des applications non autorisées

Commencer avec le tableau de bord des applications GenAI

Pour accéder au tableau de bord des applications GenAI, accédez à Sécurité > Applications GenAI.

Le tableau de bord des applications GenAI est divisé en trois sections :

Résumé : Un aperçu général des applications GenAI utilisées dans votre écosystème et les catégories auxquelles elles appartiennent
Vue d'ensemble : Obtenez une visibilité sur les applications GenAI utilisées dans votre environnement, leurs événements générés, l'activité des utilisateurs et les actions effectuées
Protection des Données : Aperçus des violations de politique de données et les utilisateurs et fichiers impliqués

L'ensemble du tableau de bord peut être filtré par utilisateur ou application pour obtenir une compréhension plus approfondie de l'utilisation de GenAI.

Remarque

Note : Certains widgets dans le tableau de bord nécessitent Contrôle d'application pour être activés avec une règle qui surveille toutes les activités cloud à travers toutes les applications cloud.

Ces tableaux expliquent les widgets du tableau de bord des applications GenAI.

Comprendre la section Résumé

Ce tableau explique les widgets dans la section Résumé.

Nom	Description
Applications GenAI	Combien d'outils GenAI sont utilisés.
Classification	Nombre d'applications GenAI sanctionnées et non sanctionnées utilisées.
Applications Risquées	Nombre d'applications GenAI risquées utilisées.
Utilisateurs	Nombre d'utilisateurs utilisant les applications GenAI.
Violations de Données	Nombre de violations de données détectées à partir des applications GenAI.
Utilisation du Réseau	Utilisation du réseau des applications GenAI.
Applications par Catégorie	Nombre d'applications GenAI utilisées par catégorie d'IA.

Comprendre la section Vue d'ensemble

Ce tableau explique les widgets dans la section Vue d'ensemble.

Nom	Description
Événements par Actions	Répartition de l'action que Cato a prise sur les événements générés par les applications GenAI.
Applications par	Liste de toutes les applications GenAI utilisées dans votre environnement, classées par le nombre d'utilisateurs accédant à l'application ou le score de risque de l'application.
Principaux utilisateurs GenAI	Liste des utilisateurs ayant la plus grande utilisation du réseau des applications GenAI.
Principales activités des utilisateurs au fil du temps	Activités des utilisateurs les plus fréquentes sur les applications GenAI au fil du temps. Vous pouvez voir le nombre exact d'activités en cliquant sur le graphique. Cela vous aide à détecter les anomalies dans les activités des utilisateurs.

Comprendre la section Protection des Données

Ce tableau explique les widgets dans la section Protection des Données.

Une licence DLP est requise pour visualiser cette section. Pour plus d'informations sur l'achat d'une licence DLP, veuillez contacter votre représentant Cato.

Nom	Description
Violations par Profil de Données	Proportion de chaque type de données impliquées dans les violations et les 4 principales applications avec le plus de violations de données.
Violations de Politique au Fil du Temps	Le nombre de violations de politique de données au fil du temps.
Principaux utilisateurs partageant des données sensibles	Liste des utilisateurs qui violent le plus fréquemment la politique de données.
Violations de Politique	Liste des règles DLP les plus fréquemment violées.
Téléchargements de Fichiers	Liste des derniers fichiers téléversés sur les applications GenAI.