La page des Interactions IA vous permet de surveiller comment les applications de chat IA sont utilisées dans l'organisation et d'évaluer le risque potentiel d'exposition de données via les invites des utilisateurs. Une fois que vous activez la Sécurité IA, la page fournit de la visibilité sur les invites envoyées aux applications IA prises en charge et activées, vous aidant à comprendre les modèles d'utilisation et à enquêter sur les interactions potentiellement risquées.
Chaque interaction représente une seule invitation et inclut des informations contextuelles telles que l'application IA qui a reçu l'invitation et le sujet et l'intention détectés.
Lorsque vous définissez des règles de Sécurité IA avec une action de Surveillance, les invites correspondantes apparaissent sur la page des Interactions IA avec un indicateur de détection. Pour ces interactions :
-
La colonne Détections affiche le profil de surveillance qui a déclenché la détection
-
Vous pouvez rapidement identifier quelle règle de surveillance correspond à l'invite
Ces informations vous aident à valider la couverture des règles et à ajuster vos politiques.
Lorsque vous examinez une interaction spécifique, le niveau de détail disponible dépend de vos autorisations attribuées. Les administrateurs avec les autorisations nécessaires peuvent demander à voir l'invite réelle qui a été envoyée à l'application IA. Si l'invite contient du contenu problématique, les sections pertinentes sont signalées ou mises en évidence. Lorsque l'action de la règle inclut également Bloquer, les détails de l'interaction montrent la page de blocage présentée à l'utilisateur.
Pour des informations sur les rôles et les autorisations, voir Gérer les rôles d'admin à l'aide de RBAC.
Note : Les opérations, telles que la visualisation de l'invite, sont enregistrées dans le Journal d'Audit.
La société ABC active la Sécurité IA pour obtenir de la visibilité sur l'utilisation des applications de chat IA par les employés dans leur travail quotidien. En examinant les interactions sur la page des Interactions IA, l'équipe de sécurité peut voir les types de questions et de demandes que les utilisateurs soumettent aux outils IA.
Cette perspicacité aide votre organisation à mieux comprendre les activités des employés, à identifier les lacunes de connaissances courantes ou les besoins d'assistance récurrents, et à déterminer où des conseils supplémentaires, de la formation ou de l'encadrement peuvent améliorer la productivité tout en réduisant les risques.
0 commentaire
Vous devez vous connecter pour laisser un commentaire.