Travailler avec la Politique de Déploiement d'Interaction IA pour la Protection de l'Utilisateur

Vue d'ensemble

Les Utilisateurs interagissent souvent avec des applications de chat IA dans le cadre de leur travail quotidien, sans prendre pleinement en compte les risques de sécurité, de conformité ou d'exposition des données impliqués. Bloquer complètement l'accès à ces outils peut réduire le risque, mais élimine également les avantages de productivité que les flux de travail pilotés par l'IA fournissent.

La Politique de Déploiement d'Interaction IA vous permet de contrôler comment les utilisateurs interagissent avec les applications de chat IA en inspectant les invites en temps réel et en répondant lorsqu'un contenu à risque est détecté. Au lieu de bloquer complètement les chats IA, vous pouvez appliquer des protections granulaires qui aident à prévenir l'exposition de données sensibles, les violations de politique et les risques de conformité tout en permettant une utilisation approuvée de l'IA.

En utilisant les Politiques de Déploiement d'Interaction IA, vous pouvez bloquer, anonymiser, alerter sur, ou surveiller des types spécifiques de contenu d'invite en fonction des exigences de sécurité et de gouvernance de votre organisation. Cette approche vous permet de protéger les informations sensibles et d'appliquer des politiques d'utilisation de l'IA sans perturber l'utilisation légitime et productive des outils d'IA.

Note : Lorsque vous utilisez le module Intégration de l'API Sécurité AI, les Politiques d'Interaction AI prennent uniquement en charge la surveillance des actions.

Pré-requis

L'Inspection TLS doit être activée au niveau du compte pour que les Politiques d'Interaction AI puissent inspecter le trafic AI. Si l'Inspection TLS est désactivée pour le compte, les Politiques d'Interaction AI n'inspectent pas le trafic AI.

Les Politiques d'Interaction AI inspectent le trafic AI correspondant basé sur le paramètre d'Inspection TLS au niveau du compte et ne nécessitent pas de règle d'Inspection TLS spécifique.

Configuration des Politiques de Déploiement d'Interaction IA

Avant de créer des règles, activez les Politiques de Déploiement d'Interaction IA pour les utilisateurs finaux dans l'Application de Gestion Cato.

Pour activer les Politiques de Déploiement d'Interaction IA pour les utilisateurs finaux :

  1. Dans le menu de navigation, sélectionnez Sécurité IA.
  2. Sous Protections de l'Utilisateur, sélectionnez Politique de Déploiement d'Interaction IA
  3. Activez le basculement Règles d'Invites pour les Utilisateurs Finaux.

Configuration d'une Règle de Politique de Déploiement d'Interaction IA

Pour créer une règle de Politique de Déploiement d'Interaction IA :

  1. Depuis la page Politique de Déploiement d'Interaction IA, cliquez sur Nouveau.
  2. Dans la Section général, configurez les champs, par exemple, Nom et Description.
  3. Dans la section Source, sélectionnez les utilisateurs ou groupes auxquels la règle s'applique, ou laissez N'importe lequel pour appliquer la règle à toutes les sources.
  4. Dans la section Applications, sélectionnez les applications IA auxquelles la règle s'applique, ou laissez N'importe lequel pour appliquer la règle à toutes les applications prises en charge.
  5. Dans la section Profils du Moteur, sélectionnez le profil utilisé pour évaluer les invites IA.

  6. Dans la Section Action, sélectionnez l'action à appliquer lorsqu'une invite correspond au profil de contenu, tel que Bloquer.

    Si vous créez une règle d'API, la seule action disponible est Surveiller.

  7. (Facultatif) Sélectionnez un Modèle de Notification pour notifier les utilisateurs lorsque l'action est appliquée.
  8. Cliquez sur Sauvegarder.

Lorsqu'une invite correspond aux critères configurés, l'action sélectionnée est appliquée.

Comprendre les Actions

La Politique d'Interaction de l'IA prend en charge les actions suivantes pour chaque règle :

  • Bloquer - l'invitation est bloquée, et aucune information n'est envoyée au fournisseur d'IA
  • Surveiller - l'invitation est envoyée au fournisseur d'IA, et l'interaction est surveillée

  • Anonymiser et Bloquer - Si le Profil Moteur que vous avez sélectionné inclut des Détecteurs qui :

    • Prend en charge l'anonymisation du contenu, le contenu est anonymisé et envoyé
    • Ne prend pas en charge l'anonymisation du contenu ; l'invitation est bloquée

  • Anonymiser et Surveiller - Si le Profil Moteur que vous avez sélectionné inclut des Détecteurs qui :

    • Prend en charge l'anonymisation du contenu, le contenu est anonymisé et envoyé
    • Ne pas prendre en charge l'anonymisation du contenu. L'invitation est envoyée au fournisseur AI, et l'interaction est surveillée.

Cet article vous a-t-il été utile ?

Utilisateurs qui ont trouvé cela utile : 0 sur 0

0 commentaire