Resumen
Los usuarios a menudo interactúan con aplicaciones de chat AI como parte de su trabajo diario, sin considerar completamente los riesgos de seguridad, cumplimiento o exposición de datos involucrados. Bloquear completamente el acceso a estas herramientas puede reducir el riesgo, pero también elimina los beneficios de productividad que proporcionan los flujos de trabajo impulsados por AI.
La Política de Interacción AI te permite controlar cómo interactúan los usuarios con las aplicaciones de chat AI al inspeccionar solicitudes en tiempo real y responder cuando se detecta contenido riesgoso. En lugar de bloquear completamente los chats AI, puedes aplicar protecciones granulares que ayudan a prevenir la exposición de datos sensibles, violaciones de políticas y riesgos de cumplimiento, mientras se permite el uso aprobado de AI.
Usando Políticas de Interacción AI, puedes bloquear, anonimizar, alertar o monitorear tipos específicos de contenido de solicitud basado en los requisitos de seguridad y gobernanza de tu organización. Este enfoque te permite proteger información sensible y aplicar las políticas de uso de AI sin interrumpir el uso legítimo y productivo de las herramientas de AI.
Nota: Cuando utilice el módulo de Integración API de Seguridad AI, las Políticas de Interacción AI solo admiten monitorización de acciones.
Requisitos Previos
La Inspección TLS debe estar habilitada a nivel de cuenta para que las Políticas de Interacción AI inspeccionen el tráfico AI. Si la Inspección TLS está deshabilitada para la cuenta, las Políticas de Interacción de AI no inspeccionan el tráfico de AI.
Las Políticas de Interacción de AI inspeccionan el tráfico de AI coincidente basado en la configuración de Inspección TLS a nivel de cuenta y no requieren una regla específica de Inspección TLS.
Configurando Políticas de Interacción AI
Antes de crear reglas, habilita las Políticas de Interacción AI para usuarios finales en la Aplicación de Gestión de Cato.
Para habilitar las Políticas de Interacción AI para usuarios finales:
- Desde el menú de navegación, selecciona Seguridad AI.
- En Protecciones del Usuario, selecciona Política de Interacción AI
- Habilitar el conmutador de Reglas de Solicitudes de Usuarios Finales.
Para crear una regla de Política de Interacción AI:
- Desde la página de Política de Interacción AI, haz clic en Nuevo.
- En la Sección de Configuración general, configuren los campos, por ejemplo, Nombre y Descripción.
- En la sección Fuente, selecciona los usuarios o grupos a los que se aplica la regla, o deja Cualquiera para aplicar la regla a todas las fuentes.
- En la sección Aplicaciones, selecciona las aplicaciones AI a las que se aplica la regla, o deja Cualquiera para aplicar la regla a todas las aplicaciones soportadas.
- En la sección Perfiles de Motor, selecciona el perfil usado para evaluar las solicitudes AI.
-
En la sección de Acción, seleccione la Acción para aplicar cuando una Solicitud coincide con el Perfil de contenido, como Bloquear.
Si estás creando una regla de API, la única acción disponible es Monitorear.
- (Opcional) Selecciona una Plantilla de Notificación para notificar a los usuarios cuando se aplique la acción.
- Haz clic en Guardar.
Cuando una solicitud coincide con los criterios configurados, se aplica la acción seleccionada.
La política de interacción de IA admite las siguientes acciones para cada Regla:
- Bloquear - la Solicitud está bloqueada, y no se envía información al Proveedor de IA
- Monitorear - la Solicitud se envía al Proveedor de IA, y la interacción se monitorea
-
Anonimizar y Bloquear - Si el Perfil del Motor que seleccionó incluye Detectores que:
- Soporte para anonimizar contenido, el contenido se anonimiza y se envía
- No soporta anonimizar contenido; la Solicitud está bloqueada
-
Anonimizar y Monitorear - Si el Perfil del Motor que seleccionó incluye Detectores que:
- Soporte para anonimizar contenido, el contenido se anonimiza y se envía
- No soporte contenido de anonimización. La solicitud se envía al proveedor de AI, y la interacción es monitoreada.
0 comentarios
Inicie sesión para dejar un comentario.