La página de Interacciones de IA te permite monitorear cómo se utilizan las aplicaciones de chat de IA en toda tu organización y evaluar el potencial riesgo de exposición de datos a través de solicitudes de usuario. Después de habilitar Seguridad de IA, la página proporciona visibilidad en las solicitudes enviadas a aplicaciones de IA soportadas y habilitadas, ayudándote a entender patrones de uso e investigar interacciones potencialmente riesgosas.
Cada interacción representa una única solicitud y incluye información contextual como la aplicación de IA que recibió la solicitud y el tema detectado e intención.
Cuando defines reglas de Seguridad de IA con una acción de Monitoreo, las solicitudes coincidentes aparecen en la página de Interacciones de IA con un indicador de detección. Para estas interacciones:
-
La columna de Detecciones muestra el perfil de monitorización que desencadenó la detección
-
Puedes identificar rápidamente qué regla de monitorización coincidió con la solicitud
Esta información te ayuda a validar la cobertura de reglas y ajustar tus políticas.
Cuando profundizas en una interacción específica, el nivel de detalle disponible depende de los permisos asignados. Los administradores con los permisos necesarios pueden solicitar ver la solicitud real que fue enviada a la aplicación de IA. Si la solicitud contiene contenido problemático, las secciones relevantes se marcan o destacan. Cuando la acción de la regla también incluye Bloqueo, los detalles de la interacción muestran la página de bloqueo que se presentó al usuario.
Para información sobre los roles y permisos, consulta Gestión de Roles de Administrador Usando RBAC.
Nota: Operaciones, como ver la solicitud, se registran en el Registro de Auditoría.
La Compañía ABC habilita la Seguridad de IA para obtener visibilidad de cómo los empleados utilizan aplicaciones de chat de IA en su trabajo diario. Al revisar las interacciones en la página de Interacciones de IA, el equipo de seguridad puede ver qué tipos de preguntas y solicitudes envían los usuarios a las herramientas de IA.
Este conocimiento ayuda a tu organización a comprender mejor las actividades de los empleados, identificar lagunas comunes de conocimiento o necesidades reiteradas de asistencia, y determinar dónde la orientación adicional, capacitación o habilitación puede mejorar la productividad mientras se reduce el riesgo.
0 comentarios
Inicie sesión para dejar un comentario.