Usando el Tablero de GenAI Apps

Este artículo explica cómo usar el panel de aplicaciones GenAI para supervisar cómo se utilizan las aplicaciones GenAI en tu entorno. Para obtener más información sobre cómo proteger aplicaciones basadas en inteligencia artificial, consulte Securing AI App Traffic.

Visión General

El Tablero de GenAI Apps proporciona visibilidad centralizada y completa sobre el uso en línea de aplicaciones GenAI, incluyendo AI en la sombra. El tablero detalla qué aplicaciones de AI se están utilizando en toda su organización, y por quién, y rastrea todas las interacciones de los usuarios y el intercambio de datos sensibles. Esto le ayuda a detectar si datos sensibles, por ejemplo, código fuente, PII o información financiera se han expuesto a un LLM. Exponer estos datos sensibles a un LLM puede crear un riesgo de seguridad, ya que los adversarios pueden consultar el modelo para extraer los datos. Con la visibilidad proporcionada por el tablero de GenAI Apps, puede prevenir proactivamente las violaciones de datos al identificar riesgos.

El tablero también categoriza las aplicaciones GenAI, permitiéndole aplicar políticas de seguridad detalladas a través del Control de Aplicaciones o reglas DLP adaptadas a sus requisitos específicos.

Obtener visibilidad de estos datos es una parte clave para proteger tu organización y sus datos sensibles mientras se habilita el uso seguro de aplicaciones de inteligencia artificial. Para obtener más información sobre cómo desarrollar una estrategia para proteger tu organización mientras utilizas aplicaciones basadas en inteligencia artificial, consulte Securing AI App Traffic.

Se requiere una Licencia CASB para el Tablero de GenAI Apps. Para más información sobre la compra de una Licencia CASB, por favor contacte a su representante de Cato.

Caso de Uso - Identificación de AI en la sombra y Gobernanza de AI

El equipo de seguridad de la empresa ABC tiene una política de datos clara sobre qué aplicaciones GenAI pueden ser utilizadas. Ellos crean reglas de Control de Aplicaciones y DLP para hacer cumplir la política. Sin embargo, a menudo desconocen qué aplicaciones GenAI se utilizan dentro de su organización. Esto crea un riesgo de seguridad ya que sin este conocimiento, no pueden hacer cumplir su política de seguridad.

Para mitigar este riesgo e identificar aplicaciones de AI en la sombra, el equipo de seguridad revisa el:

Principales Aplicaciones widget para identificar quién está usando aplicaciones de AI en la sombra y el nivel de riesgo asociado a la aplicación
Cargas de Archivos widget para identificar cargas sensibles de archivos a aplicaciones no autorizadas y crear nuevas políticas de datos para prevenir filtraciones adicionales
Clasificación widget para identificar duplicados de aplicaciones autorizadas por categoría y restringir el acceso a aplicaciones no autorizadas

Comenzando con el Tablero de GenAI Apps

Para acceder al Tablero de GenAI Apps, vaya a Seguridad > GenAI Apps.

El Tablero de GenAI Apps está dividido en tres secciones:

Resumen: Una vista de alto nivel de las aplicaciones GenAI utilizadas en su ecosistema y las categorías en las que se encuentran
Visión General: Obtenga visibilidad sobre las aplicaciones GenAI utilizadas en su entorno, sus eventos generados, actividad de usuarios y acciones realizadas
Protección de Datos: Información sobre violaciones de políticas de datos y los usuarios y archivos involucrados

El tablero entero puede ser filtrado por usuario o aplicación para obtener una comprensión más profunda del uso de GenAI.

Nota

Nota: Algunos widgets en el tablero requieren que Control de Aplicaciones esté habilitado con una regla que monitoree todas las actividades en la nube a través de todas las aplicaciones en la nube.

Estas tablas explican los widgets en el Tablero de GenAI Apps.

Entendiendo la Sección de Resumen

Esta tabla explica los widgets en la sección de Resumen.

Nombre	Descripción
Aplicaciones GenAI	Cuántas herramientas GenAI son licencias utilizadas.
Clasificación	Número de aplicaciones GenAI autorizadas y no autorizadas utilizadas.
Aplicaciones Arriesgadas	Número de aplicaciones GenAI arriesgadas que se están utilizando.
Usuarios	Número de usuarios que utilizan aplicaciones GenAI.
Violaciones de Datos	Número de violaciones de datos detectadas por aplicaciones GenAI.
Uso de la Red	Uso de red de aplicaciones GenAI.
Aplicaciones por Categoría	Número de aplicaciones GenAI utilizadas por categoría de AI.

Entendiendo la Sección de Visión General

Esta tabla explica los widgets en la sección de Visión General.

Nombre	Descripción
Eventos por Acción	Desglose de la acción que Cato ha tomado sobre eventos generados por aplicaciones GenAI.
Aplicaciones por	Lista de todas las aplicaciones GenAI utilizadas en su entorno, ordenadas por el número de usuarios que acceden a la aplicación, o la puntuación de riesgo de la aplicación.
Principales Usuarios GenAI	Lista de usuarios con el mayor uso de red de aplicaciones GenAI.
Principales Actividades de Usuario a lo largo del Tiempo	Actividades de usuario más frecuentes en aplicaciones GenAI a lo largo del tiempo. Puede ver el número exacto de actividades haciendo clic en el gráfico. Esto le ayuda a detectar anomalías en las actividades de los usuarios.

Entendiendo la Sección de Protección de Datos

Esta tabla explica los widgets en la sección de Protección de Datos.

Se requiere una Licencia DLP para ver esta sección. Para más información sobre la compra de una Licencia DLP, por favor contacte a su representante de Cato.

Nombre	Descripción
Violaciones por Perfil de Datos	Proporción de cada tipo de datos involucrados en violaciones y las 4 principales aplicaciones con más violaciones de datos.
Violaciones de Políticas a lo largo del Tiempo	La cantidad de violaciones de políticas de datos a lo largo del tiempo.
Principales Usuarios Compartiendo Datos Sensibles	Lista de los usuarios que más frecuentemente violan la política de datos.
Violaciones de Políticas	Lista de las reglas DLP que se violaron con más frecuencia.
Cargas de Archivos	Lista de los archivos más recientes cargados en aplicaciones GenAI.