El descubrimiento de IA oculto te permite obtener visibilidad sobre el uso de servicios de IA generativa y servicios impulsados por IA que no están formalmente aprobados ni gobernados por tu organización. Te ayuda a entender dónde y cómo los usuarios interactúan con las herramientas de IA, para que puedas evaluar la posible exposición de datos y riesgo antes de definir políticas de aplicación o gobernanza.
El descubrimiento de IA oculto se centra en la conciencia y la información. No bloquea el tráfico por defecto y no inspecciona el contenido de las sugerencias o respuestas de IA.
El descubrimiento de IA oculto identifica interacciones con servicios de IA a través del tráfico de Internet, incluyendo:
- Herramientas generativas de IA públicas
- Funciones impulsadas por IA integradas dentro de aplicaciones SaaS
- Interacciones directas de usuarios con servicios de IA en sitios o usuarios remotos
Estas interacciones pueden ocurrir sin la aprobación explícita de TI y fuera de las plataformas autorizadas de IA empresarial.
El descubrimiento de IA oculto se basa en la visibilidad a nivel de red y el análisis de tráfico.
Cato identifica los Servicios de IA utilizando una combinación de Firmas de Aplicación, Dominios y patrones de Comportamiento. Esto incluye tanto Aplicaciones de IA independientes como Capacidades de IA integradas dentro de plataformas SaaS más amplias.
El Tráfico se analiza y clasifica continuamente para detectar actividades relacionadas con IA, basadas en Protocolo, Destino y el Comportamiento de Uso. Este enfoque no depende de integraciones de API con Proveedores de IA o inspecciones basadas en Agentes en Puntos de conexión.
El Uso de IA se correlaciona con el contexto de la Red, permitiendo visibilidad sobre quién está usando los Servicios de IA, desde dónde y en qué Dispositivos, sin inspeccionar el contenido de las interacciones del Usuario.
Además, Cato ofrece Descubrimiento, visibilidad de Configuración y Evaluación de Riesgos para Modelos de IA integrados dentro de Aplicaciones SaaS (como Microsoft 365 Copilot o funciones de IA de Google Workspace). Estas Capacidades de IA integradas se identifican como parte del mismo Proceso de análisis, asegurando que no sean pasadas por alto.
Cato AI Security evalúa la postura de Riesgo de estas características de IA integradas, incluidos los planes o configuraciones Específicos en uso, y habilita a las organizaciones para imponer Políticas que regulan cómo se accede y usa la IA dentro de estas Aplicaciones.
El descubrimiento de IA oculto recopila metadatos e información contextual relacionada con el uso de IA. La información recopilada incluye:
- Identidad de la aplicación o servicio de IA
- Categoría de la aplicación y clasificación de IA
- Contexto de origen, como usuario, sitio o dirección IP
- Servicio de destino de IA
- Frecuencia y volumen de actividad relacionada con IA
Las perspectivas del descubrimiento de IA oculto se presentan en una página dedicada a la IA oculta en la Aplicación de Gestión de Cato. Esta página está diseñada para darte una vista agregada, consciente del riesgo, del uso de IA en toda tu organización.
La página de IA oculta te ayuda a responder preguntas clave como:
- Qué aplicaciones de IA se están utilizando en el entorno
- Qué tan ampliamente se utiliza cada aplicación de IA, basada en usuarios e interacciones
- Qué aplicaciones de IA representan un mayor riesgo y requieren una revisión más cercana
Utiliza estas perspectivas para entender los patrones de adopción de IA, identificar servicios de IA no sancionados o de alto riesgo, y decidir si se requieren controles adicionales de gobernanza o políticas.
La Compañía ABC permite que los empleados accedan libremente a Internet para apoyar la productividad y la colaboración. Con el tiempo, los usuarios comienzan a adoptar herramientas de IA generativa pública y características impulsadas por IA para ayudar con tareas como la creación de contenido, la investigación y la codificación. Estos servicios a menudo se utilizan sin la aprobación formal o visibilidad de TI.
Como administrador de TI, usas el descubrimiento de IA oculto para analizar el tráfico de Internet enrutado a través de la Nube de Cato e identificar interacciones con servicios de IA. La página de IA oculta construye un inventario de aplicaciones de IA en uso, muestra qué tan ampliamente están adoptadas y resalta aplicaciones que pueden introducir un mayor riesgo.
Usando estas perspectivas, puedes entender cómo se utiliza la IA en toda tu organización, identificar servicios de IA no sancionados o de alto riesgo, evaluar la posible exposición de datos y tomar decisiones informadas sobre la gobernanza de la IA y las plataformas de IA sancionadas.
0 comentarios
Inicie sesión para dejar un comentario.