Al poco de comenzar la primera ponencia de TAI Granada, Jonathan Nelson, director de riesgos de Constella Intelligence, empresa internacional especializada en seguridad digital y virtual, lanzó una pregunta clave a los asistentes: «¿Cuántos leéis las condiciones de una app cuando os registráis? Levantad la mano, por favor». Efectivamente, nadie se movió de su butaca. Y ahí empieza el problema: ‘Los peligros de la inteligencia artificial generativa (IA) y la desinformación’.
Nelson charló con Ana Teresa Valenzuela, adjunta de dirección de AR Vision, agencia que crea soluciones innovadoras basadas en la realidad virtual. «Somos muchos los que usamos apps generativas que aprenden de nuestro comportamiento, de nuestras imágenes, de nuestros textos… ¿Qué supone la IA generativa, Jonathan?». «El avance es increíble. Piensa en ChatGPT, por ejemplo, capaz de conversar, analizar contenido, aprender… El avance es tan rápido que hace un año prácticamente no existía».
«El avance es tan rápido que hace un año prácticamente no existía»
Jonathan Nelson
Sin embargo, el gran avance de ChatGPT viene también con problemas muy controvertidos. «Hay casos de gente que ha compartido información sensible y privada de sus empresas en ChatGPT. Metieron código fuente y eso se queda dentro, provocando una vulnerabilidad muy grave. Hay que pensar en los riesgos».
Valenzuela se preguntó entonces lo que todos estábamos pensando: «¿Dónde se almacenan los datos que damos en apps y página webs?». Ahí fue, precisamente, cuando supimos que nadie, absolutamente nadie de los asistentes a TAI, leía las condiciones de uso. «El reto nos implica a todos: empresas, personas, gobiernos, instituciones público… cada persona tiene su responsabilidad. Hace nada no hablábamos de IA generativa. Y en esos cambios también hay actores malignos, personas e instituciones que van a intentar conseguir datos personales para motivos económicos, geopolíticos, etecétera».
Las técnicas que esas entidades «malignas» utilizan van , por desgracia, muy por delante de la legistlación. Ahí entran en juego empresas como Constella Intelligence, que vigilan, protegen y se adelantan a posibles filtraciones. ¿Y cómo hace la IA generativa para favorecer la desinformación? «La IA generativa -dijo Nelson- hace contenidos que parecen muy reales: texto, audio, imágenes… Y esos efectos especiales son muy relevantes, porque pueden alterar la percepción de eventos de manera colectiva. Pueden alterar lo que estás viendo en la realidad para que entiedas otra cosa».
«Una imagen creada con IA puede alterar la percepción de eventos de manera colectiva»
Jonathan Nelson
Valenzuela, para terminar, reflexionó sobre el futuro de la IA generativa y nuestra papel como usuarios. «Toda evolución tecnológica tiene su parte positiva y negativa, de ahí la importancia fundamental de conocer la repercusión que tienen; la importancia de contar cuál es el buen uso de las herramientas; y la importancia de crear un marco legal en el que nos sintamos protegidos».
Nelson, antes de marcharse, dejó en el aire una idea difícil de ignorar. «Cuidado, porque la mayoría de datos personales y sensibles que circulan por la red los damos voluntariamente». Para tomar nota.
