El reconocido experto en IA de la UGR pone el acento en la responsabilidad de las empresas como antídoto ante la alarma mundial generada por su uso
Una de las charlas más interesantes y de máxima actualidad de la jornada inaugural ha sido la titulada ¿Puede matarme un algoritmo?, en la que Sergio Damas, catedrático del Departamento de Lenguajes y Sistemas Informáticos de la UGR, y nuestro compañero Javier Morales, jefe de Narrativas y Formatos de IDEAL, han abordado los riesgos del uso de la Inteligencia Artificial. La contestación de este reconocido experto a la citada cuestión ha sido «hoy por hoy no y esperemos que pronto, tampoco», tras aportar importantes reflexiones a lo largo del coloquio. Como punto de partida, Javier Morales puso en contexto la preocupación mundial existente por la superinteligencia auto-mejorada (muy por encima de la humana), a raíz de las noticias aparecidas en relación a dos de las grandes empresas de IA del mundo Anthropic y OpenAI.
Sergio Damas comenzó explicando que esta superinteligencia auto-mejorada es un tipo de «inteligencia artificial capaz de rescribir su propio código, rediseñar su propia arquitectura con el objetivo de ir mejorando y hacerlo de manera constante, cíclica y autónoma». De esta manera, se auto inspecciona para dar unos resultados mejores. Por ello, la cuestión que se plantea es hasta cuando es factible ese ciclo «porque se pueden ir alcanzando hitos y, en determinadas áreas, se ha alcanzado un rendimiento superior al mejor del mundo». La superinteligencia afecta ahora a muchas más áreas del conocimiento y nos dirigimos «a una visión interdisciplinar que puede solucionar problemas que, incluso, una gran parte de la humanidad, que está especializada en ellos, no ha sido capaz de resolver en siglos».
Para Sergio Damas «hablamos de fenómenos mucho menos televisivos o peliculeros, pero sí de un impacto global que puede ser muy importante». Si cualquier empresa apuesta por la inteligencia artificial está «asumiendo a la vez una gran responsabilidad para supervisarla». De ahí la existencia de sectores de riesgo y el deber de minimizar los riesgos por el impacto directo que tienen en la vida de las personas.
Como gran admirador del premio Nobel de Física, Geoffrey Hinton, padrino de la IA, y su afirmación escéptica de que «hay un 1% de posibilidades de que la IA nos destruya», quiso aportar también su visión personal de que «debemos caminar hacia un escenario que minimice aún más ese 1%». También, hacia un sistema más y mejor regulado, en concreto por la suplantación de identidad maliciosa y los ciberataques.
Por todo ello, la responsabilidad reside no tanto en los modelos elegidos por las empresas sino en la «rendición de cuentas» por parte de sus directivos y las decisiones tomadas por ellos.
Otro problema que se planteó fue la apuesta desde hace años por un «discurso desregulatorio del ámbito de la IA y creo que hay que ofrecer la capacidad de una regulación en la que el consumidor confíe».
