P. Meseguer, experto en inteligencia artificial: "El móvil nos escucha sin permiso"

No, la inteligencia artificial (IA) no es nueva: empezó en los años 50 y tenía el objetivo de imitar la inteligencia humana. Su meta no ha cambiado, pero todo lo que la rodea ha empezado a dar pasos de gigante en los últimos  años. 

¿Por qué es importante? Este es un debate que plantea mil incógnitas y dudas, empujadas por el auge de las herramientas que se apoyan en ella. Por fin, el Parlamento Europeo ha votado a favor de prohibir las herramientas de inteligencia artificial que supongan "un riesgo inaceptable" para la seguridad. Así, empezará a elaborar la primera normativa comunitaria, pionera en el mundo, para regular la IA.

En detalle: Pedro Messeguer, investigador del CSIC en el Instituto de Investigación en Inteligencia Artificial, visita Principal TV para hablar de los retos de esta nueva realidad que nos invita a imaginarnos un futuro lleno de beneficios, pero que también hace aparecer amenazas que lo lían todo. Puedes recuperar la entrevista en vídeo en la cabecera de este artículo y su transcripción, en las siguientes líneas.

ChatGPT, Google Bard... ¿Qué está pasando?

"En los últimos 10 o 12 años, ha habido un crecimiento exponencial de técnicas nuevas que han revolucionado la inteligencia artificial, y están saliendo productos muy sofisticados. Hemos dado un paso más allá a partir del 2012. Tenemos unos traductores de lenguaje natural muy buenos. Los profesores de instituto y escuela primaria se deben de repensar sus ejercicios, porque como sigan poniendo ejercicios clásicos, los alumnos le preguntan al ChatGPT y se lo hacen, con el número de palabras que necesiten y en la lengua que quieran."

¿Esas comodidades nos pueden hacer más tontos o perezosos?

"La capacidad memorística va a ser cada vez menos vehicular para el conocimiento y cada vez va a ser más necesaria la capacidad crítica. El hecho de tener un asistente robótico que haga búsquedas por ti y que te presente las cosas por ti está muy bien, pero que eso no te haga ser más zoquete. La tecnología puede hacernos más tontos (no hay que esforzarse en memorizar, lo tenemos todo en Internet a un clic…), pero debemos evitarlo para utilizar toda esa cantidad enorme de información, esas posibilidades, para saber más, entender mejor el mundo, hacer mejores contribuciones a la sociedad. Que no nos hagan infantiloides, seres que no soportan el menor trabajo, como los personajes del libro La Máquina del Tiempo."

Amenazas de la inteligencia artificial

"Estos modelos, los LLM (Large Language Models), pueden tener un sesgo malicioso. Imagina que hay un tipo sin escrúpulos que desarrolla un modelo donde empieza a incluir fake news, hace una distorsión de la historia como que los nazis no mataron judíos, o defiende tesis antivacunas, terraplanistas… Pero el problema no está en la tecnología, sino en el humano que lo utiliza."

¿De qué nos debe proteger la nueva regulación?

"Por un lado, deben protegernos a los ciudadanos de que no haya sistemas que violen nuestra privacidad, que nos influyan de forma subliminal… y, por otro lado, hay que dar un marco de seguridad jurídica a las empresas que quieran desarrollar esta tecnología. Y también para sus productos. Imagínate un ChatGPT que escriba novelas. ¿Quién es su propietario? ¿Tiene copyright? ¿Se puede copiar? Estas cuestiones se tienen que dilucidar y ahora mismo se está cociendo todo ello."

Avances de la inteligencia artificial

"Vivimos tiempos realmente extraordinarios que no se han vivido antes. Con estas nuevas capacidades podemos hacer un análisis de los datos que queramos (sean vídeos, imágenes, radiografías, lenguaje, texto escrito…) de una capacidad sobrehumana. Podemos disponer de una cantidad de información que los humanos anteriores a nosotros no han podido alcanzar jamás en la historia y de forma gratuita. Y esto se puede hacer gracias a la Inteligencia Artificial."

Dilemas éticos

"La inteligencia artificial plantea muchos dilemas éticos, como el de las armas autónomas. La inteligencia artificial, tecnología que está desarrollada como el reconocimiento facial, permite hacer armas inteligentes sin que haya un humano detrás. Se le llama la estrategia fire and forget. Lanzas un dron que se ocupa de buscar el objetivo y atacarlo, incluso sin tener siquiera la cara del individuo. Va por el aire y si identifica un potencial objetivo, ataca. Hay varias empresas que comercializan estos sistemas desde 2020."

Trabajos en peligro por la inteligencia artificial

"Estas tecnologías son capaces de decidir. Esos trabajos que sean muy repetitivos, en los que la decisión del operador sea susceptible de ser automatizada, van a ser los primeros en ser sustituidos por robots. Y todo ello es una llamada a que la gente se forme. Los trabajos repetitivos serán sustituidos por máquinas antes o después."

Si tienen cierta autonomía y poder de decisión, ¿pueden decidir que seamos una amenaza para sus intereses?

"Esto entra dentro de la ciencia ficción, pero es una pregunta pertinente. Si esto pasara es porque le hemos dado esa capacidad a estos seres. Me preocupa más el uso que le damos los humanos a la tecnología que la tecnología en sí. La energía nuclear tiene aspectos positivos y negativos. Que nos vayamos por un lado u otro depende de quien la use, pero esa tecnología se puede utilizar para distintas cosas. El avance en el conocimiento, afortunadamente, es un progreso. Cada vez sabemos más. Tenemos que afinar y trabajarlo bien."

¿Estas herramientas han llegado demasiado pronto? ¿Vamos tarde?

"Posiblemente sí. Puede que el tiempo corra en nuestra contra por la falta de regulación, pero yo no estoy demasidado preocupado por esto, porque la legislación europea va muy lenta, pero una vez se establece, tiene su efecto. Pero tú te has preguntado por qué tu teléfono móvil te saca anuncios sobre lo que tú has hablado últimamente. Pues porque te está espiando. Y a pesar de que tenemos una regulación de protección de datos, esto es una intrusión en la privacidad y debería estar regulado, y no lo está. Hay cosas más elementales que las usamos todos y que están recabando nuestra información, y eso hay que regularlo."

¿Aceptamos que nuestro móvil nos escuche?

"Nunca. Que nos escuchen no lo aceptamos en ningún momento, y creo que es una mala práctica. Alguien será responsable de ello, tú no has dado permiso para ello. Tampoco cuando aceptamos las cookies, que es simplemente aceptar dejar una huella de tu presencia en esa página."

Conclusión: ¿amenaza o avance?

"Para mí es un avance, pero también tiene elementos de amenaza. Podemos tener ciudades en las que los niveles de polución disminuyan. Este es un avance muy bueno. Que haya trabajos peligrosos que puedan hacer robots, también, como en accidentes nucleares, donde puedes enviar una legión de robots. Un cuchillo es útil para cortar el pan, pero también se puede usar para matar a una persona. Tienes las dos caras de la moneda. Es decisión de la persona el utilizarlo en un sentido u otro."