P. Meseguer, expert en intel·ligència artificial: "El mòbil ens escolta sense permís"

No, la intel·ligència artificial (IA) no és nova: va començar als anys 50 i tenia l'objectiu d'imitar la intel·ligència humana. La seva meta no ha canviat, però tot el que l'envolta ha començat a fer passos de gegant en els últims anys. 

Per què és important? Aquest és un debat que planteja mil incògnites i dubtes, empesos per l'auge de les eines que la utilitzen. Per fi, el Parlament Europeu ha votat a favor de prohibir les eines d'intel·ligència artificial que suposin "un risc inacceptable" per a la seguretat. Així, començarà a elaborar la primera normativa comunitària, pionera en el món, per regular la IA.

En detall: Pedro Messeguer, investigador del CSIC a l'Institut d'Investigació en Intel·ligència Artificial, visita Principal TV per parlar dels reptes d'aquesta nova realitat que ens convida a imaginar-nos un futur ple de beneficis, però que també fa aparèixer amenaces que ho emboliquen tot. Pots recuperar l'entrevista en vídeo a la capçalera d'aquest article i la seva transcripció, en les següents línies.

ChatGPT, Google Bard... Què està passant?

"Els últims 10 o 12 anys, hi ha hagut un creixement exponencial de tècniques noves que han revolucionat la intel·ligència artificial, i estan sortint productes molt sofisticats. Hem fet un pas més enllà a partir del 2012. Tenim uns traductors de llenguatge natural molt bons. Els professors d'institut i escola primària s'han de repensar els seus exercicis, perquè com continuïn posant exercicis clàssics, els alumnes li pregunten al ChatGPT i li ho fan, amb el nombre de paraules que necessitin i a la llengua que vulguin."

Aquestes comoditats ens poden fer més ximples o mandrosos?

"La capacitat memorística serà cada vegada menys vehicular per al coneixement i cada vegada serà més necessària la capacitat crítica. El fet de tenir un assistent robòtic que faci recerques per tu i que et presenti les coses per tu està molt bé, però que això no et faci ser més ximple. La tecnologia pot fer-nos més ximples (no ens hem d'esforçar per memoritzar, ho tenim tot a Internet a un clic...), però cal evitar-ho i utilitzar tota aquesta quantitat enorme d'informació, aquestes possibilitats, per saber més, entendre millor el món, fer millors contribucions a la societat. Que no ens facin infantiloides, éssers que no suporten el menor treball, com els personatges del llibre La Máquina del Tiempo."

Amenaces de la intel·ligència artificial

"Aquests models, els LLM (Large Language Models), poden tenir un biaix maliciós. Imagina que hi ha un tipus sense escrúpols que desenvolupa un model on comença a incloure fake news, fa una distorsió de la història com que els nazis no van matar jueus, o defensa tesis antivacunes, terraplanistes... Però el problema no està en la tecnologia, sinó en l'humà que la utilitza."

De què ens ha de protegir la nova regulació?

"D'una banda, ens han de protegir als ciutadans que no hi hagi sistemes que violin la nostra privacitat, que ens influeixin de forma subliminar... i, d'altra banda, cal donar un marc de seguretat jurídica a les empreses que vulguin desenvolupar aquesta tecnologia. I també per als seus productes. Imagina't un ChatGPT que escrigui novel·les. Qui és el seu propietari? Té copyright? Es pot copiar? Aquestes qüestions s'han de dilucidar i ara mateix s'està coent tot això."

Avenços de la intel·ligència artificial

"Vivim temps realment extraordinaris que no s'han viscut abans. Amb aquestes noves capacitats podem fer una anàlisi de les dades que vulguem (siguin vídeos, imatges, radiografies, llenguatge, text escrit...) d'una capacitat sobrehumana. Podem disposar d'una quantitat d'informació que els humans anteriors a nosaltres no han pogut assolir mai en la història i de forma gratuïta. I això es pot fer gràcies a la intel·ligència artificial."

Dilemes ètics

"La intel·ligència artificial planteja molts dilemes ètics, com el de les armes autònomes. La intel·ligència artificial, tecnologia que està desenvolupada com el reconeixement facial, permet fer armes intel·ligents sense que hi hagi un humà darrere. Se li diu l'estratègia fire and forget. Llances un dron que s'ocupa de buscar l'objectiu i atacar-lo, fins i tot sense tenir si més no la cara de l'individu. Va per l'aire i si identifica un potencial objectiu, ataca. Hi ha diverses empreses que comercialitzen aquests sistemes des de 2020."

Feines en perill per la intel·ligència artificial

"Aquestes tecnologies són capaces de decidir. Les feines que siguin molt repetitives, en les quals la decisió de l'operador sigui susceptible de ser automatitzada, seran les primeres a ser substituïdes per robots. I tot això és una crida perquè la gent es formi. Les feines repetitives seran substituïdes per màquines abans o després."

Si tenen certa autonomia i poder de decisió, poden decidir que siguem una amenaça per als seus interessos?

"Això entra dins de la ciència-ficció, però és una pregunta pertinent. Si això passés és perquè els hem donat aquesta capacitat, a aquests éssers. Em preocupa més l'ús que li donem els humans a la tecnologia que la tecnologia per si mateixa. L'energia nuclear té aspectes positius i negatius. Que anem per un costat o un altre depèn de qui la utilitzi, però aquesta tecnologia es pot utilitzar per a diferents coses. L'avenç en el coneixement, afortunadament, és un progrés. Cada vegada sabem més. Hem d'afinar i treballar-ho bé."

Aquestes eines han arribat massa d'hora? Fem tard?

"Possiblement sí. Pot ser que el temps corri en contra nostre per la falta de regulació. Però no estic preocupat per això. La legislació europea va molt lenta, però una vegada s'estableix, té el seu efecte. Però tu t'has preguntat per què el teu telèfon mòbil et treu anuncis sobre el que tu has parlat últimament. Doncs perquè t'està espiant. I malgrat que tenim una regulació de protecció de dades, això és una intrusió en la privacitat i hauria d'estar regulat, i no ho està. Hi ha coses més elementals que les utilitzem tots i que estan recollint la nostra informació, i això cal regular-ho."

Acceptem que el nostre mòbil ens escolti?

"Mai. Que ens escoltin no ho acceptem en cap moment, i crec que és una mala pràctica. Algú serà responsable d'això, tu no has donat permís per a això. Tampoc quan acceptem les cookies, que és simplement acceptar deixar una empremta de la teva presència en aquesta pàgina."

Conclusió: amenaça o avenç?

"Per a mi, és un avenç, però també té elements d'amenaça. Podem tenir ciutats en les quals els nivells de pol·lució disminueixin. Aquest és un avenç molt bo. Que hi hagi feines perilloses que puguin fer robots, també, com en accidents nuclears, on pots enviar una legió de robots. Un ganivet és útil per tallar el pa, però també es pot utilitzar per matar una persona. Tens les dues cares de la moneda. És decisió de la persona el fet d'utilitzar-ho en un sentit o un altre."