On queden els drets fonamentals amb la intel·ligència artificial?

Unes 60 entitats i organitzacions de la societat civil, espanyoles i internacionals, han reclamat una legislació "robusta" i "respectuosa" que protegeixi els drets fonamentals davant el nou Reglament d'intel·ligència artificial de la Unió Europea.

Per què és important? L'impacte de la intel·ligència artificial en la vida diària de la ciutadania cada vegada és més evident, amb exemples com el Xat GPT, però aquest fet comporta perills que diferents organitzacions internacionals apunten des de fa mesos. Els sistemes democràtics i els drets fonamentals, segons diuen, estan en risc.

En detall: La carta recull diverses preocupacions que, segons les entitats, han de vertebrar el debat final sobre el Reglament d'IA de la UE. Alguns exemples són:

• Ampliar el llistat de sistemes d'IA prohibits que representen un "risc inacceptable" per als drets fonamentals.
• Eliminar la discrecionalitat en el procés de classificació de sistemes d'alt risc.
• Establir un sistema de retiment de compte obligatori, també de transparència pública.
• Garantir drets i mecanismes de reparació per a les persones afectades pels sistemes d’IA.
• Assegurar que els estàndards tècnics no comprometin els drets fonamentals.
• Promoure una participació més gran de la societat civil en el desenvolupament de la IA.

Com? Per donar forma als detalls d'aquestes demandes, les organitzacions demanen a l'Estat celebrar reunions d'alt nivell amb representants de ministeris i carteres diferents abans de l'inici de la presidència espanyola a la Unió Europea.

Què diuen? Expressen que la proposta de la UE té deficiències i alerten que la IA fomenta la vigilància massiva i amplifica les desigualtats socials i els desequilibris de poder.

• També han denunciat que aquesta tecnologia pot suposar "una amenaça greu per als drets fonamentals i els processos democràtics".
• A les reunions exposen que “sol·licitaran garanties perquè es reforcin i es protegeixin adequadament els drets fonamentals al text final del Reglament d'IA".

Previsions: Les entitats pretenen liderar la resposta social a les polítiques de regulació i implementació de la intel·ligència artificial.

• El setembre de l'any passat es va impulsar un altre comunicat sobre l'Agència Espanyola de Supervisió de la Intel·ligència Artificial per a la qual es van reunir amb la secretària de Digitalització i Intel·ligència Artificial, Carme Artigas, i van demanar la implicació de la societat civil a la futura agència.