Imatges falses creades amb IA: Què diu la llei i per què és important denunciar

Ja són 22 denúncies oficials recollides per la policia i es creu que encara hi hauria més menors afectades per les fotografies de nus de menors creades amb intel·ligència artificial (IA) a Almendralejo, Badajoz.

Per què és important? Els responsables d'aquest delicte greu de pornografia infantil ha estat motiu de debat. Els joves tenen entre 12 i 14 anys i torna a posar sobre la taula la importància de l'educació sexual i amb perspectiva de gènere.

Què en sabem? La possible creació i difusió amb IA de falsos nus es coneixen com a "deepfakes" sexuals, una pràctica que pot ser delicte i que s'ha popularitzat a causa de les noves eines tecnològiques i el fàcil accés.

• Aquest ús de la IA suposa un risc per a la intimitat i l'honor dels menors.
• Les eines de control parental no són una solució definitiva si no s'explica als fills que aquesta mena d'activitat no són cap ximpleria i que la persona a qui ho fan és una víctima.

La llei: Amb independència de com es desenvolupi la investigació sobre aquest cas concret, els experts indiquen que el Codi Penal castiga amb fins a 5 anys de presó a qui creï material pornogràfic infantil.

• La llei estableix una sèrie de condicions perquè es doni aquest delicte i recull des del 2015 com a pornografia infantil “tot aquell material que representi de manera visual un menor” participant “en una conducta sexualment explícita, real o simulada”.
• Aquell mateix any, en una circular, la Fiscalia, va definir el terme “pornografia virtual” com “aquella en què la imatge del menor és una creació artificial però realista, elaborada per ordinador o un altre mitjà”.

A més, els experts també destaquen la possibilitat d'acudir a la via civil per danys a l'honor i a la intimitat de les víctimes. Recorden que l'Agència Estatal de Protecció de Dades (AEPD) preveu multes elevades per vulneració de la normativa, "que poden rondar els 10.000 euros".

Denunciar: Els experts destaquen la importància de denunciar aquests fets davant la AEPD, que ja ha obert una investigació d'ofici pel cas d'Almendralejo i davant les autornitats competents.

• De fet, el cas va sortir a la llum per la denúncia d'una mare afectada que va acabar convidant altres famílies a denunciar els fets.
• L'opacitat d'internet complica molt la persecució dels "deepfakes", perquè molts cops es desconeix quina és la font original.

Context: Un grup de mares es va organitzar després de descobrir l'existència d'un grup de Whatsapp de nois menors d'edat d'Almendralejo, i dels pobles dels voltants, en què compartien fotografies falses de menors nues.

• Les imatges les haurien creat ells mateixos amb una aplicació d'IA. La majoria són companys de classe, d'institut, o coneguts de les víctimes.