Amnistía Internacional alerta de los peligros de la IA al generar racismo y desigualdades

Amnistía Internacional ha alertado de que la inteligencia artificial (IA) puede generar más desigualdades y racismo a las sociedades y ha exigido en la Unión Europea que regule y prohíba las herramientas que utilizan esta tecnología de manera "peligrosa".

¿Por qué es importante? La Unión Europea está negociando la que será la primera ley internacional que ponga límites a la IA, por eso Amnistía Internacional ha aprovechado para remarcar los peligros de esta tecnología y exigir medidas al ente internacional.

En detalle: La ONG exige el veto de sistemas como el de reconocimiento facial en lugares públicos, incluidas zonas fronterizas en torno a centros de detención.

• Considera que hay que poner límites "que hagan frente a los problemas existentes, como que la tecnología se utilice para tomar decisiones discriminatorias que vulneren derechos humanos básicos." 

Ejemplo: El comunicado de la organización pone como ejemplo una herramienta utilizada en los Países Bajos para, supuestamente, detectar si las solicitudes de ayudas a la infancia eran fraudulentas o no. 

• Según Amnistía, el sistema "penalizó erróneamente miles de familias de clase baja y de origen inmigrante, hundiéndolos en la pobreza y tener que hacer frente a más deudas".

¿Qué dice? Amnistía Internacional expone en un comunicado que "los sistemas de IA han amplificado de forma flagrante el racismo y las desigualdades y han perpetuado la vulneración de los derechos humanos".

• El asesor sobre regulación de la inteligencia artificial de Amnistía Internacional, Mher Hakobyan, asegura que los nuevos sistemas tecnológicos "no se utilizan para mejorar el bienestar de la gente, sino que se utilizan para ahorrar costes".
• "Cuando ya existen problemas sistémicos como el racismo y la discriminación, estas tecnologías dañan todavía más las comunidades marginadas", expone Hakobyan.