Un millar de expertos exigen frenar la inteligencia artificial

Más de un millar de expertos en tecnología han presentado un contundente comunicado en que exigen a las empresas de inteligencia artificial (IA) que detengan su desarrollo durante seis meses, y a los gobiernos que procuren que se cumpla o que intervengan para asegurarlo. Denuncian el peligro cada vez más grave que supone la IA para la sociedad y la humanidad.

¿Por qué es importante? Instan a desarrollar un sistema de control y gobernanza para poner freno a la inminente catástrofe que prevén y conseguir que la sociedad pueda disfrutar de la IA y sus beneficios y se pueda adaptar. 

¿Qué dicen? "Ni siquiera sus creadores pueden entender" las mentes inteligentes que están desarrollando, aseguran los expertos.

• "Los sistemas de IA poderosos solo se tienen que desarrollar cuando estemos seguros de que sus efectos serán positivos y sus riesgos serán gestionables".
• ¿"Tenemos que dejar que las máquinas inunden nuestros canales de información con propaganda y mentiras?", se preguntan.
• Y siguen cuestionándose: ¿"Tendríamos que desarrollar mentes no humanas que eventualmente puedan superarnos en número, ser más inteligentes y sustituirnos? ¿Nos tenemos que arriesgar a perder el control de nuestra civilización"?
• Afirman que "estas decisiones no se tienen que delegar a líderes tecnológicos no elegidos".

En detalle: Los expertos piden que se creen nuevas y competentes autoridades dedicadas a la IA.

• Establecer supervisión y seguimiento de sistemas de IA de alta capacidad
• Sistemas de seguimiento y marca de agua para ayudar a diferenciar sistemas reales de los maliciosos.
• Un sistema de autoría y certificación sólido.
• Responsabilidad por los daños causados por la IA.
• Financiación pública para la investigación técnica de seguridad en IA.
• Instituciones con buenos recursos para hacer frente a los dramáticos efectos que la IA provocará en la economía y la política, especialmente en la democracia.

¿Qué esperar? Los expertos piden a los laboratorios de IA que aprovechen el paro para desarrollar e implementar "protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA" y exige que sean "rigurosamente auditados y supervisados por expertos externos independientes".