Naciones Unidas - António Guterres, en un discurso ante ministros y embajadores, advirtió de que el rápido desarrollo de la inteligencia artificial está superando la capacidad de la humanidad para gestionarla, lo que plantea importantes cuestiones sobre la rendición de cuentas, la equidad, la seguridad y la supervisión humana de la toma de decisiones.
"Cada momento de retraso en la creación de respaldos internacionales aumenta el riesgo para todos nosotros", afirmó Guterres.
"Ningún país debe diseñar, desarrollar, desplegar o utilizar aplicaciones militares de inteligencia artificial en conflictos armados que violen el derecho internacional humanitario y los derechos humanos. Esto incluye confiar en la IA para seleccionar o atacar objetivos de forma autónoma".
También subrayó que la competencia geopolítica por las nuevas tecnologías no debe desestabilizar la paz y la seguridad internacionales.
Arma de doble filo
En su discurso, Guterres subrayó la ambivalencia de la inteligencia artificial y destacó su potencial para predecir los desplazamientos causados por el cambio climático o detectar minas terrestres. Sin embargo, su integración en sistemas militares y su uso indebido en el ámbito de la seguridad digital suponen un gran riesgo.
"Los conflictos recientes se han convertido en un campo de pruebas para las aplicaciones militares de la inteligencia artificial", dijo, refiriéndose al uso de la IA en la vigilancia autónoma, la policía predictiva e incluso las decisiones de vida o muerte comunicadas.
Subrayó que preocupan especialmente la posible integración de la IA con las armas nucleares y la aparición de sistemas cuánticos de IA que podrían desestabilizar la seguridad mundial.
"El destino de la humanidad nunca debe dejarse en manos de la 'caja negra' de un algoritmo", afirmó, subrayando la importancia del control humano sobre las decisiones que implican el uso de la fuerza.
Abuso de confianza
Otro motivo de preocupación es el papel de la IA en el sector de la información, dijo Guterres, señalando cómo los deepfakes y la desinformación generados por la IA pueden manipular la opinión pública, desencadenar crisis y socavar la confianza en la sociedad.
También destacó los riesgos medioambientales de la IA e hizo hincapié en la intensidad de recursos de los centros de datos y la competencia geopolítica por los minerales críticos necesarios para las tecnologías de IA.
"Retos mundiales sin precedentes requieren una cooperación mundial sin precedentes", afirmó, pidiendo un esfuerzo concertado para garantizar que la IA beneficie a todos y no agrave las desigualdades.
Llamamiento a un marco global
Guterres destacó las medidas adoptadas recientemente para crear una gobernanza mundial de la IA, entre ellas la adopción del Pacto Mundial Digital de las Naciones Unidas en la Cumbre del Futuro y dos resoluciones clave de la Asamblea General sobre el refuerzo de la cooperación mundial y la creación de capacidades.
En los próximos días se debatirá en la Asamblea General una tercera resolución, centrada en la IA en el ámbito militar.
Al final de su discurso, Guterres reiteró su llamamiento a la prohibición de las armas autónomas letales y pidió al Consejo de Seguridad que diera ejemplo e impidiera la militarización de la IA de forma que desestabilizara la paz y la seguridad internacionales.
"Les insto a todos a que unan sus fuerzas y construyan un futuro seguro e inclusivo para la IA".
noticias.un.org / gnews.cz-jav
Spanish 
Czech 
English 
French 
Italian