Foto: osn.org
La Secretaria General Adjunta de Comunicaciones Globales de la ONU, Melissa Fleming, pidió a los desarrolladores de IA generativa que antepongan la seguridad y los derechos humanos a los beneficios en la reunión del Consejo de Seguridad bajo la "Fórmula Arria". La sesión sobre la IA y su impacto en la incitación al odio, la desinformación y la información falsa (desinformación) estuvo copresidida por Emiratos Árabes Unidos y Albania y contó con las aportaciones de los expertos digitales Rahaf Harfoush y Jennifer Woodard.
En su discurso, la Sra. Fleming señaló que la IA generativa, si se desarrolla y utiliza de forma responsable, tiene el potencial de mejorar los derechos humanos, incluido el acceso a la información, la salud, la educación y los servicios públicos.
Sin embargo, expresó su honda preocupación por el potencial de esta tecnología para "intensificar drásticamente los daños en línea".
Gracias a la inteligencia artificial generativa, se pueden crear grandes volúmenes de desinformación convincente -desde texto hasta audio o vídeo- a gran escala, a muy bajo coste y con escasa intervención humana.
Estos contenidos pueden distribuirse masivamente no sólo en las redes sociales y a través de perfiles falsos, sino también en otros canales personalizados como campañas de correo electrónico, mensajes de texto y anuncios.
La IA generativa deja pocas huellas. También es mucho más difícil para los periodistas, los verificadores de hechos, las fuerzas de seguridad o la gente corriente detectar si el contenido es real o generado por IA. Fleming esbozó cuatro áreas clave para la ONU:
Paz y seguridad: la desinformación impulsada por la IA ya está amenazando las operaciones humanitarias y de mantenimiento de la paz de la ONU, poniendo en peligro al personal y a los civiles. Más de 70 % miembros de las fuerzas de paz de la ONU que respondieron a una encuesta reciente afirmaron que la desinformación y la información errónea limitan gravemente su capacidad para realizar su trabajo.
Abusos contra los derechos humanos: la inteligencia artificial se utiliza para crear y difundir contenidos nocivos, como material de abuso sexual infantil e imágenes pornográficas no consentidas, especialmente dirigidas a mujeres y niñas. A la ONU también le preocupa profundamente que la IA generativa pueda repoblar contenidos antisemitas, islamófobos, racistas y xenófobos.
Democracia en peligro: El potencial de la inteligencia artificial para manipular a los votantes e influir en la opinión pública durante las elecciones supone una amenaza significativa para los procesos democráticos en todo el mundo.
Socavar la ciencia y las instituciones públicas: Por ejemplo, las herramientas de IA podrían intensificar campañas de desinformación que llevan décadas socavando la acción climática mediante la difusión de información falsa sobre el cambio climático y las energías renovables. La base de estos fenómenos es la pérdida de confianza del público en las noticias y las fuentes de información.
La Sra. Fleming citó un informe reciente según el cual, desde mayo de este año, el número de sitios de noticias generados por IA que operan con poca o ninguna supervisión humana ha aumentado de 49 a casi 600. Algunos de estos sitios se llenan de miles de artículos nuevos cada día. Algunos de estos sitios se llenan de miles de artículos nuevos cada día. A menudo imitan a sitios de noticias conocidos y difunden historias completamente inventadas.
A la luz de estos retos, la ONU ha creado un Órgano Consultivo de la IA para reforzar la gobernanza mundial de la IA. Al mismo tiempo, la ONU está desarrollando un Código de Conducta para la Integridad de la Información con el fin de ayudar a que las sociedades sean más resistentes a la desinformación y la incitación al odio.
La Sra. Fleming pidió un enfoque equilibrado para aprovechar los beneficios de la IA y mitigar sus riesgos, subrayando la necesidad de contar con ecosistemas de información sanos para unas sociedades estables y unificadas. Su mensaje fue claro: los desarrolladores de IA deben anteponer las personas y su bienestar a los beneficios y garantizar que la tecnología sirva como una fuerza para el bien.
Análisis asistido por IA.
un.ogr/gn.cz-JaV_07
https://www.un.org/en/hate-speech/ai-concerns
Spanish 
Czech 
English 
French 
Italian