Le responsable des communications mondiales de l'ONU exhorte les développeurs d'IA à "faire passer les gens avant les profits".

Photo : osn.org

La secrétaire générale adjointe des Nations unies chargée de la communication mondiale, Melissa Fleming, a appelé les développeurs d'IA générative à faire passer la sécurité et les droits de l'homme avant le profit lors de la réunion du Conseil de sécurité consacrée à la "formule Arria". La session sur l'IA et son impact sur le discours de haine, la désinformation et les fausses informations a été coprésidée par les Émirats arabes unis et l'Albanie et a bénéficié de l'éclairage des experts numériques Rahaf Harfoush et Jennifer Woodard.

Dans son discours, Mme Fleming a souligné que l'IA générative, si elle est développée et utilisée de manière responsable, a le potentiel d'améliorer les droits de l'homme, notamment l'accès à l'information, à la santé, à l'éducation et aux services publics.

Toutefois, elle a exprimé de sérieuses inquiétudes quant au potentiel de cette technologie à "intensifier considérablement les dommages en ligne".

Grâce à l'intelligence artificielle générative, de grandes quantités de fausses informations convaincantes - qu'il s'agisse de textes, de sons ou de vidéos - peuvent être créées à grande échelle, à un coût très faible et avec peu d'intervention humaine.

Ces contenus peuvent être diffusés en masse non seulement sur les médias sociaux et par le biais de faux profils, mais aussi dans d'autres canaux personnalisés tels que les campagnes de courrier électronique, les messages textuels et les publicités.

L'IA générative laisse peu d'empreintes. Il est également beaucoup plus difficile pour les journalistes, les vérificateurs de faits, les forces de l'ordre ou les citoyens ordinaires de déterminer si le contenu est réel ou généré par l'IA. Mme Fleming a mis en évidence quatre domaines essentiels pour les Nations unies :

Paix et sécurité : la désinformation induite par l'IA menace déjà les opérations humanitaires et de maintien de la paix de l'ONU, mettant en danger le personnel et les civils. Plus de 70 % Casques bleus ayant répondu à une enquête récente ont déclaré que la désinformation et la mésinformation limitaient considérablement leur capacité à faire leur travail.

Violations des droits de l'homme : l'intelligence artificielle est utilisée pour créer et diffuser des contenus préjudiciables, notamment des documents sur les abus sexuels commis sur des enfants et des images pornographiques non consensuelles, ciblant en particulier les femmes et les filles. Les Nations unies sont également très préoccupées par le fait que des contenus antisémites, islamophobes, racistes et xénophobes pourraient être repeuplés par l'IA générative.

Démocratie en danger : la possibilité pour l'intelligence artificielle de manipuler les électeurs et d'influencer l'opinion publique pendant les élections constitue une menace importante pour les processus démocratiques dans le monde entier.

Saper la science et les institutions publiques : Par exemple, les outils d'IA pourraient intensifier des campagnes de désinformation menées depuis des décennies pour saper l'action en faveur du climat en diffusant de fausses informations sur le changement climatique et les énergies renouvelables. Ces phénomènes sont sous-tendus par une baisse de la confiance du public dans les nouvelles et les sources d'information.

Mme Fleming a cité un rapport récent selon lequel, depuis le mois de mai de cette année, le nombre de sites d'information générés par l'IA et fonctionnant avec peu ou pas de supervision humaine est passé de 49 à près de 600. Certains de ces sites contiennent des milliers de nouveaux articles chaque jour. Ils imitent souvent des sites d'information connus et diffusent des histoires complètement inventées.

Face à ces défis, les Nations unies ont créé un organe consultatif sur l'IA afin de renforcer la gouvernance mondiale de l'IA. Parallèlement, les Nations unies élaborent un code de conduite pour l'intégrité de l'information afin d'aider les sociétés à mieux résister à la désinformation et aux discours haineux.

Mme Fleming a appelé à une approche équilibrée pour exploiter les avantages de l'IA tout en atténuant ses risques, soulignant la nécessité de disposer d'écosystèmes d'information sains pour des sociétés stables et unifiées. Son message était clair : les développeurs d'IA doivent faire passer les personnes et leur bien-être avant le profit et veiller à ce que la technologie soit une force au service du bien.

Analyse assistée par ordinateur.

un.ogr/gn.cz-JaV_07

https://www.un.org/en/hate-speech/ai-concerns