Washington – L'intelligence artificielle représente, selon Bill Gates, cofondateur de Microsoft, une technologie dotée d'un potentiel extraordinaire, mais également de risques importants en matière de sécurité. M. Gates, âgé de soixante-dix ans, a déclaré lors d'une interview pour la chaîne américaine NBC que, en cas de mauvaise utilisation de l'intelligence artificielle, des événements pourraient se produire qui entraîneraient potentiellement jusqu'à un milliard de vies humaines.
« L'intelligence artificielle est sans aucun doute suffisamment puissante pour provoquer des événements qui pourraient entraîner un milliard de victimes », a déclaré M. Gates en réponse à une question concernant les avertissements selon lesquels le développement rapide de cette technologie pourrait, dans les cas extrêmes, menacer l'humanité elle-même. M. Gates a également souligné que le risque le plus important ne réside peut-être pas dans la technologie elle-même, mais dans les personnes qui pourraient l'utiliser à des fins néfastes. « Il n'y a jamais eu d'arme aussi puissante que les individus aux intentions malveillantes qui utilisent les derniers outils de l'intelligence artificielle », a-t-il déclaré.
Cependant, il a également admis qu'il serait extrêmement difficile d'affecter toute la population mondiale. Ses déclarations ne visent donc pas une prédiction spécifique d'événements futurs, mais plutôt à sensibiliser aux risques potentiels liés aux systèmes d'IA très performants. M. Gates considère que la réglementation est un élément essentiel de la réponse à ces risques. Selon lui, le gouvernement américain devrait adopter les lois appropriées et établir des règles de sécurité contraignantes. Les autorités, les experts et les entreprises technologiques devraient mettre en place des mécanismes de surveillance qui limiteraient la possibilité d'une utilisation dangereuse de l'intelligence artificielle.
« Personne ne pense que l'autorégulation suffira », a déclaré M. Gates. Ses propos interviennent dans un contexte de développement rapide de l'IA générative, qui est de plus en plus utilisée dans le traitement du texte, la programmation, l'analyse des données et d'autres activités.
Des préoccupations concernant la sécurité de l'intelligence artificielle avancée sont également exprimées directement par le secteur technologique. Certaines entreprises leaders du secteur, notamment Anthropic et OpenAI, mettent en garde contre la nécessité de mécanismes de sécurité et d'un développement responsable. Les discussions se sont intensifiées également dans le contexte de cas où des systèmes utilisant l'IA ont été associés à des cyberattaques indépendantes. Le débat se déplace donc de plus en plus de la question de ce que l'intelligence artificielle est capable de faire, vers la question de savoir comment garantir que ses capacités restent sous un contrôle humain suffisant.
Jan Vojtěch
