OpenAI prévoit un changement important pour les utilisateurs de l'Union européenne. Les textes générés via ChatGPT et Codex contiendront, dans les prochaines semaines, une filigrane numérique invisible qui permettra de déterminer automatiquement si une intelligence artificielle a contribué à leur création.

L'entreprise OpenAI a annoncé ce nouveau système le lundi 5 octobre. Cette technologie, appelée textGrain, sera progressivement déployée dans certains textes générés par ChatGPT et Codex dans toute l'Union européenne, et concernera les utilisateurs de tous les tarifs. L'une des raisons est liée aux nouvelles exigences du règlement européen sur l'intelligence artificielle, connu sous le nom d'"AI Act".

Il ne s'agit pas d'un filigrane classique que l'utilisateur pourrait voir à l'écran. Le texte ne contiendra aucun avertissement ni symbole particulier. textGrain fonctionne différemment : lors de la génération d'une réponse, il influence légèrement le choix des mots et crée un motif statistique dans le texte qui peut être détecté par un détecteur spécial.

Le filigrane reste intégré au texte même après qu'il ait été copié, par exemple, dans un document, un e-mail ou sur une page web.

Le filigrane a ses limites

OpenAI souligne également que cette technologie n'est pas infaillible. Plus le texte est court ou modifié, plus il est difficile de déterminer avec certitude son origine.

Lors d'un test, le système a réussi à détecter le filigrane dans environ 92 % des cas pour un texte original contenant plusieurs centaines de "tokens". Cependant, après avoir remplacé 10 % des mots par des synonymes, le taux de réussite est tombé à environ 66 %. Si 25 % des mots ont été modifiés, le détecteur n'a reconnu la marque que dans environ 17 % des cas.

Les réponses très courtes, les textes mathématiques ou les traductions sont également problématiques. OpenAI souligne donc que l'absence du filigrane ne sera certainement pas une preuve que le texte a été écrit par un humain.

De même, la réciproque est vraie. La présence d'un filigrane indique simplement que le texte a pu être créé ou traité par le système OpenAI. Cela ne dit rien sur le travail effectué par un humain, s'il a été modifié ultérieurement, ni qui l'a créé.

Les utilisateurs ne peuvent pas être retracés

La question de la confidentialité est également importante. OpenAI affirme que le filigrane ne contiendra aucune information sur l'utilisateur spécifique, le compte utilisé, la requête (prompt) ou la conversation elle-même.

De plus, le détecteur ne sera initialement pas accessible au grand public. Seuls les chercheurs et les organisations spécialisées qui ont été approuvés recevront un accès pour aider à évaluer sa fiabilité et ses utilisations potentielles.

Pour les clients utilisant l'API, la situation sera différente. Ils pourront activer volontairement le filigrane textuel sur les modèles compatibles dans le monde entier. Par défaut, il restera désactivé.

Ce changement affectera principalement les utilisateurs courants de ChatGPT et Codex en Union européenne. OpenAI prévoit un déploiement progressif au cours des prochaines semaines et reconnaît que la méthode d'identification des textes continuera d'évoluer en fonction de l'expérience acquise lors de son utilisation réelle.

Jaroslav Holý