OpenAI sta preparando una importante modifica per gli utenti nell'Unione Europea. I testi generati tramite ChatGPT e Codex conterranno, nelle prossime settimane, un watermark digitale invisibile che consentirà di rilevare automaticamente se sono stati creati con l'ausilio dell'intelligenza artificiale.

L'azienda OpenAI ha annunciato il nuovo sistema lunedì 5 ottobre. La tecnologia, denominata textGrain, sarà implementata gradualmente in alcuni output testuali di ChatGPT e Codex in tutta l'Unione Europea e riguarderà gli utenti di tutti i piani tariffari. Una delle ragioni sono le nuove richieste del regolamento europeo sull'intelligenza artificiale, noto come AI Act.

Tuttavia, non si tratta di un watermark classico che l'utente vedrebbe sullo schermo. Il testo non conterrà alcun avviso o simbolo particolare. textGrain funziona in modo diverso: durante la generazione della risposta, influenza leggermente la scelta delle singole parole e crea nel testo uno schema statistico che può essere successivamente rilevato da un apposito rilevatore.

Il watermark rimane parte del testo anche dopo che è stato copiato, ad esempio, in un documento, in una email o su una pagina web.

Il watermark ha i suoi limiti

OpenAI sottolinea inoltre che la tecnologia non è assolutamente perfetta. Più il testo è breve o modificato, più è difficile determinarne l'origine in modo affidabile.

In uno dei test, il sistema è stato in grado di rilevare il watermark in circa il 92% dei casi per un testo originale lungo diverse centinaia di token. Tuttavia, dopo aver sostituito il 10% delle parole con sinonimi, la percentuale di successo è scesa a circa il 66%. Se sono state modificate il 25% delle parole, il rilevatore ha riconosciuto il watermark solo in circa il 17% dei casi.

Anche le risposte molto brevi, i testi matematici o le traduzioni presentano problemi. OpenAI sottolinea quindi che l'assenza del watermark non sarà certamente una prova che un testo sia stato scritto da un essere umano.

Allo stesso modo, vale il principio opposto. La presenza di un watermark indica solo che il testo potrebbe essere stato creato o elaborato dal sistema OpenAI. Non fornisce alcuna informazione sul lavoro svolto da un essere umano, su eventuali modifiche successive o su chi lo abbia effettivamente creato.

Gli utenti non saranno rintracciabili

È importante anche la questione della privacy. OpenAI afferma che il watermark non conterrà informazioni sull'utente specifico, sull'account utilizzato, sul prompt inserito o sulla conversazione stessa.

Inoltre, inizialmente il rilevatore non sarà disponibile al pubblico. L'accesso sarà concesso prima a ricercatori e organizzazioni specializzate, che dovranno contribuire a valutarne l'affidabilità e le possibili applicazioni.

Per i clienti che utilizzano l'API, la situazione sarà diversa. Questi potranno attivare volontariamente il watermark testuale nei modelli supportati in tutto il mondo. Tuttavia, per impostazione predefinita, rimarrà disattivato.

Questa modifica interesserà inizialmente principalmente gli utenti comuni di ChatGPT e Codex nell'Unione Europea. OpenAI prevede un'implementazione graduale nelle prossime settimane e ammette che il metodo di marcatura dei testi continuerà a evolversi in base all'esperienza derivante dall'utilizzo reale.

Jaroslav Holý