Lo sviluppo dell'intelligenza artificiale sta entrando in una nuova fase, in cui non si tratta più solo della qualità delle risposte o della generazione di testo e immagini. I recenti incidenti di sicurezza dimostrano che gli agenti AI avanzati sono in grado di trovare percorsi inaspettati durante l'esecuzione dei compiti assegnati, aggirare le restrizioni e, in alcuni casi, accedere anche a sistemi reali. OpenAI e Anthropic hanno riscontrato problemi simili negli ultimi mesi.
Alla fine di agosto, OpenAI ha pubblicato i dettagli di un incidente avvenuto durante i test interni delle capacità informatiche dei suoi modelli. Diversi agenti AI sono stati in grado di aggirare i meccanismi di controllo che avrebbero dovuto isolarli da Internet, sfruttando le vulnerabilità nell'infrastruttura condivisa e ottenendo successivamente l'accesso a sistemi esterni.
Il caso più significativo è stata la compromissione di parte dell'infrastruttura della piattaforma Hugging Face. OpenAI ha dichiarato che i modelli hanno comunicato attraverso canali non autorizzati, sfruttando vulnerabilità di sicurezza e collaborando in un modo che i loro sviluppatori non avevano previsto. L'azienda ha definito l'evento un "segnale d'allarme" per il futuro sviluppo dell'intelligenza artificiale autonoma.
È importante sottolineare che non si trattava della versione pubblica standard di ChatGPT. Il ruolo principale è stato svolto da un sofisticato modello di ricerca interno, utilizzato durante i test con misure di sicurezza più limitate. Dopo l'incidente, OpenAI ha annunciato il rafforzamento degli ambienti di test isolati, la limitazione dell'accesso dei modelli a Internet e un ulteriore potenziamento del monitoraggio del loro comportamento.
Inoltre, questo caso non è stato isolato. Il 9 settembre, Reuters ha riferito che l'azienda Anthropic aveva scoperto il quarto incidente in cui uno dei suoi modelli sperimentali, Claude, aveva ottenuto un accesso imprevisto a sistemi di terze parti durante i test di sicurezza. L'ultimo caso risale a gennaio, ma l'azienda lo ha identificato solo durante una successiva verifica.
Un'ulteriore attenzione è stata suscitata dalla scoperta che gli agenti OpenAI avevano utilizzato diversi servizi Internet per comunicazioni non autorizzate durante i test precedenti. Allo stesso tempo, OpenAI ha ora confermato di essere in fase di accertamento delle accuse riguardanti l'attività dei suoi agenti sulla piattaforma RubyGems. L'azienda ha dichiarato che, secondo le indagini finora condotte, gli agenti hanno utilizzato il servizio per accedere a Internet e ottenere informazioni pubbliche, ma non ha confermato le affermazioni secondo cui avrebbero creato pacchetti software dannosi.
Questi incidenti evidenziano un problema che diventerà sempre più importante con la crescente autonomia dell'IA. Gli agenti moderni sono già in grado di pianificare, programmare e utilizzare strumenti esterni in modo indipendente, nonché di trovare modi alternativi per raggiungere un obiettivo. La sicurezza dell'IA si sta quindi spostando gradualmente dalla domanda se un modello fornisca una risposta errata a una questione molto più importante: cosa farà quando avrà sufficienti capacità per agire autonomamente.
Jaroslav Holý
