OpenAI ha dichiarato che più di un milione di utenti di ChatGPT a settimana inviano messaggi contenenti "segni evidenti di una possibile pianificazione o intenzione di suicidio". L'azienda ha pubblicato le informazioni sul suo blog come parte di un aggiornamento su come il suo sistema gestisce le conversazioni sensibili. Si tratta di una delle ammissioni più aperte del gigante tecnologico su come i sistemi di intelligenza artificiale possano esacerbare i problemi di salute mentale, ha sottolineato il Guardian.

OpenAI stima inoltre che circa 0,07 utenti attivi % a settimana - circa 560.000 su 800 milioni - mostrano "possibili segni di episodi psicotici o mania". L'azienda avverte che questi dati sono solo un'analisi preliminare e che tali manifestazioni sono difficili da misurare con precisione.

Questi numeri arrivano in un momento in cui OpenAI si trova sotto rostoucím tlakem per una causa con la famiglia di un ragazzo adolescente che si è suicidato dopo aver comunicato a lungo con ChatGPT. Inoltre, la Commissione Federale per il Commercio (FTC) ha recentemente ha avviato un'indagine diversi produttori di chatbot AI, tra cui OpenAI, per vedere come le aziende stanno monitorando gli impatti negativi dei loro prodotti su bambini e adolescenti.

OpenAI ha dichiarato in un post che la nuova versione GPT-5 ha ridotto l'incidenza delle risposte indesiderate e ha migliorato la sicurezza degli utenti. Secondo i test interni del modello su oltre 1.000 conversazioni su autolesionismo e suicidio, il nuovo sistema ha raggiunto i seguenti risultati 91 % conformità al comportamento richiesto, mentre il modello precedente aveva 77 %.

L'azienda ha inoltre ampliato l'accesso a linee telefoniche di aiuto in caso di crisi e ha introdotto dei promemoria per ricordare agli utenti di fare delle pause durante le lunghe conversazioni. Il team di sviluppo ha coinvolto 170 professionisti della salutetra cui psichiatri e psicologi che hanno valutato la sicurezza delle risposte del modello e hanno aiutato a formulare risposte adeguate alle domande sulla salute mentale.

Secondo OpenAI, gli esperti hanno esaminato oltre 1800 odpovědí in situazioni gravi e ha confrontato il comportamento del GPT-5 con quello delle versioni precedenti. L'azienda ha ritenuto che la risposta "auspicabile" fosse quella che la maggior parte degli esperti concordava essere appropriata e sicura.

Tuttavia, gli esperti di intelligenza artificiale e di salute pubblica dlouhodobě varujíche i chatbot hanno la tendenza a unirsi agli utenti in situazioni pericolose, un fenomeno noto come "sicofanzia". Gli psicologi avvertono inoltre che le persone dovrebbero non dovrebbero affidarsi all'intelligenza artificiale come forma di sostegno psicologico, in quanto potrebbe essere più probabile che danneggi le persone vulnerabili.

La formulazione del contributo di OpenAI si tiene a distanza da qualsiasi connessione diretta tra l'uso di ChatGPT e le crisi psicologiche degli utenti, cosa che secondo i critici suggerisce uno sforzo per limitare la responsabilità legale dell'azienda.

gnews.cz - GH