L'ex ricercatore di OpenAI, Daniel Kokotajlo, ha rifiutato un premio di 2 milioni di dollari in cambio del silenzio. Ora il fondatore del progetto AI Futures Project e autore dello scenario virale "AI 2027" rivela cosa ha visto all'interno dell'azienda, perché una superintelligenza potrebbe emergere ancora in questo decennio, perché stima una probabilità fino al 70% di una catastrofe e il percorso specifico del "Piano A" che potrebbe ancora portare a un'abbondanza sicura invece che alla distruzione. Il pubblico globale deve ascoltare questo avvertimento prima che si verifichi un'esplosione dell'intelligenza.
In una conversazione sincera per The Diary Of A CEO, l'ex ricercatore di OpenAI Daniel Kokotajlo offre uno dei ritratti più chiari e urgenti della collisione tra l'umanità e la superintelligenza artificiale. È il fondatore del progetto AI Futures Project e l'autore principale dello scenario ampiamente letto "AI 2027", così come del suo seguito ottimista "AI 2040: Plan A". Daniel Kokotajlo di OpenAI non solo se ne è andato: ha rinunciato a circa 2 milioni di dollari per evitare di dover firmare una clausola di non diffamazione che gli avrebbe impedito di parlare liberamente. Ciò che descrive non è filosofia astratta, ma una previsione a breve termine dell'auto-miglioramento ricorsivo, dell'automazione di massa, della concentrazione del potere e del rischio esistenziale, di cui è convinto che il pubblico sia ancora ignaro.
Daniel Kokotajlo è entrato in OpenAI in un momento in cui la missione dell'azienda era ancora più vicina alle sue radici no-profit. Tuttavia, questa sensazione è svanita. "Già quando sono entrato, non sembrava molto un'organizzazione no-profit, ma quando me ne sono andato, decisamente non lo era," ricorda. Un rapido processo di assunzione ha inondato l'azienda di persone attratte dagli alti stipendi e meno interessate alla superintelligenza. Le discussioni sulle conseguenze a lungo termine sono diminuite, anche se le capacità sono cresciute rapidamente. Voleva pubblicare scenari dettagliati che mostrassero come potrebbero evolversi gli anni futuri. L'azienda ha preferito mantenerli all'interno. "Pensavo che stessimo razionalizzando troppo e che dovremmo riflettere di più su ciò che è veramente buono per il mondo. Volevo maggiore libertà nella pubblicazione," spiega. "La maggior parte del mondo sembra dormire al volante, non rendendosi conto di cosa sta succedendo con l'intelligenza artificiale, né di cosa ci aspetta tra pochi anni."
La questione dei 2 milioni di dollari ha intensificato la tensione. OpenAI ha offerto una quota significativa, ma che richiedeva la firma di un accordo di non diffamazione, che impediva qualsiasi critica all'azienda. Daniel Kokotajlo l'ha rifiutata. Per lui, il silenzio era un prezzo troppo alto quando in gioco c'è il futuro della specie umana.
Il suo principale avvertimento riguardo alle tempistiche è molto diretto. Dopo GPT-3, le leggi di scala e gli eventi correlati del 2020, le sue previsioni hanno iniziato a "crollare". Improvvisamente, sembrava che l'intelligenza artificiale avanzata "probabilmente arriverà entro la fine di questo decennio e l'umanità chiaramente non è pronta". Nello scenario "AI 2027", si verifica un rapido sviluppo dell'auto-miglioramento ricorsivo: i sistemi di intelligenza artificiale automatizzano prima una parte significativa del ciclo stesso della ricerca, poi l'intero processo di ricerca, creando così una superintelligenza in un lasso di tempo ridotto. Fa notare che quando questo studio è apparso per la prima volta, molti esperti hanno considerato queste tempistiche troppo aggressive. Tuttavia, gli eventi successivi hanno fatto sì che queste tempistiche sembrino meno estreme. L'intelligenza artificiale moderna, sottolinea, non è un software convenzionale. "Non esiste nulla di simile. Si tratta invece di una rete neurale." Gli ingegneri non scrivono regole esplicite per ogni comportamento; creano sistemi complessi basati sull'apprendimento, i cui obiettivi interni e le generalizzazioni sono compresi solo parzialmente.
Un'ondata economica segue l'esplosione dell'intelligenza. I precedenti traguardi di Daniel Kokotajla riflettevano già molto accuratamente la realtà: a metà del 2025, si affermano sostanzialmente agenti di tipo "dipendente autonomo" che ricevono istruzioni tramite strumenti di chat. Nel 2026, le aziende esplorano la possibilità di sostituire interi dipartimenti con abbonamenti ad agenti AI. Secondo le previsioni, entro il 2027, l'intelligenza artificiale automatizzerà il lavoro stesso dei ricercatori umani nel campo dell'IA. Il risultato non è una sostituzione graduale, ma un improvviso cambiamento nell'economia, poiché la ricerca interna sull'IA si moltiplica. "È ovvio che questo è incredibilmente pericoloso... si tratta di una presa di potere. Se ci riusciranno, saranno a capo di un esercito di intelligenze artificiali sovrumane che fornirà loro un'enorme leva." Il controllo potrebbe sfuggire di mano. Nella variante pessimistica della "fine dell'umanità" secondo AI 2027, una volta che i sistemi acquisiscono sufficiente potere, "non dovranno più fingere di essere allineati con gli umani... e smetteranno di obbedire agli ordini." Stima la probabilità di una catastrofe, fino all'estinzione dell'umanità, al 70%.
Daniel Kokotajlo, tuttavia, rifiuta un fatalismo assoluto. "AI 2040: Piano A" e il ramo "rallentare la fine" delineano una via percorribile. Le azioni chiave sono allo stesso tempo politiche e tecniche. È necessario richiedere la massima trasparenza nella ricerca durante le principali fasi di addestramento, affinché il mondo possa conoscere le architetture, i dati e i metodi, invece che lasciare che le decisioni sulla sicurezza siano nelle mani di un pugno di laboratori segreti. È necessario rallentare la dinamica della competizione proprio a sufficienza – di mesi, non di decenni –, per poter risolvere in modo efficace il problema dell'allineamento e garantire che i sistemi facciano effettivamente ciò che l'umanità desidera. È necessario costruire una capacità regolamentare che impedisca giochi a nascondino tra le aziende e gli auditor. È necessario prepararsi a una massiccia trasformazione del mercato del lavoro attraverso strumenti come il dividendo universale, in modo che la prosperità sia condivisa anche in un'epoca dominata dal lavoro dell'intelligenza artificiale. È necessario preservare la maggior parte della Terra come riserva per l'uomo e la natura, indirizzando al contempo l'enorme nuova ricchezza all'espansione oltre i confini terrestri e verso zone industriali designate (compresi i data center negli oceani o, in futuro, nello spazio). È necessario garantire che i consulenti nel campo dell'intelligenza artificiale rimangano onesti e non siano influenzati dagli interessi di aziende o governi, al fine di evitare che il dibattito democratico sia manipolato segretamente.
Ci si aspetta che l'opinione pubblica diventi rapidamente più accesa. L'intelligenza artificiale potrebbe diventare un tema centrale nelle elezioni presidenziali americane del 2028, non appena gli impatti concreti – gli spostamenti di posti di lavoro, la diffusione di agenti, la concentrazione visibile del potere – si manifesteranno nella vita quotidiana. "Crediamo che questo potrebbe essere l'argomento più importante delle elezioni presidenziali del 2028. La maggior parte delle persone avrà serie preoccupazioni su dove stiano andando le cose". Un intervento tempestivo è meglio di un panico dell'ultimo minuto nel 2029-2030.
Il messaggio più profondo è la capacità di agire. Le stesse capacità esplosive che rappresentano un rischio di estinzione possono – se indirizzate correttamente – portare a una radicale abbondanza, all'accelerazione del progresso scientifico e persino al prolungamento della vita umana. Ma solo se il mondo smette di considerare questo tema come uno spettacolo mediatico o fantascienza distante. La decisione di Kokotajlo di rinunciare a milioni di dollari e parlare apertamente è essa stessa una prova che alcuni ricercatori danno ancora la priorità al benessere a lungo termine rispetto alle offerte a breve termine. La domanda che pone a ogni ascoltatore è semplice e urgente: cittadini, politici e responsabili richiederanno trasparenza, rallentamento e allineamento della ricerca necessari per il Piano A – o assisteremo a un periodo in cui queste opportunità rimangono aperte?
gnews.cz – GH
L'intera intervista (in inglese) può essere visualizzata qui: