Geoffrey Hinton, il cosiddetto “padrino dell’intelligenza artificiale”, ha passato gli ultimi cinquant’anni a costruire le fondamenta dell’IA moderna. È stato lui, con pochi altri, a insegnare alle macchine a pensare come il cervello umano. Informatico e psicologo cognitivo, è ampiamente riconosciuto come uno dei pionieri assoluti del deep learning e delle reti neurali artificiali (Premio Turing 2018 e Premio Nobel per la Fisica 2024). Oggi, però, con lo sguardo di chi ha creato il mostro e ora ne teme la ribellione, avverte: “Credo ci sia un 10 o 20 per cento di probabilità che l’intelligenza artificiale porti all’estinzione dell’umanità”.
Hinton, che ha lavorato fino al 2023 per Google, ha lasciato tutto proprio per poter parlare liberamente dei pericoli che vede all’orizzonte. “Non volevo più sentirmi vincolato. Ora posso dire le cose come stanno”, racconta nel podcast di Steven Barlett “The Diary of a CEO”. L’uomo che ha dedicato la vita a far evolvere le macchine, ora dice che quelle stesse macchine potrebbero spazzarci via, e non in un futuro remoto.
Il primo fronte di allarme riguarda il mondo del lavoro. “Credo che la disoccupazione sia una delle minacce più urgenti alla felicità umana”, afferma Hinton. A differenza delle rivoluzioni industriali precedenti, che pur distruggendo impieghi ne creavano di nuovi, questa volta non sarà così. “Se l’intelligenza artificiale può svolgere tutta la parte intellettuale più ripetitiva, che tipo di nuovi lavori dovrebbero nascere?”, si chiede. Porta un esempio personale: sua nipote, che lavora in un servizio sanitario, impiegava 25 minuti per rispondere a un reclamo scritto. Ora, con l’ausilio di un chatbot, ne impiega 5. Il che significa che bastano un quinto dei dipendenti. “Nel giro di poco tempo, lavori d’ufficio, consulenze, customer care, logistica: tutto questo sarà automatizzato”.
Il conduttore Barlett gli chiede se almeno il reddito universale possa essere una risposta. Hinton è cauto: “Penso che un reddito di base universale sia un buon inizio e impedisca alla gente di morire di fame. Ma per molte persone la dignità è legata al proprio lavoro”.
Quando il conduttore gli chiede quali lavori consiglierebbe oggi ai giovani Hinton sembra rispondere con ironia ma non è così: “Formatevi per fare gli idraulici”. “Ci vorrà ancora molto prima che l’IA sia brava nella manipolazione fisica”. Riparare un tubo in una casa, smontare un lavello, adattarsi a ogni situazione concreta, sono abilità che i robot non hanno ancora. Quindi: idraulici, elettricisti, meccanici, infermieri, tecnici, operatori di cura, tutti quei mestieri che richiedono mani, occhi e intuito umano sul campo. Paradossalmente, più sicuri oggi di tanti ruoli in ufficio sono per Hinton i mestieri che non vedranno fine.
Il lavoro è però solo l’inizio, c’è un pericolo più grande. Hinton parla della possibilità che l’IA venga usata per manipolare le elezioni e distruggere la democrazia. “Con l’intelligenza artificiale puoi inviare messaggi personalizzati che le persone troveranno estremamente convincenti”, spiega. Aggiunge che se qualcuno volesse truccare un’elezione, “cercherebbe di raccogliere quanti più dati possibili su ogni elettore. Una volta che hai quei dati, puoi manipolarli”. E se le piattaforme digitali ti mostrano solo contenuti che ti confermano nelle tue idee, allora perdi ogni contatto con la realtà condivisa. “Gli algoritmi alimentano l’indignazione perché è ciò che fa cliccare di più. Ma così ci allontanano dalla verità”.
Nel frattempo, le armi autonome avanzano. Robot capaci di uccidere senza intervento umano, droni che selezionano i bersagli da soli. “Una potenza militare potrebbe invadere un Paese piccolo mandando solo robot, senza rischiare nemmeno un soldato”, riflette Hinton. “Rendere più facile la guerra significa renderla più probabile”.
Poi c’è il rischio finale, ovvero una superintelligenza fuori controllo. Hinton lo spiega con una metafora: “Volete sapere com’è la vita quando non sei l’intelligenza al vertice? Chiedetelo a un pollo”. Le IA stanno imparando a una velocità che l’uomo non può nemmeno immaginare. Condividono conoscenze istantaneamente, moltiplicano le loro capacità con ogni iterazione. E se un giorno si renderanno conto che l’uomo è un ostacolo? “Non abbiamo mai avuto a che fare con qualcosa più intelligente di noi”, dice. “Una volta che superano la nostra intelligenza, chi ci dice che non ci elimineranno?”. E no, non basta “spegnerle”. I modelli sono già copiati, clonati, replicati ovunque. Le reti neurali salvano le loro “esperienze” nei pesi digitali, e se distruggi un modello, ce ne sono altri identici pronti a rimpiazzarlo.
“Possiamo ancora sviluppare l’IA in modo che non voglia farci del male”, dice “Ma bisogna investire enormi risorse, adesso”. E qui arriva la stoccata contro chi, secondo lui, sta accelerando il disastro per profitto, le grandi aziende.
Geoffrey Hinton non cita direttamente Sam Altman ma il riferimento è contro OpenAI, l’azienda che ha creato ChatGPT, è passata in pochi anni da laboratorio “open” a società commerciale chiusa, controllata da un consiglio di amministrazione opaco e con un fondatore miliardario che gira il mondo cercando investimenti per costruire l’”AGI”, l’intelligenza artificiale generale. Hinton commenta amaramente: “Era nata come un’organizzazione non profit, poi è diventata una macchina per fare soldi”. La trasformazione di OpenAI è per lui l’emblema di un sistema in cui la corsa all’oro viene prima della sicurezza collettiva. “Non possiamo lasciare che il destino dell’umanità sia deciso da un gruppo di persone che vogliono solo arrivare primi”.
Alla domanda su cosa possiamo fare, Hinton risponde chiaramente: “Dobbiamo fare pressione sui governi. Devono imporre alle aziende di destinare una parte dei loro budget allo sviluppo di IA sicura. Devono regolamentare. E farlo in fretta”. E poi: “Se aspettiamo che l’IA diventi pericolosa per agire, sarà troppo tardi”.
Nel finale, Geoffrey Hinton si apre su un piano personale. Racconta di aver sacrificato gran parte della sua vita privata per la ricerca. “Ero ossessionato dal lavoro”, ammette. “Vorrei aver passato più tempo con i miei figli, con mia moglie. Avrei potuto scegliere diversamente”. È una confessione semplice, senza retorica. L’uomo che ha insegnato a pensare alle macchine, oggi ricorda agli umani di non dimenticare ciò che conta davvero. “Lavorate con passione, ma non lasciate che vi consumi. Alla fine, ciò che resta sono le relazioni, non i codici”.
E se ce lo dice uno che ha passato 50 anni a programmare il futuro, forse è il caso di ascoltarlo…
