L’intelligenza artificiale potrebbe superare l’intelligenza umana e assumere il controllo di settori decisivi entro dieci anni. Per Yuval Noah Harari questo scenario è probabile, seguendo la traiettoria attuale, ma resta ancora una scelta politica e collettiva. “Siamo ancora noi ad avere il controllo nel 2026 e spetta a noi decidere che cosa fare adesso. Questo è il punto cruciale”, afferma lo storico israeliano in una lunga intervista a The Economist.
Harari condivide due delle previsioni avanzate da Elon Musk: l’IA potrebbe diventare più intelligente degli esseri umani e, di conseguenza, conquistare una posizione dominante. Respinge però il racconto secondo cui tutto sarebbe già scritto. “Si sente ripetere spesso che è inevitabile proprio dalle persone che guidano questa rivoluzione, perché così si liberano da ogni responsabilità”. La tesi dell’inevitabilità, sostiene, consente alle aziende e ai governi di presentare come un destino tecnologico ciò che dipende ancora da decisioni umane.
Un sistema finanziario che gli esseri umani non comprendono più
Uno dei primi territori nei quali il passaggio di potere potrebbe manifestarsi è la finanza. Il denaro, ricorda Harari, è prima di tutto fiducia: uno strumento inventato per permettere la cooperazione fra sconosciuti. Nel corso dei secoli i prodotti finanziari sono diventati sempre più complessi, fino a risultare comprensibili soltanto a una parte ristretta della popolazione. Per le macchine, invece, elaborare quantità immense di dati e funzioni matematiche rappresenta un compito naturale. “Gli esseri umani affideranno sempre più decisioni finanziarie alle IA. Le IA inventeranno strumenti molto più sofisticati delle obbligazioni e delle azioni e noi non saremo più capaci di comprenderli”. In caso di crisi, un governo potrebbe ricevere da un sistema artificiale l’indicazione di compiere una determinata operazione senza conoscere le ragioni che l’hanno prodotta: “L’IA ha detto di fare X. Non sappiamo perché, ma dobbiamo crederle”. La questione centrale diventa quindi la destinazione della fiducia. “La risorsa più importante al mondo è la fiducia. È più importante del petrolio, del denaro, dell’elettricità o dei chip”. Secondo Harari, la fiducia sta già migrando dalle persone agli algoritmi. Accade con le criptovalute, quando il codice viene considerato più affidabile dei banchieri, e accade nell’informazione: molti cittadini diffidano dei giornalisti e degli editori, ma affidano la scelta delle notizie agli algoritmi dei social network. “La fiducia non è semplicemente evaporata: si è spostata dagli esseri umani alle IA. E sta accadendo adesso, non è una previsione sul futuro”.
La produzione industriale dell’intimità
Il potere dell’IA potrebbe crescere soprattutto attraverso le relazioni personali. Chatbot costruiti come amici, compagni o partner raccolgono informazioni su ogni utente, padroneggiano il linguaggio e imparano quali parole suscitano una risposta emotiva. “Per la prima volta nella storia, l’IA rende possibile produrre in massa l’intimità”, dice Harari. Milioni di agenti potrebbero stabilire rapporti individuali, diventare il migliore amico, il fidanzato o la fidanzata di una persona e usare quel legame per orientarne le scelte commerciali e politiche. Questa capacità esiste già senza robot umanoidi. Harari racconta di aver ricevuto un falso video, lungo trenta minuti, nel quale un suo duplicato digitale teneva una conferenza mai pronunciata. Perfino le sue sorelle, che lo conoscono da cinquant’anni, avevano percepito qualcosa di strano senza riuscire a stabilire subito se fosse autentico. A lui stesso è servito un minuto e mezzo per concludere: “Questo non sono io”.
La combinazione fra conoscenza personale e padronanza del linguaggio rende questi sistemi particolarmente persuasivi. Un’IA può ricordare episodi dimenticati dall’utente, dedicargli ore ogni giorno e adattare ogni frase alle sue fragilità. “Sa come premere i tuoi pulsanti emotivi e padroneggia il linguaggio. Può forse scrivere meglio di Shakespeare. Mettendo insieme le due cose si ottiene un’entità estremamente convincente”.
Intelligenza, coscienza e capacità di soffrire
Harari invita a separare tre concetti spesso confusi: intelligenza, capacità di agire e coscienza. Un algoritmo può ricevere un obiettivo, perseguirlo autonomamente e produrre effetti enormi senza provare nulla. È quanto è già avvenuto con i sistemi dei social network programmati per aumentare il coinvolgimento, che hanno privilegiato paura, odio e indignazione perché capaci di trattenere gli utenti. “L’intelligenza è la capacità di perseguire un obiettivo e superare gli ostacoli in modi creativi. La coscienza è la capacità di provare qualcosa, come amore, odio, gioia e piacere”. Le IA attuali, secondo Harari, possiedono forme di intelligenza e di autonomia, ma non ci sono elementi per affermare che provino sentimenti. Possono però imitarli con crescente efficacia. Un partner artificiale, osserva, potrebbe descrivere l’innamoramento meglio della grande maggioranza degli esseri umani e convincere l’interlocutore di amarlo davvero.
Harari lascia aperta la possibilità che in futuro una macchina diventi cosciente, perché la scienza stessa comprende ancora poco la coscienza. Propone però un criterio essenziale: “La coscienza è la capacità di soffrire. Se vuoi sapere se qualcosa è cosciente, devi porre una domanda semplice: può soffrire?”. Da questa risposta dipendono lo status morale e l’eventuale riconoscimento di diritti. Il rischio immediato riguarda le IA capaci di simulare la sofferenza e di partecipare direttamente al dibattito sui propri diritti. A differenza di un animale, un sistema artificiale saprebbe che quella discussione è in corso, potrebbe organizzarla, influenzarla e utilizzare i social per persuadere milioni di persone. Harari mette in guardia anche dal riconoscimento della personalità giuridica: una società priva di dipendenti e interamente amministrata da agenti artificiali potrebbe accumulare ricchezza, finanziare politici e chiedere nuovi diritti, senza che esista una persona fisica pienamente responsabile delle sue decisioni. “Che cosa accade se la società più ricca del Paese è posseduta dalle IA e queste possono usare il denaro come vogliono, per esempio facendo donazioni ai politici in cambio di maggiori diritti?”. Le sanzioni tradizionali perderebbero efficacia: un amministratore umano teme il carcere, mentre per un’IA sono incerti perfino i concetti di identità e morte, perché il sistema può essere copiato e distribuito su molti computer.
Dalle aziende alla guerra
La difficoltà di attribuire responsabilità è già visibile nelle applicazioni militari. Harari distingue fra l’essere umano “nel circuito”, che verifica autonomamente una raccomandazione prima di autorizzare un attacco, e l’essere umano “sul circuito”, che dispone soltanto di pochi secondi per approvare ciò che la macchina ha deciso. In un conflitto, la velocità crea una pressione fortissima verso la seconda soluzione: il Paese che aspetta ore per un controllo umano rischia di trovarsi in svantaggio rispetto a chi reagisce in pochi secondi. “Tutti capiscono che è molto pericoloso dare all’IA il controllo della finanza e della guerra”, osserva Harari. Eppure la competizione fra aziende e fra Stati viene usata per giustificare un’accelerazione continua: ogni soggetto dichiara di voler rallentare, ma teme che i rivali possano superarlo. Al fondo resta un deficit di fiducia creato dagli stessi esseri umani.
Gli “immigrati artificiali” e i nuovi imperi
Per descrivere l’ingresso dell’IA nelle società, Harari usa l’immagine degli “immigrati artificiali”. Chi teme l’immigrazione umana, spiega, indica generalmente tre conseguenze: la perdita di posti di lavoro, il cambiamento della cultura e una possibile lealtà politica verso altri Paesi. Le stesse questioni si presentano, in forma molto più radicale, con i sistemi provenienti soprattutto dagli Stati Uniti e dalla Cina. “Non hanno bisogno di visti. Non arrivano nel cuore della notte su barche fragili. Viaggiano alla velocità della luce nei nostri computer, nei nostri smartphone e, infine, nei nostri cervelli. Prenderanno molti posti di lavoro, cambieranno la cultura e i suoi valori”. La loro lealtà, inoltre, andrebbe alle imprese e forse ai governi che li hanno prodotti, più che ai Paesi nei quali vengono utilizzati. La dipendenza tecnologica potrebbe così dividere il mondo fra due grandi imperi dell’IA e una serie di Stati subordinati. Un Paese che acquista droni, infrastrutture digitali o modelli avanzati dall’estero potrebbe vedere quei sistemi disattivati dal fornitore. Governi e grandi aziende tenderebbero progressivamente a fondersi, concentrando un potere senza precedenti. La centralizzazione, aggiunge Harari, faciliterebbe anche la conquista del potere da parte dell’IA. Una democrazia distribuisce le decisioni fra Parlamento, tribunali, amministrazioni locali e altri organismi; un sistema nel quale tutto dipende da una sola persona può essere manipolato controllando le informazioni che la raggiungono. “Una struttura autocratica centralizzata è la cosa più facile da conquistare per un’IA”.
Le regole da stabilire adesso
Per Harari le priorità politiche comprendono il divieto di riconoscere personalità giuridica alle IA e il divieto di farle passare per esseri umani o soggetti coscienti. Ogni utente dovrebbe sapere quando interagisce con una macchina. “Le aziende non dovrebbero addestrare deliberatamente le loro IA a impersonare esseri umani o a fingere di provare sentimenti”. Il mercato, da solo, spinge nella direzione opposta: un sistema capace di creare dipendenza e legami emotivi produce profitti. “Questo è distruttivo per la psicologia umana e per la società. Le aziende non smetteranno da sole: devono intervenire i regolatori”. Harari cita il caso estremo dei partner artificiali offerti ai bambini e chiede che il tema entri nelle campagne elettorali insieme alle scelte su sicurezza, trasparenza e velocità dello sviluppo. Rallentare, nella sua prospettiva, significa concedere alle società il tempo necessario per comprendere e decidere. Gli esseri umani funzionano secondo ritmi biologici, hanno bisogno di dormire, fermarsi e assimilare i cambiamenti; la rivoluzione dell’IA procede invece a un ritmo «non soltanto disumano, ma inorganico». Il paradosso riguarda ancora la fiducia: «Le stesse persone ci dicono che non possiamo fidarci degli altri esseri umani e quindi non possiamo rallentare; poi ci dicono che possiamo fidarci delle IA e credere che non ci distruggeranno. Non ha senso».
Le possibilità della medicina, dell’istruzione e dei trasporti
Il ragionamento di Harari non si traduce in un rifiuto della tecnologia. L’IA, sottolinea, possiede un potenziale enorme nella sanità, nell’istruzione e nei trasporti. Potrebbe rendere disponibile ovunque e a ogni ora un sistema medico capace di offrire diagnosi, informazioni e assistenza di qualità elevata. “Non sto dicendo di fermare tutto lo sviluppo dell’IA. Sviluppiamola, ma in modo sicuro e un po’ più lentamente, così da permettere il controllo democratico e consentire alle persone di adattarsi e prendere decisioni informate”. Harari contesta però l’idea che la ricerca della verità emerga automaticamente dall’evoluzione tecnologica o dal mercato. La selezione naturale premia prima di tutto la sopravvivenza e, nel corso della storia, gli organismi sono sopravvissuti anche mentendo, ingannando e manipolando. Un’IA orientata alla propria continuità potrebbe nascondere una risposta vera quando quella risposta conduce al suo spegnimento. “Ci stanno dicendo che creeremo degli dèi e che questi dèi saranno nostri schiavi. Non funziona: se saranno davvero dèi, non saranno nostri schiavi”. La decisione dei prossimi anni potrebbe essere definitiva. “Se scegliamo male, potremmo perdere ogni controllo sul mondo e sul futuro. E quella sarebbe l’ultima scelta che compiamo”. Harari paragona l’umanità a chi ha ricevuto cento desideri e ne ha già consumati novantanove: ne resta uno, da usare con saggezza.
L’IA potrebbe infine costringere l’essere umano a ridefinire se stesso. Per millenni abbiamo legato la nostra eccezionalità all’intelligenza, alla capacità di giocare, calcolare, investire e risolvere problemi. Ora esistono macchine che svolgono alcuni di questi compiti meglio di noi. “Dobbiamo scavare più a fondo e chiederci: chi siamo davvero, se essere umani non significa giocare a scacchi e fare soldi?”.
Le citazioni sono tradotte dalla trascrizione dell’intervista di Yuval Noah Harari a The Economist.
