Intervista di Beppe Grillo – Serge Tisseron è uno psichiatra, un dottore in psicologia abilitato alla ricerca, membro de l’Académie des technologies, ricercatore associato presso l’Università di Parigi VII Denis Diderot (CRPMS). Fondatore dell’Istituto per lo studio relazioni Uomo-Robot , Robotica e salute mentale: robot per aiutare i malati, ed evitare di rendere malate le persone che sono sane.
Di seguito l’intervista che ha rilasciato per il mio Blog.
– Possono i robot, più specificatamente gli automi (umanoidi), suscitare in noi emozioni rendendoci empatici nei loro confronti?
L’Essere umano ha sempre avuto la tendenza di prestare intenzioni, emozioni, pensieri a tutto ciò che lo circonda: animali, principalmente, ma anche nei riguardi di molti oggetti dell’ambiente quotidiano. A volte si ha persino bisogno di parlare con loro. Ma loro non ci rispondono, mentre i robot lo faranno. E questo farà suscitare in noi molta più empatia nei loro riguardi. Sono stati condotti studi sui rapporti stabiliti da un essere umano con tre sistemi: un’ intelligenza artificiale alloggiata in una piccola scatola simile al nostro attuale telefono cellulare, come si vede ad esempio nel film HER di Spike Jones; un avatar su uno schermo, cioè quello che chiamiamo un “robot virtuale”; e un robot di tipo umanoide, cioè avente un aspetto umano funzionale, cioè una testa, due braccia e un’ apparenza di gambe (senza necessariamente essere androide, cioè con un aspetto umano realistico). Bene, gli utenti sono più attenti a ciò che il robot fisico dice loro, gli sorridono più spesso che ad un avatar su uno schermo, e seguono meglio i suoi consigli, soprattutto nel campo della nutrizione e dell’ attività fisica. Questa tendenza dell’ essere umano ad “empatizzare” con un robot è ancora più marcata quando la macchina sembra annuire con sorrisi e cenni come con un umano. Dovremo vivere con queste macchine con le quali interagiremo esattamente come gli esseri umani sapendo che non sono esseri umani. Questa sarà la sfida del XXI secolo.
– Esistono persone più o meno suscettibili di provare empatia verso questo tipo di automi?
Durante la guerra in Iraq, alcuni soldati americani hanno messo in pericolo la propria vita per evitare di danneggiare il loro robot che neutralizzava le mine, proprio come se fosse un compagno di combattimento. Da un lato, questi soldati sapevano che il loro robot era uno strumento, ma dall’ altro non potevano fare a meno di volerlo proteggere e impedire che fosse “ferito” come un essere umano. Ma non tutti. Coloro che l’ hanno fatto sono stati quelli che più probabilmente hanno dato al loro robot un soprannome, per personalizzarlo. Quindi dipende dalla psicologia di ciascuno. Ma per i robot domestici, dipenderà anche da come ci vengono presentati i robot. Le campagne pubblicitarie pensate per convincerci che i robot avrebbero un “cuore” sono ovviamente un ostacolo importante per una corretta valutazione tra la relazione uomo-macchina. Una recente proposta europea di conferire ai “robot sofisticati” lo status di “personalità elettronica” sarebbe ovviamente un ostacolo più grande ancora. Oltre al rischio di dimenticare che un robot è un simulatore, che non ha emozioni o dolori, c’ è il rischio di dimenticare che un robot è permanentemente collegato al suo produttore, e che trasmette costantemente informazioni sulla privacy dei suoi utenti. Infine, un terzo rischio sarebbe quello di preferire i robot prevedibili rispetto agli esseri umani imprevedibili, con il pericolo di quella che è già chiamata “dipendenza dal robot”, o addirittura di prendere gradualmente i robot come modelli per gli esseri umani.
– Lei ha scritto un libro dal titolo : “Il giorno in cui il mio robot mi amerà (non uscito in Italia). È un bene dotare dei robot, degli automi, di emozioni umane?
Il titolo del mio libro è un cenno al romanzo di Aldous Huxley “Brave New World”. Il giorno in cui i personaggi di questo romanzo credono di essere “i migliori del mondo”, si perdono. Per me, il giorno in cui qualcuno penserà che il suo robot lo ami, anche lui sarà perduto, cioè totalmente vittima della propaganda che cercherà di farci credere che i robot avrebbero “un cuore”, come dice il capo di Softbank sul suo robot Pepper. Allo stato attuale della tecnologia, i robot sono fatti di metalli rari, plastica e rame, e non possono essere altro che macchine da simulare. Il problema ovviamente si porrà diversamente con i robot biologici costituiti da cellule viventi, ma sono ancora lontani dalle nostre possibilità. Se volessimo dare ai robot di oggi un equivalente di emozioni umane, sarebbe solo un equivalente molto distante, anche se la manifestazione di questo equivalente ha assunto l’ aspetto di emozioni umane. Ma, anche se è ancora lontana dalle possibilità tecnologiche, ci si pone regolarmente la questione di “dare emozioni ai robot”. Non ci dispiace. È un modo di anteporre l’ etica all’ innovazione tecnologica, e da questo punto di vista è una buona cosa.
– Come sapremo se sono effettivamente “umane” (come le più studiate): paura, rabbia, disgusto, felicità, sorpresa e tristezza?
La sfida più grande imposta agli esseri umani dall’ esistenza dei robot è questa: interagire con loro come esseri umani, sapendo che non sono esseri umani. E cosa ci ricorda che non lo sono, anche se sembrano noi in ogni cosa? La loro interconnessione permanente con un server centrale, mentre noi stessi siamo totalmente dipendenti dalla parola per comunicare con i nostri simili esseri umani. Non appena dimentichiamo questa interconnessione, rischiamo di credere che i robot si sentano e pensino come noi stessi. Dovremmo quindi sempre ricordarlo, ma purtroppo sta accadendo il contrario. Tutti i film e le serie televisive sui robot divulgano l’ immagine delle macchine che hanno un aspetto umano e sono costrette a incontrarsi in presenza fisica per scambiare opinioni e decidere sulle azioni comuni, come nella serie svedese Real Humans. Questo ci aiuta non solo a farci immaginare le possibilità dei robot, ma anche, purtroppo, a nascondere all’ uomo la loro principale differenza: a differenza di loro, saranno sempre connessi a Internet, o una rete sicura equivalente che sarà riservata ai loro scambi. Se un robot dice “Io”, sarà la scelta del suo programmatore a fargli dire ciò, e questa scelta vuole far credere al suo utente che la sua macchina è unica, come per Siri, il chatbot di Apple già presente sui nostri smartphone, che dice “Io”.
– Secondo molti neuroscienziati le emozioni non possono sussistere senza una componente viscerale (il nodo allo stomaco, le farfalle nel petto). Ad esempio le persone con lesioni del midollo spinale hanno difficoltà a riconoscere le proprie emozioni perché non sentono quelle sensazioni provenire dal loro corpo.
Così: per provare emozioni umane i robot dovrebbero avere un “corpo sensibile”, questo è verosimile?
Avere un “corpo sensibile” è in effetti una condizione essenziale per permettere che possa svilupparsi in un robot una coscienza riflessiva di sé. Ma questa non è una condizione sufficiente. Avere un “corpo sensibile” garantisce innanzitutto che un robot non comprometta la propria integrità. Per questo motivo è importante che abbia sensori che lo informino sulle aggressioni che possono essere esercitate sul suo involucro. La coscienza di “io” e “me”, fino alla “coscienza della coscienza”, sembra complessa da implementare in un robot. D’ altra parte, sembra invece possibile dare ad una macchina gli attributi “apparenti” di questa autocoscienza. Ad esempio, il robot può essere “consapevole” dei suoi guasti e riconfigurare automaticamente se stesso. Ma la maggior parte delle facoltà umane, come la rappresentazione di sè e l’ immaginazione, rimangono un’ utopia alla vista dell’ uomo.
– I robot saranno soggetti a forze evolutive diverse dall’uomo?
Nella misura in cui i robot sono costruiti, non con mattoni biologici come l’ uomo, ma con metalli rari, plastica e metallo, non invecchieranno come noi, ma il loro modo di funzionare sarà anche diverso dal nostro. Deep Blue per gli scacchi, e ancor più Alpha , hanno vinto sui migliori giocatori del mondo inventando strategie che nessun essere umano ha mai immaginato. Sta emergendo una nuova disciplina: la ricerca di capire come funzionano i robot. E se un giorno avranno una coscienza riflessiva, la cosa più interessante sarà sentirli parlare di loro, perché nulla sarà per loro come per noi! Alcuni credono che più il robot evolverà, più sarà vicino all’ uomo, ma non affatto. Più si evolve, più si imporrà come creatura diversa dall’ uomo, e l’ intera questione sarà se vuole vivere con noi o senza di noi.
– La differenza tra uomo e robot sta anche nell’approvvigionamento di energia. Quando il robot capirà dove prendere energia per ricaricarsi cosa accadrà?
Nessuno sa come sarà organizzata la società umana in quel momento e quali fonti di energia saranno utilizzate per fornire elettricità agli esseri umani. Se la produzione di questa energia è altamente concentrata, un’ intelligenza artificiale particolarmente potente potrebbe essere tentata di prenderne il controllo per aumentarne ulteriormente il potere. Ma se queste fonti energetiche fossero delocalizzate e non collegate, potrebbero prenderne solo una parte.
– Da un lato creiamo i robot per essere a nostra disposizione, rendendoli schiavi, e dall’altro ci poniamo il problema della loro individualità. Come si concilia questo controsenso?
Se un giorno esistessero robot con una coscienza, quella non sarà individuale, ma collettiva. Naturalmente, ogni robot avrà la sua storia da raccontare, ma ogni robot sarà anche collegato a tutti gli altri – almeno quelli dello stesso modello e marchio. La loro coscienza sarà quindi collettiva. Questo ovviamente non facilita il problema. Chi regolamenterà questa comunità? Chi bloccherà l’apprendimento potenzialmente pericoloso di alcuni dei suoi membri, probabilmente imitati dall’ intera comunità? Potremmo progettare software etici. Ma ovviamente sarebbero progettati secondo gli standard morali del loro produttore, e la moralità è qualcosa che varia molto da un paese all’ altro e da un periodo all’ altro. C’ è una seconda opzione: che i robot si autoregolamentino tra di loro. Infatti, poiché la maggior parte degli utilizzatori di robot insegnerà loro comportamenti corretti, questa maggioranza potrebbe prevalere sulla minoranza di coloro che avranno raggiunto un apprendimento problematico. Queste due opzioni (una regolamentazione a priori, o una rete sociale di robot) non si escludono a vicenda. L’ essenziale è cominciare oggi a pensare a quello che sarebbe l’ equivalente, nei robot, di una coscienza morale costruita sulle stesse fondamenta che hanno permesso agli uomini di organizzarsi collettivamente: cioè l’ incoraggiamento e la generalizzazione di comportamenti che permettono di vivere insieme meglio, e la dissuasione, o addirittura il divieto, di comportamenti che la ostacolano.
– Sono ancora attuali le tre regole di Asimov o bisogna aggiornarle a nuove esigenze?
Ricordiamo innanzi tutto in cosa consistono queste tre regole. La prima prevede che un robot non possa ledere l’ integrità di un essere umano, la seconda che un robot deve sempre obbedire agli ordini, a meno che non sia in contrasto con la prima legge, la terza che un robot non possa ledere la propria integrità, a meno che non sia in contrasto con le altre due leggi, che prevalgono in tutte le situazioni. Più tardi, Asimov aggiunse a queste tre regole una quarta, che chiamò Legge Zero: un robot non può danneggiare la specie umana nella sua globalità. Queste leggi non funzionano affatto per i robot. Se volete verificarlo, immaginate la seguente situazione: avete acquistato un magnifico robot umanoide in grado di trattenere le sue due gambe e girare la testa a lato dove percepisce un rumore umano o una voce. Chiedetegli di fissare la mano, cosa che ovviamente farà senza problemi. Poi chiedete a lui/lei di seguire il movimento della vostra mano mantenendo i piedi assolutamente fermi a terra. Se continuate a girarvi intorno a lui, il movimento della testa accompagnerà ovviamente il movimento della vostra mano fino a quando questo movimento, per essere pienamente compiuto, non lo danneggerà. Se il vostro robot rispettasse le leggi di Asimov, prevarrebbe l’ obbedienza all’ ordine e si autodistruggerebbe. I bambini andrebbero subito d’accordo giocando a distruggere tutti i robot che incontrano sul loro cammino!
– Perché secondo lei, un personaggio influente come Elon Musk (che ambisce a far colonizzare Marte all’umanità) è così scettico sul futuro dell’intelligenza artificiale?
Questo è quello che dice, ma è difficile sapere ciò che pensa davvero. In un certo senso, il suo discorso è simile a quello dei GAFAMs (google, Amazon, Facebook, Apple e Microsoft). Non sono chiari, dicendo:”L’ IA è molto pericolosa”, e poi aggiungendo:”Ma fidatevi di noi, continuate ad acquistare i nostri prodotti, noi vi proteggiamo”! Le ansiose aspettative di Elon Musk potrebbero benissimo essere organizzate da un piano commerciale.
– Qual’è la sua idea di futuro?
Non la vedo affatto, ma tuttavia vedo cosa dobbiamo fare oggi per il domani. Nel settore dell’ IA, è necessario sviluppare applicazioni di IA ristrette in tutte le aree, ma allo stesso tempo considerare un rischio il rapido avanzamento delle capacità di IA. Per lo sviluppo dell’ intelligenza artificiale si possono creare forme sempre più insidiose di manipolazione che trasformano il sentimento di libertà umana in un’ illusione. Ecco perché, tra l’ uomo e le sue macchine, spero in una relazione prudente e informata. A tal fine, dobbiamo porre l’ essere umano al centro di tutto. Dal mio punto di vista di psichiatra e psicologo, questo significa che la psicologia deve evolversi. Nel corso del ventesimo secolo, si è preoccupata di comprendere il funzionamento psichico dell’ uomo malato, poi quello dell’ uomo sano, e più recentemente quello dell’ uomo in relazione agli altri esseri umani con approcci sistemici e intersoggettivi. La psicologia del XXI secolo deve sforzarsi di comprendere il rapporto dell’ uomo con i suoi oggetti tecnologici.
L’AUTORE
Serge Tisseron è uno psichiatra, un dottore in psicologia abilitato alla ricerca diretta, membro dell’Académie des technologies, ricercatore associato presso l’Università di Parigi VII Denis Diderot (CRPMS). Specialista delle interazioni uomo- macchinae. Membro de l’Académie des Technologies e Fondatore de l’Istituto per lo studio relazioni Uomo-Robot http://ierhr.com
