Quando un guidatore frena di colpo per evitare di colpire un pedone che attraversa la strada all’improvviso, sta prendendo una decisione morale che sposta il rischio dal pedone a chi sta in macchina.
Le auto che si guidano da sole potrebbero presto emettere tali giudizi etici da soli, ma stabilire un codice morale universale per i veicoli potrebbe essere un compito spinoso, suggerisce un’indagine di 2,3 milioni di persone da tutto il mondo.
La più ampia indagine etica su macchina, pubblicata questa settimana su Nature, rileva che molti dei principi morali che guidano le decisioni dei conducenti variano da Paese a Paese. Ad esempio, in uno scenario in cui una combinazione di pedoni e passeggeri morirà in una collisione, le persone provenienti da paesi relativamente prosperi con istituzioni forti hanno meno probabilità di risparmiare un pedone che si è immesso all’improvviso sulla strada.
“Le persone che pensano all’etica delle macchine fanno sembrare che si possa trovare un set perfetto di regole per i robot, e ciò che mostriamo qui con i dati è che non ci sono regole universali”, dice Iyad Rahwan, informatico del Massachusetts Institute of Technology di Cambridge e coautore dello studio.
Il sondaggio, chiamato Moral Machine, descriveva 13 scenari in cui la morte di qualcuno era inevitabile. Agli intervistati è stato chiesto di scegliere chi risparmiare in situazioni che comportavano un mix di variabili: giovani o vecchi, ricchi o poveri, più persone o meno.
La gente pensa raramente a questi duri dilemmi morali, e alcuni critici si chiedono se gli scenari proposti nel quiz siano rilevanti per le questioni etiche e pratiche che circondano le auto senza conducente. Ma gli autori dello studio sostengono che gli scenari si sostituiscono alle decisioni morali che i conducenti compiono ogni giorno. Sostengono che i risultati rivelano sfumature culturali che i governi e i produttori di auto a guida autonoma devono prendere in considerazione se vogliono che i veicoli ottengano l’accettazione del pubblico.
Nicholas Christakis, scienziato sociale della Yale University di New Haven, nel Connecticut, è affascinato dai risultati.
“È un documento straordinario”, dice. Il dibattito sul fatto che l’etica sia universale o variabile tra le culture è vecchia, dice Christakis, e ora il “problema del ventunesimo secolo” su come programmare le auto che guidano da soli l’ha rinvigorito.
Alcune delle più grandi aziende tecnologiche del mondo – tra cui la casa madre di Google, Alphabet; Uber; e Tesla – e le case automobilistiche ora hanno programmi di auto a guida autonoma. Molte di queste aziende sostengono che i veicoli potrebbero migliorare la sicurezza stradale, facilitare il traffico e migliorare l’efficienza del carburante. Gli scienziati sociali dicono che le auto sollevano questioni etiche e potrebbero avere conseguenze non intenzionali per la sicurezza pubblica e l’ambiente.
Nel 2016, la squadra di Rahwan è incappata in un paradosso etico sulle auto a guida autonoma: nei sondaggi, la gente diceva di volere un veicolo autonomo per proteggere i pedoni anche se voleva sacrificare i passeggeri – ma anche che non avrebbero acquistato auto-guida veicoli programmati per agire in questo modo.
Curioso di vedere se la prospettiva di auto a guida autonoma potesse sollevare altri dilemmi etici, Rahwan ha riunito un team internazionale di psicologi, antropologi ed economisti per creare la MORALE MACHINE. Entro 18 mesi, il quiz online aveva registrato 40 milioni di decisioni prese da persone provenienti da 233 paesi e territori.
Indipendentemente dalla loro età, sesso o paese di residenza, la maggior parte delle persone ha risparmiato gli umani rispetto agli animali domestici e gruppi di persone rispetto agli individui. Queste risposte sono in linea con le regole proposte in quella che potrebbe essere l’unica indicazione governativa sulle auto a guida autonoma: un rapporto del 2017 della Commissione etica tedesca sulla guida automatizzata e connessa.
Quando gli autori hanno analizzato le risposte di persone dei 130 paesi con almeno 100 intervistati, hanno scoperto che le nazioni potevano essere divise in tre gruppi. Uno contiene l’America del Nord e diverse nazioni europee dove il cristianesimo è stato storicamente la religione dominante; un altro include paesi come il Giappone, l’Indonesia e il Pakistan, con forti tradizioni confuciane o islamiche. Un terzo gruppo comprende l’America centrale e meridionale, oltre alla Francia e alle ex colonie francesi. Il primo gruppo ha mostrato una preferenza più forte per il sacrificio delle vite più anziane per salvare i più giovani, rispetto al secondo gruppo, ad esempio.
I ricercatori hanno anche identificato correlazioni tra fattori sociali ed economici in un paese e le opinioni medie dei suoi residenti. Il team ha scoperto che persone provenienti da paesi con forti istituzioni governative, come la Finlandia e il Giappone, hanno scelto più spesso di colpire persone che stavano attraversando la strada illegalmente rispetto ai rispondenti in nazioni con istituzioni più deboli, come la Nigeria o il Pakistan.
Gli scenari che obbligavano i partecipanti al sondaggio a scegliere se salvare un senzatetto su un lato della strada o un dirigente sull’altro rivelavano un altro punto di partenza: le scelte che le persone facevano spesso erano correlate al livello di disuguaglianza economica nella loro cultura. La gente finlandese – che ha un divario relativamente piccolo tra ricchi e poveri – ha mostrato scarsa preferenza per la deviazione in un senso o nell’altro. Ma il rispondente medio della Colombia, un paese con una significativa disparità economica, ha scelto di uccidere la persona di basso rango.
Azim Shariff, psicologo presso l’Università della British Columbia a Vancouver, trova questo risultato interessante perché suggerisce che il sondaggio rivela davvero le preferenze morali delle persone. “Se si assume che i luoghi che hanno un livello inferiore di disuguaglianza di reddito abbiano politiche che favoriscono l’egualitarismo, ciò dimostra che le norme morali che sostengono tali politiche sono espresse nel modo in cui le persone svolgono questi giochi”.
Barbara Wege, che dirige un gruppo incentrato sull’etica dei veicoli autonomi presso Audi a Ingolstadt, in Germania, afferma che tali studi sono preziosi. Wege sostiene che le auto a guida autonoma causerebbero meno incidenti, in proporzione, rispetto ai conducenti umani ogni anno.
Sondaggi come la MORALE MACHINE possono aiutare a iniziare discussioni pubbliche su questi inevitabili incidenti che potrebbero favorire la fiducia. “Dobbiamo trovare un consenso sociale”, dice, “sui rischi che siamo disposti a prendere”.
