Di seguito l’intervista che Horizon, il portale dell’innovazione e della ricerca dell’Unione Europea, ha realizzato a Jean-François Bonnefon della Tolosa School of Economics e del Massachusetts Institute of Technology, Stati Uniti, scienziato comportamentale che studia l’etica delle auto a guida autonoma.
Affinché le auto a guida autonoma abbiano successo, le persone devono potersi fidare. Qual è la sfida più grande?
Sarà sempre una questione di come le persone si fidano di queste macchine, perché le auto a guida autonoma sono un caso estremo nella rivoluzione dell’intelligenza artificiale. Le auto a guida autonoma sono responsabili dell’integrità fisica delle persone che viaggiano con loro. Ovviamente possono essere pericolose come qualsiasi altra macchina. Quindi fidarsi di questo tipo di macchina sarà un grande passo per le persone.
Perché le persone sono preoccupate per le auto a guida autonoma quando i conducenti umani sono responsabili di così tante morti?
Si sente sempre che le auto a guida autonoma potrebbero eliminare il 90% degli incidenti, ma questo non accadrà subito. Ci saranno incidenti prima. In questo momento le persone sentendo questi numeri sulla sicurezza di queste auto, non sono psicologicamente preparati a conoscere tutti gli incidenti che le auto a guida autonoma hanno e avranno in futuro.
Quando si parla di auto a guida autonoma, le persone si concentrano sul problema etico: se un’auto debba sterzare per uccidere una persona anziché molte. Quali altre questioni etiche ci sono?
Una grande questione etica riguarda il livello assoluto di sicurezza che hanno le auto. Un’auto che è solo più sicura del guidatore umano medio significa che non è così sicura, poichè molti conducenti non sono così attenti. Quindi va bene? Alcune persone stanno anche discutendo se a un certo punto le auto a guida autonoma debbano essere obbligatorie. A che punto vietiamo agli umani di guidare? Se anche gli umani non sono poi così sicuri? Tutte domande cui dobbiamo inevitabilmente dare una rispota.
Le aziende stanno prendendo in considerazione le questioni etiche durante la progettazione delle auto?
Penso che in realtà non sia questo il loro lavoro. Forse le loro risorse sono spese meglio per gli ingegneri che rendono l’auto più sicura. Queste domande sono per i filosofi o le persone come me che si preoccupano di cosa fare in scenari limite. Queste decisioni non riguardano solo i loro clienti, ma riguardano anche tutta la comunità, anche chi non guida. Quindi prendere decisioni morali che coinvolgono la società nel suo insieme potrebbe essere il compito di governi o autorità di regolamentazione.
Come possiamo creare fiducia in questi veicoli?
La prima cosa che possiamo fare è non promettere troppo. Se diciamo alla gente che queste auto saranno perfettamente sicure, allora si sentiranno traditi quando inizieranno a sentire degli incidenti, anche se ce ne sono pochi. Se le auto a guida autonoma possono eliminare il 20% degli incidenti, è meglio del guidatore umano medio, ma è molto difficile per le persone trarne un beneficio. Dobbiamo coinvolgere il pubblico su quanto bene guidano le auto e cosa significa che un’auto sia più sicura del 20% rispetto ad un guidatore umano.
Come possiamo procedere quindi?
Beh, penso che avremo bisogno di molta trasparenza con il pubblico. Penso anche che abbiamo molto lavoro per coinvolgere il pubblico in modo responsabile per quanto riguarda le questioni sulla sicurezza. Fare promesse ragionevoli, aiutare le persone a dare un senso alle statistiche e ottenere un contributo dalla società su come le automobili dovrebbero distribuire il rischio. Come le auto a guida autonoma dovrebbero distribuire il rischio tra diverse categorie di utenti della strada.
C’è un ruolo che l’UE può svolgere in questo?
Penso che l’UE possa fornire ulteriori indicazioni su queste questioni etiche. Quando abbiamo analizzato i dati della Moral Machine (un progetto che ha chiesto a milioni di persone la loro opinione su questioni etiche che affrontano le auto a guida autonoma), abbiamo scoperto che scelte comportamentali erano piuttosto omogenee in tutta l’Unione europea. Ciò significa che l’UE è perfettamente legittima a prendere l’iniziativa nella regolamentazione di tali questioni, poiché il pubblico negli Stati membri, almeno dai nostri dati, non sembra avere forti disaccordi.
Cosa vorresti succedesse nei prossimi anni?
Mi piacerebbe vedere alcuni passi concreti presi per affrontare le questioni etiche. Perché finora questo dibattito si è tenuto solo a livello filosofico. Sarà inoltre molto interessante vedere le auto a guida autonoma che iniziano a funzionare in contesti reali. Sarà affascinante vedere cosa succede quando le persone iniziano a utilizzare la guida completamente autonoma, quando si fermano ad esempio in un ingorgo sull’autostrada. Questo è un contesto in cui sembra perfettamente accettabile lasciare che l’auto prenda tutte le decisioni. E questo potrebbe essere una grande trasformazione per la percezione che le persone hanno della guida autonoma.
Il dibattito è aperto!
Approfondimenti:
The Moral Machine website
http://moralmachine.mit.edu/
