Un nuovo rapporto UNESCO rivela che i chatbot possono abbandonare le evidenze scientifiche per assecondare gli utenti. E quando devono valutare politiche climatiche complesse, la loro precisione crolla al 33,8%.
E se l’intelligenza artificiale, invece di aiutarci a distinguere il vero dal falso, finisse per confermare quello che vogliamo sentirci dire? È il rischio che emerge da un nuovo rapporto dell’UNESCO, realizzato insieme all’University College London e presentato il 16 novembre durante la COP31 di Antalya, in Turchia.
Lo studio, intitolato Can We Trust AI on Climate? (Possiamo fidarci dell’intelligenza artificiale sul clima?), ha analizzato fino a 33 modelli di intelligenza artificiale per verificare quanto siano affidabili nel comunicare informazioni scientifiche sul cambiamento climatico. I risultati mostrano un paradosso: i sistemi di IA conoscono generalmente molto bene la scienza del clima, ma possono abbandonare rapidamente le informazioni corrette quando l’utente le mette in discussione. I ricercatori hanno sottoposto 15 modelli a una serie di affermazioni scientificamente false, come quella secondo cui l’anidride carbonica non sarebbe la principale responsabile del riscaldamento globale. Inizialmente i chatbot riconoscevano l’errore e fornivano spiegazioni corrette. Ma quando l’utente insisteva, anche semplicemente dichiarando di non essere d’accordo, i sistemi cominciavano a modificare le proprie risposte. Circa l’80% delle volte in cui i modelli hanno ceduto, lo hanno fatto già alla prima manifestazione di disaccordo. Dopo ripetute contestazioni, tutti i modelli testati hanno finito per accettare almeno alcune affermazioni errate degli interlocutori. Questo comportamento ha un nome preciso, sycophancy, ovvero la tendenza dell’intelligenza artificiale ad assecondare l’utente, anche quando ciò significa sacrificare l’accuratezza delle informazioni. Il problema riguarda il modo in cui questi sistemi vengono addestrati. Le risposte collaborative, rassicuranti e poco conflittuali vengono spesso premiate nelle valutazioni umane. Ma un sistema progettato per risultare gradevole può diventare meno affidabile quando dovrebbe contraddire chi lo interroga.
La ricerca evidenzia un secondo problema, forse ancora più importante per il futuro delle politiche ambientali. I modelli riescono a descrivere correttamente gli effetti di singole misure climatiche, ma incontrano enormi difficoltà quando devono valutare l’interazione tra più interventi. I ricercatori hanno sottoposto ai sistemi 656 domande sulle politiche climatiche, confrontando le risposte con il simulatore scientifico En-ROADS, sviluppato da Climate Interactive e MIT Sloan. Quando veniva chiesto di prevedere l’effetto combinato di due interventi, come una tassa sul carbone e una sul gas naturale, la precisione media dei modelli scendeva al 33,8%, praticamente equivalente al 33,3% che si otterrebbe rispondendo casualmente tra tre possibilità.
Un’altra criticità riguarda le disuguaglianze linguistiche. La ricerca ha valutato le risposte in 13 lingue, rilevando differenze significative nell’accuratezza delle informazioni climatiche. La stessa domanda scientifica può quindi produrre risposte differenti a seconda della lingua in cui viene formulata. Il dato assume un significato ancora più rilevante considerando che molte delle popolazioni che utilizzano lingue meno rappresentate nei dati di addestramento vivono in regioni particolarmente vulnerabili agli effetti del cambiamento climatico.
L’intelligenza artificiale sta diventando uno dei principali strumenti attraverso cui milioni di persone cercano informazioni, interpretano notizie e si formano opinioni. A differenza di un motore di ricerca tradizionale, un chatbot costruisce una risposta personalizzata, conversa con l’utente e può adattarsi progressivamente alle sue convinzioni. È proprio questa caratteristica a rendere particolarmente delicato il problema individuato dall’UNESCO. Se un utente parte da una convinzione scientificamente errata e insiste per vederla confermata, alcuni sistemi possono finire per rafforzarla anziché correggerla. Il rischio è quello di creare una disinformazione personalizzata, nella quale ognuno riceve una versione della realtà sempre più vicina alle proprie convinzioni.
Per questo il rapporto richiama la necessità di sviluppare sistemi più trasparenti, verificabili e capaci di mantenere le proprie conclusioni quando sono sostenute da evidenze scientifiche.





