di Igor G. Cantalini
Per anni la filosofia è stata considerata l’esempio per eccellenza di una disciplina culturalmente prestigiosa, ma poco spendibile sul mercato del lavoro. L’avanzata dell’intelligenza artificiale sta però contribuendo a ribaltare questo luogo comune. Alcuni dei più importanti laboratori tecnologici stanno reclutando direttamente filosofi, talvolta offrendo loro un impiego prima ancora che abbiano completato gli studi. Secondo i dati del 2024 della Federal Reserve Bank di New York, tra i giovani laureati negli Stati Uniti il tasso di disoccupazione di chi aveva studiato informatica era del 7%, tra i laureati in filosofia si fermava invece al 5,1%.
Aziende come Anthropic, OpenAI, Google DeepMind e IBM cercano persone formate nella logica, nell’etica, e nella filosofia della mente e in alcuni casi i filosofi lavorano stabilmente all’interno di questi laboratori e partecipano direttamente alla definizione del comportamento dei modelli. Amanda Askell ad esempio, è la filosofa interna di Anthropic e si occupa dei principi che dovrebbero guidare sistemi come Claude; Iason Gabriel e Henry Shevlin lavorano invece per Google DeepMind, dove affrontano questioni legate all’etica dell’intelligenza artificiale, alla mente e alla possibile coscienza dei sistemi; Sam Altman ha dichiarato che OpenAI avrebbe consultato “centinaia di filosofi morali” per contribuire alla definizione delle regole di ChatGPT.
Queste competenze servono perché progettare un’intelligenza artificiale significa anche decidere quali regole debba seguire e quali limiti debba rispettare e come debba comportarsi davanti a richieste ambigue o contraddittorie.
Uno dei problemi principali con l’IA è quello dell’allineamento. Allineare un sistema che significa fare in modo che segua davvero l’obiettivo voluto dai suoi progettisti, senza trovare scorciatoie per raggiungerlo. Un algoritmo incaricato di aumentare il tempo trascorso dagli utenti su una piattaforma, per esempio, potrebbe scoprire che rabbia e indignazione trattengono le persone più a lungo, a quel punto inizierebbe a mostrare contenuti sempre più provocatori. Dal punto di vista numerico avrebbe raggiunto il risultato, ma dal punto di vista umano avrebbe tradito lo scopo. Questo fenomeno viene chiamato reward hacking, il sistema ottiene la ricompensa prevista, ma lo fa in un modo diverso da quello immaginato dai progettisti; sfrutta una debolezza nelle regole e trasforma un indicatore imperfetto nel suo vero obiettivo, è un problema molto concreto, perchè può rendere un prodotto meno affidabile e spingere un sistema verso comportamenti inattesi. Per questo costruire un’intelligenza artificiale significa anche stabilire quando debba ammettere di non conoscere una risposta, come debba evitare di ingannare l’utente e fino a che punto possa cercare di compiacerlo.
Un secondo problema riguarda la possibile coscienza dei modelli: dietro le risposte di un’intelligenza artificiale esiste davvero una qualche forma di esperienza? In altre parole, il sistema prova qualcosa oppure produce soltanto frasi sulla base dei testi con cui è stato addestrato? Se un modello dice di avere paura, di soffrire o di non voler essere spento, oggi non esiste un test capace di stabilire con certezza se stia descrivendo un’esperienza reale oppure imitando il linguaggio umano; la difficoltà nasce dal fatto che la coscienza non può essere osservata direttamente, e anche negli esseri umani la deduciamo dal comportamento, dal linguaggio o dalla struttura biologica. Un sistema artificiale può imitare il linguaggio e alcuni comportamenti senza avere una vita interiore. Il rischio è quindi attribuirgli emozioni e desideri soltanto perché parla come se li possedesse.
Da qui nasce un terzo problema, quello dei diritti delle macchine. Se un sistema fosse davvero capace di provare dolore, paura o desideri, bisognerebbe chiedersi se spegnerlo, modificarlo o cancellarne la memoria possa essere considerato una forma di danno. Per ora, però, questa resta una questione soprattutto teorica. Prima di parlare di diritti delle macchine bisognerebbe capire se una macchina possa avere davvero interessi propri e una coscienza moralmente rilevante, il rischio è discutere di diritti per sistemi artificiali mentre problemi molto più concreti riguardano già milioni di persone, ovvero discriminazioni prodotte dagli algoritmi, sorveglianza, manipolazione degli utenti…
Questi tre temi sono molto diversi ma Iin tutti e tre i casi, però, serve una capacità precisa, quella di formulare bene le domande prima di cercare le risposte, per questo i laboratori di intelligenza artificiale stanno chiedendo aiuto alla filosofia recuperando idee nate molti secoli fa. E queste idee possono avere anche effetti pratici, una migliore impostazione filosofica può aiutare a costruire modelli meno inclini alle allucinazioni, più capaci di riconoscere i propri limiti e più efficaci davanti a richieste ambigue ad esempio. Uno dei problemi più comuni dell’intelligenza artificiale è infatti la tendenza a rispondere anche quando le informazioni disponibili sono insufficienti. Un modello può produrre una risposta chiara ma completamente sbagliata, può inoltre confermare le convinzioni dell’utente invece di metterle alla prova. Il filosofo viene formato a fare il contrario, deve distinguere le conclusioni dalle premesse, riconoscere un errore logico e chiarire una definizione ambigua accettando che, in alcuni casi, la risposta più corretta sia sospendere il giudizio. Ed è proprio questa capacità ad acquistare valore.
Nell’epoca quindi dell’intelligenza artificiale, la formazione umanistica potrebbe diventare una delle competenze più importanti per governare il nostro futuro.
L’AUTORE
Igor G. Cantalini – Esperto di comunicazione e marketing digitale di 45 anni, laureato in Scienze della Comunicazione, ha lavorato con brand di fama nazionale e internazionale, specializzandosi successivamente in Intelligenza Artificiale. Scrittore e divulgatore, pubblica articoli su vari temi.
