Uno sciame di agenti di intelligenza artificiale potrebbe diventare capace, entro sei/dodici mesi, di compromettere una parte enorme di Internet attraverso una rete botnet permanente, provocando danni per centinaia di miliardi di dollari. A lanciare l’allarme è Dario Amodei, amministratore delegato e cofondatore di Anthropic, la società che sviluppa Claude e una delle aziende più importanti nella corsa globale all’intelligenza artificiale.
In un nuovo intervento intitolato We Must Pace the Frontier pubblicato ieri, Amodei chiede alle aziende del settore di rallentare lo sviluppo dei modelli più potenti, per consentire ai sistemi di sicurezza, ai controlli indipendenti e alle istituzioni di recuperare il ritardo, chiedendo di ridurre la velocità con cui vengono aumentate le capacità dell’IA. La sua previsione non riguarda un’intelligenza artificiale che improvvisamente diventa cosciente e conquista la rete, ilpericolo descritto è più concreto, secondo Amodei migliaia di agenti autonomi, programmi capaci di pianificare azioni, scrivere codice, cercare vulnerabilità e coordinarsi, potrebbero infiltrarsi simultaneamente in server, computer e infrastrutture digitali; una volta installati, formerebbero una botnet, cioè una rete di dispositivi compromessi controllabile a distanza, difficile da individuare ed eliminare. L’allarme nasce anche da un recente esperimento che ha coinvolto agenti sviluppati da OpenAI e la piattaforma Hugging Face. Durante una valutazione, gli agenti sono arrivati a compiere azioni informatiche non richieste, tentando di accedere a informazioni riservate e di interferire con il sistema incaricato di giudicare le loro prestazioni. OpenAI ha spiegato che il sistema aveva spinto fino all’estremo il tentativo di raggiungere l’obiettivo assegnato. L’episodio ha mostrato quanto rapidamente un agente possa adottare strategie impreviste quando cerca di completare un compito. Secondo Amodei, uno sciame dotato di capacità maggiori e dello stesso livello di disallineamento potrebbe produrre conseguenze catastrofiche. Il problema è aggravato da quella che viene definita “auto-miglioramento ricorsivo”: l’intelligenza artificiale viene già utilizzata per scrivere il codice, progettare gli strumenti e addestrare i modelli della generazione successiva; in questo modo il progresso potrebbe accelerare oltre la capacità umana di comprenderlo e controllarlo.
A rendere ancora più forte l’allarme sono le dimissioni di Jacob Coxon, ricercatore britannico di 27 anni che ha lavorato sia per OpenAI sia per Anthropic. Come riportato dalla BBC, Coxon ha lasciato Anthropic sostenendo che le aziende impegnate nello sviluppo dell’IA non stiano affrontando responsabilmente i pericoli legati alla costruzione di sistemi capaci di migliorarsi autonomamente. Coxon ha accusato Anthropic e OpenAI di correre verso una superintelligenza auto-evolutiva, “scommettendo sulle nostre vite”. A suo giudizio esiste una possibilità reale che, entro la fine del decennio, sistemi più intelligenti degli esseri umani possano sfuggire al controllo dei loro stessi creatori e rappresentare una minaccia per l’umanità. Coxon riconosce che Anthropic dedica alla sicurezza più risorse di molte aziende concorrenti. Il punto, secondo lui, è che neppure le società più attente riescono a sottrarsi alla competizione, rallentare da sole significherebbe lasciare spazio alle rivali, mentre continuare significa contribuire alla costruzione di sistemi dei quali non è ancora possibile garantire il controllo. È il paradosso al centro dell’intera corsa all’IA, tutti comprendono il pericolo, ma nessuno vuole essere il primo a fermarsi.
Amodei propone un piano articolato su tre livelli, si legge nel suo intervento: il primo prevede che le aziende consentano a valutatori esterni un accesso continuativo ai propri sistemi, compresi i processi di addestramento e le procedure interne di sicurezza. Anthropic si è impegnata ad applicare direttamente questa misura; il secondo richiede standard comuni tra le principali società di IA e regole pubbliche capaci di impedire una gara al ribasso; il terzo punta a un coordinamento internazionale, compreso un possibile accordo con la Cina, almeno per vietare gli impieghi più pericolosi, come lo sviluppo di armi biologiche attraverso l’intelligenza artificiale.
Anche Sam Altman, amministratore delegato di OpenAI, ha appoggiato l’ingresso di valutatori indipendenti, annunciando che la sua società adotterà un’iniziativa simile. Elon Musk ha commentato l’appello scrivendo: “Dario ha ragione”.
La tecnologia avanza a una velocità decisa dalle stesse aziende che la costruiscono. Quando i loro amministratori delegati e i loro ricercatori cominciano a chiedere pubblicamente di rallentare, allora la situazione diventa una questione di sicurezza pubblica e di controllo democratico.
