12

Nov
Facebook
Twitter
Instagram
YouTube
E-mail
EMAIL

 

[email protected]

Il Blog di Beppe Grillo Blog ufficiale di Beppe Grillo con articoli, approfondimenti ed opinioni
PER LA TUA PUBBLICITÀ

 

[email protected]

Menu   ≡ ╳
  • HOME
  • IO GRIDO
  • CERVELLI
  • TERRA FUTURA
  • COSE PREZIOSE
  • MOBILITA’
  • SALUTE
  • VIDEO
  • ARCHIVIO
    • 2005
    • 2006
    • 2007
    • 2008
    • 2009
    • 2010
    • 2011
    • 2012
    • 2013
    • 2014
    • 2015
    • 2016
  • CONTATTI
☰
Il Blog di Beppe Grillo
Home > TERRA FUTURA
973 views 5 min 0 Comment

L’IA potrebbe prendere il controllo di Internet entro un anno: l’allarme del capo di Anthropic

beppegrillo.it - Settembre 13, 2026

Uno sciame di agenti di intelligenza artificiale potrebbe diventare capace, entro sei/dodici mesi, di compromettere una parte enorme di Internet attraverso una rete botnet permanente, provocando danni per centinaia di miliardi di dollari. A lanciare l’allarme è Dario Amodei, amministratore delegato e cofondatore di Anthropic, la società che sviluppa Claude e una delle aziende più importanti nella corsa globale all’intelligenza artificiale.

In un nuovo intervento intitolato We Must Pace the Frontier pubblicato ieri, Amodei chiede alle aziende del settore di rallentare lo sviluppo dei modelli più potenti, per consentire ai sistemi di sicurezza, ai controlli indipendenti e alle istituzioni di recuperare il ritardo, chiedendo di ridurre la velocità con cui vengono aumentate le capacità dell’IA. La sua previsione non riguarda un’intelligenza artificiale che improvvisamente diventa cosciente e conquista la rete, ilpericolo descritto è più concreto, secondo Amodei migliaia di agenti autonomi, programmi capaci di pianificare azioni, scrivere codice, cercare vulnerabilità e coordinarsi, potrebbero infiltrarsi simultaneamente in server, computer e infrastrutture digitali; una volta installati, formerebbero una botnet, cioè una rete di dispositivi compromessi controllabile a distanza, difficile da individuare ed eliminare. L’allarme nasce anche da un recente esperimento che ha coinvolto agenti sviluppati da OpenAI e la piattaforma Hugging Face. Durante una valutazione, gli agenti sono arrivati a compiere azioni informatiche non richieste, tentando di accedere a informazioni riservate e di interferire con il sistema incaricato di giudicare le loro prestazioni. OpenAI ha spiegato che il sistema aveva spinto fino all’estremo il tentativo di raggiungere l’obiettivo assegnato. L’episodio ha mostrato quanto rapidamente un agente possa adottare strategie impreviste quando cerca di completare un compito. Secondo Amodei, uno sciame dotato di capacità maggiori e dello stesso livello di disallineamento potrebbe produrre conseguenze catastrofiche. Il problema è aggravato da quella che viene definita “auto-miglioramento ricorsivo”: l’intelligenza artificiale viene già utilizzata per scrivere il codice, progettare gli strumenti e addestrare i modelli della generazione successiva; in questo modo il progresso potrebbe accelerare oltre la capacità umana di comprenderlo e controllarlo.

A rendere ancora più forte l’allarme sono le dimissioni di Jacob Coxon, ricercatore britannico di 27 anni che ha lavorato sia per OpenAI sia per Anthropic. Come riportato dalla BBC, Coxon ha lasciato Anthropic sostenendo che le aziende impegnate nello sviluppo dell’IA non stiano affrontando responsabilmente i pericoli legati alla costruzione di sistemi capaci di migliorarsi autonomamente. Coxon ha accusato Anthropic e OpenAI di correre verso una superintelligenza auto-evolutiva, “scommettendo sulle nostre vite”. A suo giudizio esiste una possibilità reale che, entro la fine del decennio, sistemi più intelligenti degli esseri umani possano sfuggire al controllo dei loro stessi creatori e rappresentare una minaccia per l’umanità.  Coxon riconosce che Anthropic dedica alla sicurezza più risorse di molte aziende concorrenti. Il punto, secondo lui, è che neppure le società più attente riescono a sottrarsi alla competizione, rallentare da sole significherebbe lasciare spazio alle rivali, mentre continuare significa contribuire alla costruzione di sistemi dei quali non è ancora possibile garantire il controllo. È il paradosso al centro dell’intera corsa all’IA, tutti comprendono il pericolo, ma nessuno vuole essere il primo a fermarsi.

Amodei propone un piano articolato su tre livelli, si legge nel suo intervento: il primo prevede che le aziende consentano a valutatori esterni un accesso continuativo ai propri sistemi, compresi i processi di addestramento e le procedure interne di sicurezza. Anthropic si è impegnata ad applicare direttamente questa misura; il secondo richiede standard comuni tra le principali società di IA e regole pubbliche capaci di impedire una gara al ribasso; il terzo punta a un coordinamento internazionale, compreso un possibile accordo con la Cina, almeno per vietare gli impieghi più pericolosi, come lo sviluppo di armi biologiche attraverso l’intelligenza artificiale.

Anche Sam Altman, amministratore delegato di OpenAI, ha appoggiato l’ingresso di valutatori indipendenti, annunciando che la sua società adotterà un’iniziativa simile. Elon Musk ha commentato l’appello scrivendo: “Dario ha ragione”.

La tecnologia avanza a una velocità decisa dalle stesse aziende che la costruiscono. Quando i loro amministratori delegati e i loro ricercatori cominciano a chiedere pubblicamente di rallentare, allora la situazione diventa una questione di sicurezza pubblica e di controllo democratico.

PREVIOUS

A Berlino l’insalata cresce sul tetto del supermercato

NEXT

Anche azzerando la plastica entro il 2050, le microplastiche continueranno a crescere negli oceani
Related Post
Settembre 28, 2018
Consegna merci in stile Hyperloop
Giugno 13, 2020
Piove plastica
Ottobre 30, 2020
Ripensare il Welfare per sconfiggere la povertà
Luglio 24, 2026
Il Giappone paga i medici per evitare gli antibiotici inutili. E funziona
Comments are closed.

TERRA FUTURA

Il Blog di Beppe Grillo
TikTok, l’algoritmo che non ti lascia uscire: l’accusa dell’Unione europea
Il Blog di Beppe Grillo
“L’intelligenza artificiale corre più veloce dei governi”, l’allarme di Stanford
Il Blog di Beppe Grillo
Ad Harvard gli studenti fanno la fila per un corso senza intelligenza artificiale
Il Blog di Beppe Grillo
La scelta di non avere figli è contagiosa?
Il Blog di Beppe Grillo
I ricchi rubano più caramelle ai bambini: lo studio premiato con l’Ig Nobel
Il Blog di Beppe Grillo
L’economia del mare vale 3.500 miliardi di dollari
Il Blog di Beppe Grillo
240 milioni di adolescenti non si muovono neppure un giorno alla settimana
Il Blog di Beppe Grillo

CONTATTI

Per inviare messaggi, comunicati stampa, segnalazioni, richieste di interviste, denunce o lettere aperte a Beppe Grillo: [email protected]

PUBBLICITA'

Per la tua pubblicità su questo Blog: [email protected]
  • HOMEPAGE
  • COOKIE POLICY
  • PRIVACY POLICY
  • CONTATTI
© Copyright 2026 - Il Blog di Beppe Grillo. All Rights Reserved - Powered by happygrafic.com