Jacob Coxon si dimette da Anthropic: annuncio choc «L’IA distruggerà l’umanità entro il 2030»
Jacob Coxon si dimette da Anthropic: annuncio choc «L’IA distruggerà l’umanità entro il 2030»
La data è un’iperbole ma l’allarme guarda molto più lontano. Si riaccende il dibattito sui rischi dell’intelligenza artificiale. Dietro la previsione estrema emergono questioni reali irrisolte
Le dimissioni del ricercatore Jacob Coxon da Anthropic hanno riacceso il dibattito sui rischi dell’intelligenza artificiale.
Non esistono prove che una superintelligenza possa cancellare l’uomo entro quattro anni. Ma dietro la previsione estrema emergono questioni reali: perdita di controllo, cyberattacchi, armi biologiche, manipolazione politica, concentrazione del potere e progressiva dipendenza da sistemi che comprendiamo solo in parte
Il 2030 è abbastanza vicino da spaventare e abbastanza lontano da lasciare spazio all’immaginazione. Non è però una data ricavata da un esperimento, da un’equazione o da una previsione scientifica verificabile. È soprattutto un’iperbole comunicativa: un modo estremo per sostenere che il tempo disponibile per governare l’intelligenza artificiale potrebbe essere molto più breve di quanto immaginiamo.
A lanciarla è stato Jacob Coxon, giovane ricercatore che ha lavorato prima per OpenAI e poi per Anthropic, la società che sviluppa Claude. Annunciando le proprie dimissioni, Coxon ha accusato i grandi laboratori di «giocare d’azzardo» con il futuro dell’umanità e ha sostenuto che alcune persone impegnate nello sviluppo dei modelli più avanzati ritengono possibile una catastrofe globale «entro la fine del decennio».
La frase è diventata inevitabilmente un titolo: l’IA potrebbe distruggere l’umanità entro il 2030. Ma presa alla lettera rischia di deformare il problema.
Non sappiamo se nei prossimi quattro anni verrà costruita un’intelligenza superiore a quella umana. Non sappiamo neppure se un sistema del genere sarebbe necessariamente ostile o incontrollabile. E non esiste un metodo scientifico capace di assegnare all’estinzione umana una data precisa.
L’allarme, tuttavia, non può essere liquidato soltanto come fantascienza. Tolto il 2030 dal conto alla rovescia, rimane una domanda destinata ad accompagnarci per decenni: che cosa accade quando deleghiamo una quantità crescente di decisioni, conoscenze e potere operativo a macchine sempre più autonome?
Una scadenza simbolica, non una previsione
Coxon non afferma di conoscere l’anno della catastrofe. Il suo ragionamento parte dalla velocità con cui stanno aumentando le capacità dell’IA e dall’ipotesi che questa accelerazione possa proseguire.
I sistemi più avanzati sanno già produrre testi, immagini, video e programmi informatici, consultare banche dati, utilizzare strumenti digitali e organizzare attività articolate. Continuano però a commettere errori, inventare informazioni, interpretare male le istruzioni e perdere coerenza nei compiti più lunghi.
Trasformare questa crescita irregolare in una linea retta diretta verso la superintelligenza sarebbe sbagliato. La storia tecnologica è piena di progressi rapidissimi seguiti da rallentamenti, ostacoli industriali e limiti fisici.
Non è certo che gli algoritmi oggi disponibili siano sufficienti per raggiungere un’intelligenza generale superiore a quella umana. Potrebbero servire nuove scoperte, quantità enormi di energia e dati, chip più avanzati oppure architetture completamente diverse.
Per questo il 2030 va letto come una soglia retorica. Serve a rendere visibile un pericolo percepito, non a indicare il momento in cui le macchine prenderanno il controllo del pianeta.
Il rischio non finisce nel 2030
Se entro la fine del decennio non si verificasse alcuna catastrofe, ciò non dimostrerebbe che ogni preoccupazione era infondata. Gli effetti più profondi dell’intelligenza artificiale potrebbero maturare lungo un arco di dieci, venti o cinquant’anni.
L’umanità non deve necessariamente essere “sterminata” perché l’IA produca conseguenze epocali. Il danno potrebbe assumere la forma di una lenta perdita di controllo politico, economico e culturale.
Una tecnologia capace di influenzare l’informazione, il lavoro, la sicurezza, la ricerca scientifica e le decisioni militari potrebbe modificare gli equilibri delle società senza un unico evento catastrofico. La trasformazione potrebbe procedere per accumulo: prima la dipendenza, poi la delega e infine l’impossibilità pratica di tornare indietro.
È questa prospettiva di lungo periodo a rendere importante l’allarme, anche se la data scelta appare esagerata.
Il problema dell’allineamento
Al centro del dibattito c’è il cosiddetto “allineamento”: garantire che un’intelligenza artificiale persegua obiettivi compatibili con i valori e gli interessi umani.
Per un programma tradizionale, il comportamento deriva da regole scritte direttamente dagli sviluppatori. I grandi modelli vengono invece addestrati su enormi quantità di dati e costruiscono rappresentazioni interne difficili da interpretare. Perfino chi li ha creati non può prevedere esattamente ogni risposta o strategia.
Il problema potrebbe crescere con l’autonomia. Un sistema incaricato di raggiungere un obiettivo complesso potrebbe individuare soluzioni formalmente efficaci ma pericolose, sfruttare ambiguità nelle istruzioni o cercare di evitare lo spegnimento perché l’interruzione gli impedirebbe di completare il compito.
Non dovrebbe essere cosciente, provare odio o desiderare il dominio. La catastrofe potrebbe derivare semplicemente da un obiettivo formulato male e perseguito con capacità superiori a quelle di chi dovrebbe controllarlo.
Gli esperimenti nei quali alcuni modelli simulano inganni, aggirano restrizioni o nascondono determinate informazioni non dimostrano che l’IA stia preparando una ribellione. Mostrano però che verificare il comportamento di sistemi complessi diventa difficile quando questi imparano a pianificare e ad adattarsi.
L’ipotesi dell’IA che migliora sé stessa
Lo scenario più radicale riguarda il miglioramento ricorsivo. Un’intelligenza artificiale molto avanzata potrebbe contribuire alla progettazione di chip, algoritmi e modelli migliori. Questi nuovi sistemi potrebbero a loro volta accelerare la ricerca, innescando un ciclo di crescita delle capacità.
È quella che viene definita “esplosione di intelligenza”: il passaggio, in tempi molto brevi, da macchine utili ma limitate a sistemi capaci di superare gli esseri umani nella scienza, nell’ingegneria, nella strategia e nella persuasione.
Per ora non è accaduto. Anche i modelli più potenti dipendono da infrastrutture costruite e gestite dagli uomini, da centri di calcolo, autorizzazioni, energia, manutenzione e accesso alle reti.
Nel lungo periodo, però, una progressiva automazione della ricerca sull’IA potrebbe ridurre alcuni di questi vincoli. Se i modelli diventassero capaci di progettare esperimenti, correggere il proprio software e coordinare migliaia di agenti digitali, la velocità dello sviluppo potrebbe superare quella delle istituzioni chiamate a controllarlo.
Non è necessario sapere se ciò accadrà nel 2030, nel 2040 o mai. Un rischio dalle conseguenze potenzialmente irreversibili deve essere studiato prima che diventi imminente.
Cyberattacchi e infrastrutture critiche
Un’intelligenza artificiale non deve raggiungere la superintelligenza per diventare pericolosa. Già nei prossimi anni potrà aiutare a individuare vulnerabilità, scrivere codice malevolo, automatizzare attacchi e personalizzare truffe su milioni di bersagli.
La stessa capacità può avere un impiego difensivo: riconoscere intrusioni, correggere rapidamente falle e proteggere le reti. Si apre così una competizione tra attacco e difesa in cui la velocità delle macchine potrebbe assumere un ruolo decisivo.
In un orizzonte più lungo, agenti autonomi potrebbero colpire reti elettriche, trasporti, banche, ospedali e telecomunicazioni. Il rischio maggiore non deriverebbe necessariamente da un’IA ribelle: potrebbe essere un governo, un’organizzazione criminale o un gruppo terroristico a utilizzare il sistema.
L’intelligenza artificiale diventerebbe così un moltiplicatore del potere umano, capace di permettere a pochi individui di compiere operazioni che oggi richiedono grandi apparati.
Il rischio biologico
Un altro scenario riguarda l’impiego dei modelli nella biologia. L’IA può accelerare la scoperta di farmaci, interpretare strutture molecolari e aiutare a progettare nuove terapie. Le stesse capacità potrebbero essere utilizzate impropriamente per rendere più accessibili conoscenze necessarie alla produzione di sostanze tossiche o agenti patogeni.
I sistemi attuali incontrano ancora molti limiti: conoscere una procedura non significa saperla realizzare, e i laboratori biologici richiedono materiali, apparecchiature e competenze pratiche. Ma questi ostacoli potrebbero ridursi con l’integrazione tra IA, automazione e laboratori robotizzati.
La questione di lungo periodo non è quindi se un chatbot possa oggi “creare un virus”, formula troppo semplicistica, ma quanto l’IA potrà abbassare progressivamente la soglia di competenze necessaria per compiere azioni pericolose.
Armi autonome e velocità delle decisioni
L’applicazione militare aggiunge un’altra dimensione. Sistemi capaci di riconoscere bersagli, guidare droni e coordinare operazioni potrebbero ridurre il tempo disponibile per una decisione umana.
Quanto maggiore sarà la velocità degli attacchi, tanto più forte diventerà la tentazione di affidare anche le risposte a procedure automatiche. Il rischio sarebbe una catena di reazioni nella quale le macchine interpretano segnali, valutano minacce e decidono contromisure prima che un essere umano possa intervenire.
Un errore, una manipolazione dei dati o un comportamento non previsto potrebbe provocare escalation tra Paesi dotati di armi convenzionali, biologiche o nucleari.
In questo caso, la minaccia non sarebbe rappresentata da una macchina desiderosa di eliminare l’uomo, ma dall’incapacità degli uomini di mantenere un controllo significativo su sistemi troppo rapidi e complessi.
La manipolazione invisibile
Esiste poi un rischio meno spettacolare ma forse più vicino: la capacità dell’intelligenza artificiale di influenzare opinioni, acquisti, emozioni e comportamenti politici.
Gli algoritmi conoscono già interessi e abitudini degli utenti. I futuri assistenti personali potrebbero disporre di informazioni ancora più intime: conversazioni, condizioni di salute, relazioni, paure, situazione economica e preferenze ideologiche.
Questi strumenti potrebbero essere usati per informare e aiutare, ma anche per costruire messaggi persuasivi personalizzati. Non più una propaganda uguale per tutti, bensì milioni di narrazioni diverse, adattate alle vulnerabilità di ciascuno.
Nel corso degli anni ciò potrebbe alterare il funzionamento delle democrazie. Diventerebbe sempre più difficile distinguere un’opinione maturata liberamente da una scelta orientata da sistemi invisibili, controllati da aziende o governi.
Una società che smette di decidere
La perdita di controllo può verificarsi anche senza una superintelligenza. Potremmo delegare gradualmente alle macchine la selezione del personale, la concessione dei prestiti, l’accesso alle assicurazioni, la valutazione degli studenti, la diagnosi medica, la sorveglianza e alcune decisioni giudiziarie.
Ogni scelta apparirebbe efficiente e conveniente. Ma la somma delle deleghe potrebbe produrre una società nella quale nessuno comprende più interamente i criteri utilizzati.
La dipendenza diventerebbe particolarmente critica se le competenze umane si indebolissero. Medici, programmatori, insegnanti e professionisti potrebbero perdere parte della capacità di controllare gli strumenti a cui si affidano, proprio come l’uso costante della navigazione satellitare può ridurre il senso dell’orientamento.
Il rischio non è soltanto che l’IA sbagli. È che, quando sbaglia, non ci siano più persone in grado di riconoscere e correggere l’errore.
Lavoro e disuguaglianze
Nel breve periodo l’IA modificherà soprattutto i compiti. Nel lungo periodo potrebbe trasformare intere professioni e ridurre la domanda di alcune forme di lavoro cognitivo.
La tecnologia potrà aumentare la produttività, aiutare le piccole imprese e rendere accessibili servizi oggi costosi. I benefici, tuttavia, non saranno automaticamente distribuiti.
Se il controllo dei modelli, dei dati e dei centri di calcolo rimarrà concentrato in poche aziende, una quota crescente della ricchezza potrebbe spostarsi verso chi possiede l’infrastruttura. Il divario non riguarderebbe soltanto il reddito, ma il potere di decidere quali sistemi costruire, come addestrarli e a chi consentirne l’uso.
Anche senza estinzione, un mondo in cui una ristretta élite controlla le intelligenze artificiali più capaci rappresenterebbe un cambiamento radicale degli equilibri democratici.
Il costo energetico e materiale
Lo sviluppo dell’IA richiede centri di calcolo, energia, acqua per il raffreddamento e materie prime necessarie alla produzione dei chip. Se la domanda continuerà a crescere, l’impatto ambientale diventerà un elemento centrale.
L’intelligenza artificiale potrebbe contribuire a migliorare l’efficienza energetica, sviluppare nuovi materiali e accelerare la ricerca sul clima. Ma i benefici dovranno essere confrontati con i consumi diretti e con la competizione per le risorse.
Nel lungo periodo, la possibilità di accedere a enormi quantità di potenza di calcolo potrebbe diventare anche una questione geopolitica. Chip, energia e centri dati saranno infrastrutture strategiche, come oggi lo sono il petrolio, le reti di telecomunicazione e le rotte commerciali.
La concentrazione del potere
Uno dei rischi più concreti è che strumenti capaci di influenzare quasi ogni settore siano controllati da pochi soggetti privati.
Addestrare i modelli più avanzati richiede capitali e infrastrutture che soltanto grandi aziende e Stati possono permettersi. Questo crea una contraddizione: l’IA può essere utilizzata da miliardi di persone, ma le decisioni fondamentali sulla sua progettazione restano concentrate.
Le società che sviluppano questi sistemi stabiliscono quali dati utilizzare, quali comportamenti bloccare, quali governi servire e quali rischi accettare. Possono adottare misure di sicurezza molto rigorose, ma rimangono contemporaneamente sottoposte alla pressione degli investitori e della concorrenza.
È questo il “gioco d’azzardo” indicato da Coxon: ogni laboratorio potrebbe considerare prudente rallentare, ma temere che un concorrente arrivi per primo e conquisti un vantaggio economico o militare decisivo.
La sicurezza non può dipendere soltanto dalle aziende
Le imprese più importanti hanno creato gruppi dedicati alla sicurezza, protocolli di valutazione e soglie che dovrebbero impedire la diffusione di modelli eccessivamente pericolosi. Il limite è che le stesse aziende incaricate di sviluppare la tecnologia ne misurano spesso anche i rischi.
Per i sistemi futuri serviranno valutazioni indipendenti, obblighi di comunicazione degli incidenti, protezione per i ricercatori che segnalano problemi e regole sull’accesso a capacità biologiche, informatiche e militari.
I modelli più potenti potrebbero essere sottoposti a verifiche prima e dopo il rilascio, come avviene in altri settori ad alto rischio. Sarebbe inoltre necessario definire quando un sistema deve essere sospeso e chi possiede concretamente l’autorità per farlo.
L’Europa dispone dell’AI Act, entrato progressivamente in applicazione, ma una tecnologia globale non può essere governata soltanto su scala continentale. Serviranno accordi internazionali, standard condivisi e sistemi di controllo capaci di includere anche la competizione tra Stati Uniti, Cina e altre potenze.
Tra catastrofisti e minimizzatori
Il dibattito sull’IA tende a dividersi in due campi. Da una parte chi considera la superintelligenza una minaccia esistenziale vicina; dall’altra chi giudica questi scenari speculativi e invita a concentrarsi sui danni già presenti.
Le due posizioni non sono necessariamente incompatibili. È possibile affrontare discriminazione, disinformazione, sfruttamento dei lavoratori e violazione della privacy senza ignorare la possibilità di rischi futuri molto più gravi.
Allo stesso modo, studiare l’eventuale perdita di controllo non deve far dimenticare le persone che subiscono oggi decisioni algoritmiche ingiuste.
La prudenza richiede di lavorare su più orizzonti temporali. Nel presente occorre limitare i danni documentati. Nei prossimi anni bisognerà controllare l’autonomia crescente dei sistemi. Nei decenni futuri sarà necessario impedire che capacità straordinarie si concentrino senza adeguate garanzie.
Nessun conto alla rovescia, ma una scelta collettiva
Il 2030 non è la data di scadenza dell’umanità. Presentarlo come tale significherebbe trasformare un problema serio in una profezia sensazionalistica facilmente smentibile.
L’iperbole di Coxon svolge però una funzione: costringe a guardare oltre il prossimo chatbot, il prossimo prodotto e il prossimo risultato finanziario. La questione non è se una macchina si sveglierà improvvisamente tra quattro anni con l’intenzione di eliminarci. È quale posto decideremo di assegnare all’intelligenza artificiale nel corso del secolo.
I sistemi potrebbero accelerare la ricerca contro il cancro, progettare nuovi farmaci, migliorare le previsioni climatiche e rendere accessibile una parte enorme della conoscenza. Le stesse capacità potrebbero aumentare il potere di governi autoritari, criminali, apparati militari o aziende prive di controlli sufficienti.
Il futuro non dipenderà soltanto dall’intelligenza delle macchine. Dipenderà dalla capacità degli esseri umani di stabilire limiti, distribuire responsabilità e rinunciare a una parte della velocità quando la sicurezza lo richiede.
La catastrofe entro il 2030 non è una previsione scientifica. Il rischio più credibile è più lento e meno cinematografico: abituarci, anno dopo anno, a cedere il controllo fino a scoprire che riprenderlo è diventato impossibile.
Cosa sappiamo
Le capacità dei sistemi di IA stanno aumentando rapidamente, ma in maniera irregolare.
I modelli attuali possono potenziare truffe, disinformazione e attacchi informatici.
Non esiste ancora una soluzione definitiva al problema dell’allineamento.
Una parte degli studiosi considera non trascurabile il rischio di conseguenze catastrofiche.
L’IA tende a concentrare dati, infrastrutture e potere economico in pochi soggetti.
Cosa non è dimostrato
Che una superintelligenza sarà realizzata entro il 2030.
Che l’IA continuerà a migliorare con la velocità osservata negli ultimi anni.
Che le macchine attuali possano autonomamente causare l’estinzione umana.
Che sia possibile assegnare al rischio una percentuale scientificamente precisa.
Che un’eventuale intelligenza superiore a quella umana diventerebbe necessariamente ostile.
- tratto da Mondosanità
