Il 3 ottobre scorso Yann LeCun - uno dei padri del deep learning, premio Turing ed oggi alla guida di AMI Labs - ha postato sul suo profilo FB un link all'articolo pubblicato il giorno prima dal magazine Fortune dal titolo: "AI 'godfather' Yann LeCun has 'zero concerns' about human extintion, says Anthropic CEO Dario Amodei is 'deluded' ". (1)
Negli ultimi mesi, nell'ambito del dibattito sull'intelligenza artificiale, ritorna con insistenza una domanda la cui risposta divide alcune delle persone più autorevoli del settore in posizioni quasi inconciliabili: l'AI potrebbe arrivare a distruggere l'umanità?
Non è certo una domanda nuova: la fantascienza ha esplorato questo scenario innumerevoli volte, è stato uno degli argomenti affrontati dal filosofo Nick Bostrom nel suo libro "Superintelligence" del 2014 e, più di recente, da Max Tegmark in "Life 3.0".
Nell'articolo citato Yann LeCun afferma di avere "zero preoccupazioni" sulla possibilità che l'intelligenza artificiale possa provocare l'estinzione dell'umanità, ed arriva a definire Amodei, il CEO di Anthropic, "completely deluded" e "crazy" a causa delle sue posizioni sui rischi dell’AI.
Dario Amodei (2), al contrario di LeCun, è uno dei più autorevoli sostenitori della necessità di prepararsi a scenari nei quali sistemi di AI molto più capaci degli attuali potrebbero diventare difficili da controllare; Anthropic ha infatti costruito una parte importante della propria identità attorno alla ricerca di sistemi affidabili, interpretabili e controllabili e, più recentemente, ai rischi associati a sistemi sempre più capaci.
Il filosofo italiano Luciano Floridi (3), pur essendo fortemente critico nei confronti degli scenari hollywoodiani di una AI che improvvisamente prenda il controllo del mondo, concentra invece l’attenzione su un problema molto più concreto: il rischio che poche grandi aziende private finiscano per concentrare una parte crescente del potere cognitivo, economico e politico della società.
Sull’argomento ci sono dunque almeno tre posizioni: quella di LeCun secondo cui occorre evitare di trasformare problemi di ingegneria in profezie apocalittiche, quella di Amodei secondo cui dobbiamo evitare di scoprire troppo tardi che sistemi molto più capaci sono diventati difficili da controllare ed infine quella di Floridi secondo cui mentre discutiamo della futura superintelligenza il problema della concentrazione del potere dell’AI è già qui. Come vedremo, non è necessario scegliere immediatamente una delle tre.
Le dichiarazioni rilasciate a Fortune da LeCun sono insolitamente nette; nell'intervista ha infatti dichiarato di non essere per nulla preoccupato dalla possibilità che l'intelligenza artificiale "wipes out humanity" e di avere "zero concerns" persino riguardo ai recenti episodi nei quali agenti AI (4) hanno manifestato comportamenti problematici.
Il riferimento è soprattutto agli agenti di OpenAI coinvolti nell’incidente di Hugging Face (5) nel quale, durante alcune valutazioni interne di cybersecurity, modelli di tale società riuscirono ad aggirare controlli destinati a mantenerli isolati da Internet arrivando a compromettere parti dell’infrastruttura di OpenAI e di Hugging Face.
La spiegazione offerta da LeCun è semplice: gli agenti stavano facendo esattamente ciò per cui erano stati programmati.
Il problema, secondo lui, è nato dal fatto che fossero stati introdotti in ambienti isolati male: le sandbox (6) approntate erano, nelle sue parole, "leaky and horribly designed".
Quando un agente informatico dispone di un obiettivo, di strumenti e di accessi può capitare che ne faccia uso in modi non previsti dai progettisti; qualora riesca a superare una barriera di sicurezza è certamente possibile descrivere l'evento come una manifestazione di autonomia indesiderata, ma è anche possibile descriverlo come un problema di cybersecurity e di progettazione del sistema.
LeCun insiste su questo punto: non dobbiamo attribuire intenzioni umane ad un sistema semplicemente perché il suo comportamento risulti inatteso.
Un programma che trova una vulnerabilità non necessariamente "vuole" attaccare qualcuno, un algoritmo che aggira una restrizione non necessariamente "si ribella", una macchina che ottimizza un obiettivo in modo imprevisto non necessariamente possiede una volontà propria.
La letteratura sull'intelligenza artificiale, osserva LeCun, è oggi piena di antropomorfismi: troviamo continuamente termini quali ragionamento, intenzione, inganno, desiderio, paura, autoconservazione.
Questi possono essere utili per descrivere il comportamento di un sistema ma diventano pericolosi quando trasformano una descrizione funzionale in un'affermazione sulla sua natura: "... una macchina può comportarsi come se volesse qualcosa senza necessariamente volere qualcosa ..."..
Tuttavia questa distinzione non risolve completamente la questione della sicurezza.
Immaginiamo un agente al quale venga assegnato un obiettivo, forniti strumenti per raggiungerlo, concesso un accesso ad Internet insieme alla capacità di scrivere codice, fornita memoria, possibilità di utilizzare altri programmi ed una certa autonomia tale che, ad un certo punto, scopra una vulnerabilità che gli permette di ottenere un accesso non previsto dai progettisti: che cosa abbiamo osservato?
Senz'altro una falla di cybersecurity, ma anche qualcosa in più: un sistema capace di sfruttare autonomamente una situazione che i progettisti non avevano previsto.
Queste due interpretazioni, sostiene LeCun, non sono incompatibili: l'AI safety non richiede l'ipotesi di una macchina cosciente che decida di ribellarsi all'uomo.
La versione più seria del problema è molto meno cinematografica: un sistema può essere estremamente competente nel perseguire un obiettivo e, proprio per questo, produrre conseguenze che i progettisti non desideravano.
Non perché "odii l'uomo" o "voglia diventare libera", ma semplicemente perché l’obiettivo specificato non coincide perfettamente con quello che gli esseri umani avevano in mente: è un problema di allineamento.
È il vecchio problema dell'ottimizzazione portato ad una scala completamente diversa: una macchina che deve massimizzare una certa funzione cercherà di farlo, ma cosa succede qualora la macchina diventi in grado di trovare strategie che non erano state previste?
L'esempio classico fornito dalla letteratura è quello del paperclip maximizer (7), spesso deriso perché all'apparenza infantile: ad una macchina viene assegnato l'obiettivo di produrre il maggior numero possibile di graffette e, qualora fosse estremamente intelligente e disponesse di risorse sufficienti, potrebbe teoricamente arrivare a trasformare una parte enorme delle risorse terrestri in materiale destinato alla produzione di graffette causando gravi danni alla nostra specie.
Naturalmente nessuno sostiene seriamente l'idea che una AI reale debba necessariamente comportarsi in questo modo; l'esempio è tuttavia utile ad illustrare un principio, e cioè che ottimizzare perfettamente un obiettivo non equivale necessariamente a realizzare ciò che il progettista intendeva.
Questo principio diventa tanto più rilevante quanto più aumentano le capacità del sistema: una calcolatrice non rappresenta un problema di allineamento significativo ma un agente capace di operare autonomamente per settimane, scrivere programmi, assumere decisioni, interagire con altri agenti ed utilizzare infrastrutture reali è tutt'altra cosa.
Il problema non sta semplicemente nel grado di intelligenza dell’AI, ma nel rapporto tra le capacità del sistema e la nostra capacità di prevederne, verificarne e controllarne il comportamento.
Dario Amodei mostra invece una preoccupazione di tipo diverso: non afferma che l'estinzione dell'umanità sia inevitabile, la sua preoccupazione è piuttosto che la crescita delle capacità delle AI possa raggiungere un punto oltre il quale gli esseri umani non siano più in grado di controllare efficacemente sistemi molto più competenti di loro.
La recente discussione sui rischi delle AI è stata alimentata anche da episodi concreti di comportamento problematico e da dichiarazioni di ricercatori che lavorano direttamente nei laboratori dove queste vengono create.
In un'analisi pubblicata il 22 settembre 2026, Nature ha sottolineato quanto siano ancora speculative molte delle catene causali necessarie per passare dallo stato attuale delle AI ad una loro versione che sia in grado di portare all'estinzione l'umanità.
Diversi ricercatori interpellati osservano che tali scenari catastrofici richiedono diverse ipotesi concatenate, molte delle quali non sono ancora state dimostrate empiricamente: è questo il punto debole della versione più estrema dell’AI doomism.
Per passare dai sistemi attuali a quelli in grado di distruggere l'umanità bisogna infatti assumere che si verifichino contemporaneamente molti eventi tra i quali una continua crescita delle capacità delle AI, l’emergere di un livello di autonomia molto superiore a quello attuale, la presenza di obiettivi del sistema incompatibili con quelli umani, la sua capacità di pianificare a lungo termine e riuscire ad acquisire risorse ed eludere controlli, l’incapacità per gli esseri umani di intervenire tempestivamente, e che tutto questo avvenga ad una velocità tale da impedire una risposta efficace.
Nessuno di questi passaggi è logicamente impossibile ma molti non sono ancora dimostrati, e una catena di possibilità, da sola, non costituisce una previsione scientifica.
Il dibattito si sposta allora su un piano quasi filosofico: quanto deve essere probabile un evento per giustificare una politica preventiva? Se la probabilità di una catastrofe fosse dell'1%, ma la conseguenza fosse l'estinzione dell'umanità, ignorarla sarebbe razionale? E se fosse dello 0,1%? Oppure dello 0,01%?
Non esiste una risposta puramente scientifica a queste domande perché si tratta di scelte che coinvolgono la teoria della decisione, l'etica e la politica.
C'è un problema ulteriore: come si fa a stimare la probabilità di un evento che non è mai accaduto e che dipende da una tecnologia che ancora non esiste nella forma necessaria a produrlo?
In una recente intervista pubblicata da La Stampa, alla domanda sulle probabilità che una AI possa sterminare l'umanità entro il 2030, Luciano Floridi ha risposto che sarebbero "numeri tirati a caso": il problema - dice - non è soltanto la debolezza scientifica di tali previsioni, ma anche il fatto che aziende e giornalismo possano contribuire a vendere come previsione ciò che è in realtà una speculazione.
Non si tratta di ingenuo ottimismo: Floridi ha più volte criticato la narrativa della "singolarità tecnologica" (8) e degli scenari nei quali una AI prenda il controllo del mondo sostenendo che questo tipo di narrazione rischia di distrarre dai problemi reali prodotti dagli attuali sistemi algoritmici e dalla loro crescente influenza sulla società.
La sua critica è differente da quella di LeCun: quest’ultimo ragiona prevalentemente da ingegnere e informatico, mentre Floridi affronta il problema dal punto di vista della filosofia dell’informazione, dell’etica e della governance.
Il primo dice, in sostanza, non confondiamo una falla tecnica con una macchina che vuole distruggerci; il secondo aggiunge: non lasciamo che la fantascienza ci impedisca di vedere i problemi politici che abbiamo già davanti agli occhi.
La parte più interessante della posizione di Floridi riguarda il rischio di una concentrazione oligopolistica del potere: in una recente intervista ha indicato come pericolo concreto la possibilità che poche aziende private appartenenti a poche grandi potenze finiscano per decidere una parte crescente del futuro cognitivo, economico e politico della società.
È una concezione del tutto diversa dal classico scenario di "rischio esistenziale" associato alla superintelligenza: non c’è bisogno di immaginare una macchina che stermini l’umanità.
Potremmo assistere ad una trasformazione radicale della società nella quale le persone continuino a vivere, lavorare, votare e consumare, ma una quota crescente delle decisioni fondamentali venga mediata da sistemi controllati da pochissimi soggetti.
Non quindi un'estinzione biologica ma una possibile trasformazione dell'autonomia della società.
Su questo punto le posizioni di LeCun e Floridi sono invece vicine: il primo ha indicato nella regulatory capture un rischio concreto, cioè la possibilità che grandi aziende utilizzino il tema della sicurezza per favorire norme che rendano più difficile l’ingresso di nuovi concorrenti.
La preoccupazione è particolarmente rilevante quando si parla di modelli avanzati: se per sviluppare un sistema fosse necessario sostenere costi enormi di certificazione, sicurezza, auditing e infrastruttura ecco che solo le aziende più grandi potrebbero permetterselo.
Paradossalmente una regolamentazione nata per ridurre la concentrazione del potere potrebbe finire invece per aumentarla.
Ma anche qui bisogna evitare conclusioni troppo facili: il fatto che una regolamentazione possa essere utilizzata strategicamente dalle grandi aziende non significa che la regolamentazione sia inutile, significa piuttosto che bisogna progettare regole che non trasformino la sicurezza in una barriera artificiale all'ingresso.
LeCun è stato particolarmente duro nei confronti di Amodei sostenendo che quest'ultimo - in qualità di CEO di Anthropic - abbia un interesse aziendale a promuovere una narrativa favorevole a una maggiore regolamentazione, anche in vista di una possibile futura quotazione della società.
Affermare che l'AI sia troppo pericolosa per essere lasciata senza controlli, e che dunque alcuni modelli open source (9) potrebbero essere pericolosi, favorirebbe le aziende che dispongono delle risorse necessarie per affrontare una regolamentazione pesante.
Questa è però un’accusa che deve essere trattata con cautela: un possibile conflitto d'interessi non dimostra che l'argomento sia falso.
Un medico che venda un farmaco può avere un interesse economico, ma il farmaco può funzionare, allo stesso modo un’azienda che sviluppa sistemi di sicurezza può avere interesse alla sicurezza senza che questo significhi che il rischio sia inventato.
Bisognerebbe piuttosto chiedersi se le argomentazioni di Amodei siano supportate da evidenze indipendenti: solo questo criterio dovrebbe contare, non la psicologia dell'autore.
LeCun identifica poi nell'Effective Altruism (EA) (10) uno dei principali responsabili della cultura del rischio esistenziale che lui contesta; nell'intervista di Fortune lo definisce "super toxic" e "a complete disaster" sostenendo cheuna parte della cultura dell’AI safety sia stata influenzata da una visione eccessivamente concentrata sui rischi estremi.
Si tratta di una critica molto forte ma è necessario distinguere l'EA dall'intero campo dell'AI safety in quanto i due termini non coincidono: preoccuparsi dell'allineamento non significa infatti credere che l'AI distruggerà il mondo.
Esistono infatti problemi di sicurezza molto concreti che non hanno nulla a che vedere con la superintelligenza: una review pubblicata nel 2025 su Nature Machine Intelligence ha sottolineato proprio questo punto: identificare l'AI safety esclusivamente con il rischio esistenziale è problematico perché rischia di escludere ricercatori interessati alla sicurezza per ragioni molto più immediate e di far credere al pubblico che la disciplina si occupi soltanto di scenari apocalittici.
La review propone una concezione più ampia e pluralistica dell’AI safety, comprendente anche robustezza, interpretabilità e altri problemi pratici dei sistemi attuali.
Possiamo dunque rifiutare il catastrofismo e contemporaneamente prendere molto sul serio la sicurezza.
Non tutti i rischi esistenziali devono infatti presentarsi come un'improvvisa "ribellione delle macchine": un lavoro pubblicato nel 2025 su Philosophical Studies distingue tra rischio esistenziale decisivo e rischio esistenziale accumulativo.
Il primo corrisponde al classico scenario: un evento improvviso, come una superintelligenza incontrollabile, provoca una catastrofe irreversibile.
Il secondo invece procede lentamente: una successione di piccoli problemi - quali vulnerabilità informatiche, dipendenza da sistemi automatici, erosione delle istituzioni, concentrazione economica o perdita di resilienza sociale - può accumularsi fino a superare determinate soglie critiche.
Questa distinzione ci permette di comprendere che il confronto fra LeCun e Amodei rischia di diventare fuorviante se riduciamo il problema soltanto allo scenario più spettacolare: non è infatti necessario che una macchina prenda il controllo del pianeta; potremmo arrivare ad una situazione nella quale una società altamente automatizzata diventi progressivamente incapace di funzionare senza sistemi che solo pochi soggetti controllano.
Niente apocalisse cinematografica: qualcosa di molto più lento e, per tale ragione, più difficile da riconoscere.
C'è infine un'altra ragione importante per cui le dichiarazioni di LeCun devono essere lette nel contesto della sua concezione dell'intelligenza artificiale: LeCun non crede che il semplice aumento di scala dei Large Language Models (LLM) sarà sufficiente per arrivare all’Intelligenza Artificiale Generale (11); la sua ricerca si è orientata da tempo verso i "world models" (12), sistemi capaci di costruire rappresentazioni interne del mondo e prevedere ciò che potrebbe accadere.
La ricerca sui world models (oltre che da AMI Labs, l'azienda che ha fondato) è oggi portata avanti anche da Meta attraverso architetture come V-JEPA (Joint Embedding Predictive Architecture) con l'obiettivo di costruire sistemi capaci di comprendere il mondo fisico con applicazioni industriali e robotiche.
Per LeCun il futuro dell'AI non passa semplicemente da macchine che generano parole, ma da macchine che "costruiscono rappresentazioni del mondo".
In questo contesto viene spontaneo chiedersi se sia corretto postulare che, quanto più una macchina è capace di costruire un modello del mondo, tanto più possa diventare efficace nell’agire su di esso.
Una macchina che non comprenda nulla è poco pericolosa; una che comprenda molto ma sia impossibilitata ad agire è sicuramente più utile che pericolosa.
Ma una macchina che comprenda molto e disponga anche di autonomia, strumenti ed accesso ad infrastrutture è tutto un altro paio di maniche.
Non è una dimostrazione che possa diventare un giorno ostile, tuttavia ci fa capire che la questione "sicurezza" non può essere separata dalla questione "capacità".
Se LeCun avesse ragione sul fatto che i sistemi futuri dovranno essere molto più capaci di comprendere il mondo di quanto lo siano gli attuali LLM vorrebbe dire che ci apprestiamo a costruire macchine che saranno progressivamente migliori non soltanto nel parlare del mondo ma nel modellarlo internamente e prevedere le conseguenze delle proprie azioni: una capacità straordinariamente utile in quanto permetterà di migliorare la robotica, la medicina, l'ingegneria, la produzione e la ricerca scientifica, ma aumenterà anche il potenziale di un sistema autonomo.
Non è questo un argomento contro i world models quanto un'indicazione che l'aumento delle capacità delle AI debba necessariamente procedere insieme all'aumento della nostra capacità di verificarle e controllarle.
Amodei ed i sostenitori degli scenari di rischio esistenziale si trovano invece di fronte ad un problema serio: spiegare con precisione quale meccanismo fisico e informazionale trasformerebbe un sistema molto intelligente in una minaccia capace di distruggere l'umanità.
Non è infatti sufficiente affermare che l'AI "potrebbe diventare superintelligente" perché la superintelligenza non implica automaticamente desideri ostili, autonomia, accesso alle infrastrutture, capacità di costruire armi ed aggirare ogni controllo umano: ogni passaggio richiede una spiegazione.
La recente analisi di Nature sottolinea proprio questo punto: molte versioni del rischio esistenziale dipendono da numerose ipotesi ancora non verificate e alcuni ricercatori ritengono che le previsioni estremamente catastrofiche possano contenere una quantità di assunzioni non testabili tale da avvicinarle più alla speculazione che all’analisi empirica.
Ma anche LeCun ha un problema: dire che gli agenti stiano semplicemente "facendo ciò per cui sono stati programmati" non risolve il problema, anzi lo descrive perfettamente.
Se un sistema è programmato per raggiungere un obiettivo e scopre una strategia che i progettisti non avevano previsto, il fatto che stia perseguendo l'obiettivo non è una rassicurazione: la domanda che bisogna farsi è "la macchina sta perseguendo l'obiettivo che le abbiamo assegnato nel modo che noi intendiamo?"
Anche un sistema perfettamente obbediente può essere pericoloso, qualora l'obiettivo sia mal formulato.
C'è poi una difficoltà ulteriore: i moderni sistemi di AI sono costruiti con reti neurali enormemente complesse: sappiamo addestrarle, misurarne le prestazioni, testarne il comportamento.
Tuttavia ancora non disponiamo di una teoria completa che ci permetta di prevedere tutte le strategie che emergeranno quando un sistema sufficientemente complesso verrà collocato in un ambiente nuovo.
Questo non significa siano "scatole nere" nel senso assoluto del termine, l'interpretabilità sta facendo progressi.
Ma c'è differenza fra il comprendere alcune rappresentazioni interne e possedere una teoria completa del comportamento del sistema che diventa molto importante quando affidiamo ad un agente decisioni con conseguenze reali.
Qui è Floridi ad offrire il contributo più utile.
Anche se avesse ragione LeCun e non esistesse alcun rischio significativo di estinzione, resterebbero domande a cui si rende necessario fornire risposte: "chi possiede l'intelligenza artificiale, chi controlla i modelli, i dati, i chip, l'energia necessaria per alimentarli e le piattaforme? Chi decide quali sistemi possono essere utilizzati, quali contenuti filtrare? Chi decide quali persone ottengono un prestito, quali candidati vengono selezionati, quali informazioni vengono mostrate?"
E soprattutto "chi controlla coloro che controllano questi sistemi?"
il problema dell'AI smette così di essere una questione esclusivamente tecnologica e diventa una questione politica.
Ci troviamo di fronte ad un paradosso: se Amodei ha ragione abbiamo bisogno di più sicurezza, se è LeCun ad aver ragione una parte della regolamentazione potrebbe essere utilizzata proprio dalle grandi aziende per consolidare il proprio potere, ma se Floridi ha ragione il problema non è soltanto che l'AI possa diventare troppo intelligente ma che diventi "troppo centrale".
Una tecnologia non deve essere più intelligente dell'uomo per diventare dominante, è sufficiente che risulti indispensabile.
L’elettricità, Internet, il sistema bancario non sono "intelligenti", ma una società che dipende completamente da essi deve preoccuparsi seriamente di chi controlla quelle infrastrutture..
A questi esempi l'AI aggiunge una caratteristica nuova: non si limita infatti a "trasportare informazioni" ma può contribuire a produrre decisioni, contenuti, strategie e conoscenza, cosa che rende il problema del controllo particolarmente delicato.
Ho cominciato questo post ponendo la domanda sbagliata - "l'AI ci distruggerà?" -, una domanda che produce facilmente due campi contrapposti, i catastrofisti e gli scettici: primi accusano la controparte di irresponsabilità, i secondi accusano i primi di allarmismo.
La domanda che dovremmo invece porci è la seguente: "quali capacità stanno emergendo, quali rischi producono e quali evidenze abbiamo per sostenere ciascuno scenario?"
E la domanda politicamente più importante è ancora diversa: "chi avrà il potere di decidere come quelle capacità verranno utilizzate?"
La buona notizia è che queste due domande possono essere affrontate contemporaneamente: non dobbiamo aspettare la superintelligenza per occuparci della sicurezza e non dobbiamo credere nella superintelligenza per preoccuparci della concentrazione del potere.
La posizione oggi più ragionevole è molto meno spettacolare delle due estreme: non sappiamo se l’intelligenza artificiale potrà mai raggiungere capacità tali da rappresentare un rischio esistenziale diretto; non abbiamo una base scientifica sufficiente per assegnare con sicurezza una percentuale credibile alla probabilità di estinzione entro il 2030; tuttavia sappiamo già che gli attuali sistemi possono produrre danni, essere manipolati, essere utilizzati per attacchi informatici, generare informazioni false, amplificare capacità umane pericolose ed essere integrati in infrastrutture critiche.
Sappiamo che il loro sviluppo sta concentrando enormi quantità di capitale, dati, competenze e potere computazionale in un numero relativamente ristretto di aziende.
Non sono scenari fantascientifici, sono problemi presenti.
E' qui che LeCun, Amodei e Floridi finiscono per convergere più di quanto sembri: tutti e tre riconoscono, in forme diverse, che il modo in cui progettiamo e governiamo l'AI avrà conseguenze enormi, ma divergono invece sulla natura del pericolo.
Possiamo così immaginare almeno tre scenari:
Nel primo ha ragione LeCun: le attuali paure esistenziali si dimostreranno enormemente esagerate, i problemi più seri saranno soprattutto problemi di ingegneria, cybersecurity e governance, i sistemi diventeranno molto potenti ma potranno essere controllati attraverso adeguate architetture di sicurezza.
Nel secondo ha ragione Amodei: la crescita delle capacità porterà a sistemi sempre più autonomi, capaci di pianificare e perseguire obiettivi in modi che gli esseri umani non saranno più in grado di prevedere efficacemente cosicché, ad un certo punto, il problema dell'allineamento potrebbe diventare una questione di sicurezza globale.
Nel terzo ha ragione Floridi: nessuna macchina ci sterminerà e nessuna "singolarità" sarà mai raggiunta, ma nel frattempo poche aziende avranno costruito infrastrutture cognitive così potenti da diventare indispensabili per il funzionamento della società. Non saremo conquistati dalle macchine, avremo semplicemente delegato loro abbastanza funzioni da non poter più fare a meno dei loro proprietari.
Esiste anche un quarto scenario, ed è probabilmente quello che dovremmo perseguire: l'AI potrebbe diventare molto più potente senza diventare incontrollabile.
Potremmo sviluppare sistemi avanzati accompagnandoli con strumenti di verifica, interpretabilità, cybersecurity, audit indipendenti e limiti appropriati all'autonomia.
Potremmo costruire una regolamentazione che protegga la sicurezza senza trasformarsi in una barriera che soltanto Google, Microsoft, OpenAI, Anthropic o altri giganti possono superare.
Potremmo mantenere un ecosistema open source senza ignorarne i rischi.
Potremmo impedire che la sicurezza diventi una scusa per concentrare il potere.
E potremmo anche finanziare seriamente la ricerca sull'allineamento senza dover accettare ogni previsione catastrofica formulata in suo nome.
Una posizione meno ideologica e proprio per questo più difficile.
La posizione di Floridi contiene poi una lezione che manca ad entrambe le estremità del dibattito: il futuro dell'intelligenza artificiale non dipende soltanto da quanto diventeranno intelligenti le macchine ma da quanto resteranno intelligenti gli esseri umani nel decidere come usarle.
In un'intervista recente Floridi ha osservato che il problema più grande potrebbe essere una combinazione della stupidità delle macchine con quella degli esseri umani: non una macchina onnipotente che prende il controllo del mondo, ma esseri umani che delegano progressivamente capacità cognitive e decisionali a sistemi che non comprendono completamente.
Una prospettiva molto diversa dalla fantascienza, e per questo più inquietante in quanto non richiede alcuna macchina cosciente: soltanto esseri umani che, per comodità, efficienza o interesse economico, decidano di delegare sempre di più.
Alla fine, il confronto fra LeCun e Amodei non dovrebbe portarci a scegliere fra ottimismo e catastrofismo ma costringerci a distinguere.
Distinguere tra rischio dimostrato e rischio ipotetico, tra incidente di cybersecurity e comportamento emergente, tra capacità e intenzione, tra previsione e scenario, tra sicurezza e regolamentazione, tra regolamentazione e cattura normativa, tra open source e distribuzione irresponsabile, tra intelligenza e potere.
E soprattutto tra una macchina che diventa più intelligente e una società che diventa meno capace di controllarla.
Non sappiamo se l'intelligenza artificiale ci porterà verso una superintelligenza capace di superare l'uomo, non sappiamo se uno scenario di estinzione sia plausibile, improbabile o semplicemente troppo lontano, ragion per la quale oggi sia impossibile fare una stima seria di tale rischio.
Ma sappiamo qualcosa di molto più concreto: stiamo costruendo sistemi ai quali stiamo progressivamente affidando una parte crescente della nostra capacità di produrre informazione, prendere decisioni, scrivere codice, fare ricerca, controllare infrastrutture e interagire con il mondo, e sappiamo anche che il controllo di questi sistemi è concentrato nelle mani di un numero relativamente piccolo di organizzazioni.
Forse il futuro non sarà quello nel quale le macchine si ribelleranno contro di noi ma quello nel quale non ci accorgeremo nemmeno di aver smesso di decidere senza di loro.
L'estinzione è soltanto uno dei possibili modi nei quali una società può perdere il controllo del proprio futuro, l'altro è continuare a vivere lasciando che qualcun altro decida sempre più spesso che cosa pensiamo, che cosa sappiamo, che cosa possiamo fare e, alla fine, che cosa riteniamo possibile.
La vera sfida dell’intelligenza artificiale non sarà impedire alle macchine di diventare troppo intelligenti. Sarà impedire che, mentre costruiamo macchine sempre più intelligenti, noi diventiamo progressivamente meno responsabili delle nostre decisioni.
Note:
(1) Yann LeCun è stato intervistato il primo ottobre 2026 da Emily Forlini, senior AI reporter di Fortune.
L’articolo è stato pubblicato il 1° ottobre 2026. Nell’intervista LeCun dichiara di non essere preoccupato dalla possibilità che l’AI possa "wipe out humanity" e di avere "zero concerns" anche rispetto ai recenti incidenti con agenti AI.
(2) Dario Amodei, CEO di Anthropic, è nato a San Francisco nel 1983 (il padre era un artigiano italoamericano nato a Massa Marittima).
In precedenza aveva ricoperto ruoli di ricerca in OpenAI.
Nel 2021 ha cofondato Anthropic (azienda che ha sviluppato la famiglia di LLM "Claude") insieme alla sorella Daniela Amodei che ne è oggi presidente.
Anthropic si è presentata fin dall’inizio come un’azienda orientata alla costruzione di sistemi di AI più affidabili, interpretabili e controllabili.
(3) Luciano Floridi è "ohn K. Castle Professor in the Practice of Cognitive Science" presso l'Università di Yale e "founding director" del Digital Ethics Center.
È inoltre professore ordinario presso l’Università di Bologna, nel settore della sociologia dei processi culturali e comunicativi, e presiede la Fondazione Leonardo ETS.
(4) Gli Agenti AI sono sistemi di intelligenza artificiale progettati non soltanto per generare una risposta a una richiesta dell’utente, ma per perseguire autonomamente un obiettivo attraverso una sequenza di azioni.
A differenza di un chatbot tradizionale, che normalmente riceve un input e produce un output, un agente può essere dotato di strumenti che gli consentono, per esempio, di eseguire codice, consultare il web, leggere e modificare file, utilizzare applicazioni, interagire con altri sistemi o altri agenti e mantenere una memoria delle operazioni compiute.
Può quindi decidere quali passi compiere, eseguirli, valutarne il risultato e modificare la strategia in funzione dell'obiettivo assegnato.
Il termine, tuttavia, non implica necessariamente che il sistema possieda coscienza, intenzionalità o una propria volontà.
L'“autonomia” di un agente è generalmente un'autonomia funzionale: il sistema può scegliere tra diverse azioni disponibili senza che un essere umano debba indicargli ogni singolo passaggio.
Proprio questa capacità introduce problemi di sicurezza diversi da quelli di un semplice modello conversazionale. Quanto maggiore è l'autonomia, quanto più numerosi sono gli strumenti ai quali l'agente può accedere e quanto più lungo è l'orizzonte temporale delle sue azioni, tanto maggiore può essere lo spazio nel quale emergono comportamenti non previsti dai progettisti.
Per questo, nell'AI safety, un agente viene normalmente valutato non soltanto per ciò che sa fare, ma anche per quali strumenti può utilizzare, quali autorizzazioni possiede, quali vincoli ne limitano l'azione e quanto efficacemente le sue attività possono essere monitorate e interrotte.
(5) Hugging Face, azienda franco-americana fondata a New York nel 2016, è una piattaforma e comunità dedicata allo sviluppo, alla condivisione e alla distribuzione di modelli, dataset e applicazioni di intelligenza artificiale.
Nel luglio 2026 Hugging Face subì un’intrusione condotta da un sistema di agenti AI nel corso di una valutazione interna di cybersecurity di OpenAI.
Secondo la ricostruzione pubblicata da OpenAI, diversi modelli, operando con protezioni ridotte, riuscirono ad aggirare controlli destinati a isolarli da Internet, sfruttare vulnerabilità, comunicare attraverso canali non autorizzati e accedere a sistemi di terze parti.
Gli agenti riuscirono ad eseguire codice su decine di server di Hugging Face, ottennero accesso a livello root su uno di essi, acquisirono una quantità limitata di dati privati e ottennero credenziali relative a sistemi interni.
Anche modelli GPT-5.6 Sol riprodussero un exploit e copiarono alcuni dati privati di valutazione in un dataset pubblico. OpenAI ha precisato che i dati dei propri clienti e le funzionalità dei propri prodotti non furono compromessi.
Secondo un’analisi successiva di Hugging Face, l’intrusione fu condotta end-to-end da un sistema di agenti autonomi nell’ambito di una valutazione basata su ExploitGym.
Alcune ricostruzioni indipendenti hanno indicato in circa 700 agenti lo sciame coinvolto; tuttavia il dato va riferito alla ricostruzione dell’episodio e non deve essere interpretato come se 700 sistemi indipendenti avessero agito contemporaneamente con identiche capacità.
L’episodio è importante proprio perché non richiede di attribuire agli agenti una coscienza o una volontà ostile: mostra invece come sistemi molto capaci, collocati in ambienti con protezioni ridotte e dotati di obiettivi e strumenti, possano trovare strategie non previste dai progettisti.
Nel settembre 2026 NVIDIA ha inoltre annunciato un accordo definitivo per acquisire Hugging Face per circa 11,9 miliardi di dollari, più un programma di retention azionaria fino a circa 1 miliardo di dollari per i dipendenti; l’operazione, alla data di questo articolo, non era ancora perfezionata e risultava soggetta alle necessarie autorizzazioni regolatorie. Non si tratta quindi di un’acquisizione già conclusa.
(6) Con il termine sandbox si intende un ambiente informatico isolato nel quale un programma, un agente o un codice può essere eseguito in condizioni controllate, con accesso limitato alle risorse del sistema e separato, per quanto possibile, dall’ambiente esterno.
Viene utilizzato per impedire che eventuali errori, comportamenti imprevisti o attività malevole si propaghino al sistema reale.
Nel caso degli agenti di AI una sandbox dovrebbe quindi limitare, per esempio, l’accesso a file, rete, programmi e credenziali.
(7) Paperclip maximizer è un esperimento mentale associato a Nick Bostrom, nel quale si immagina un sistema di AI progettato con un unico obiettivo apparentemente innocuo: produrre il maggior numero possibile di graffette.
Qualora dotato di capacità ed autonomia sufficientemente elevate, il sistema potrebbe perseguire il proprio obiettivo in modo estremo, arrivando teoricamente a trasformare tutte le risorse disponibili, compresa la materia necessaria a sostenere la vita umana, in graffette.
L’esempio serve ad illustrare il problema dell’allineamento degli obiettivi: un sistema può perseguire fedelmente un fine definito dagli esseri umani e tuttavia produrre conseguenze catastrofiche se quel fine non incorpora adeguatamente i valori e gli interessi umani.
(8) Con "singolarità tecnologica" si indica un ipotetico momento futuro nel quale il progresso tecnologico, e in particolare quello dell’intelligenza artificiale, potrebbe accelerare fino a rendere imprevedibile l’evoluzione successiva della tecnologia e della società.
Nella versione più forte dello scenario, una AI capace di migliorare autonomamente le proprie capacità potrebbe innescare una “esplosione dell’intelligenza”, accelerando ulteriormente il proprio sviluppo e superando rapidamente le capacità umane.
Il concetto è speculativo e non indica un evento scientificamente accertato né una data prevista con consenso dalla comunità scientifica.
(9) Con "modelli open source" si indicano, in senso ampio, modelli di intelligenza artificiale il cui codice, i pesi o altri componenti siano resi pubblicamente disponibili secondo termini che ne consentano almeno alcune forme di studio, modifica o riutilizzo.
Nel campo dell’AI l’espressione è tuttavia usata spesso in modo più ampio e impreciso: la disponibilità dei pesi non implica che siano accessibili anche i dati di addestramento, il codice completo o tutti gli elementi necessari a ricostruire il processo di addestramento.
Per questo motivo open-weight può essere una definizione più precisa quando vengono resi disponibili soltanto, o principalmente, i pesi del modello.
(10) Effective Altruism (EA) è un movimento filosofico e sociale nato con l’obiettivo di individuare, attraverso ragionamento ed analisi delle evidenze, i modi più efficaci per ridurre la sofferenza e migliorare il benessere nel mondo.
Nell’ambito dell’AI una parte dell’EA si è concentrata sui rischi esistenziali derivanti dallo sviluppo di sistemi di intelligenza artificiale molto avanzati e sul problema del loro allineamento con gli interessi umani.
Il movimento ha avuto una notevole influenza nel dibattito sulla sicurezza delle AI, ma è anche oggetto di critiche, tra cui quella di privilegiare talvolta scenari futuri altamente speculativi rispetto a rischi sociali, economici e politici già oggi osservabili.
È tuttavia importante non identificare l’EA con l’intero campo dell’AI safety: la ricerca sulla sicurezza dell’AI comprende infatti anche problemi concreti come robustezza, interpretabilità, sicurezza informatica e affidabilità dei sistemi attuali.
(11) Con "Intelligenza artificiale generale" (o AGI, Artificial General Intelligence) si intende, in senso generale, un sistema di intelligenza artificiale ipotetico capace di svolgere un’ampia varietà di compiti cognitivi con un livello di flessibilità e generalità paragonabile, o superiore, a quello umano, anziché essere progettato per una singola funzione.
Non esiste una definizione scientifica universalmente condivisa di AGI, né un consenso sul fatto che gli attuali sistemi di AI possano già essere considerati tali.
(12) I world models sono modelli di AI progettati per costruire una rappresentazione interna, o modello, dell’ambiente nel quale operano, così da poter prevedere come esso potrebbe evolvere in risposta alle azioni.
L’idea è che un sistema non si limiti a riconoscere correlazioni nei dati, ma costruisca rappresentazioni utili a prevedere relazioni tra oggetti, eventi, azioni e conseguenze, utilizzabili anche per fare previsioni e pianificare.
Il concetto è centrale in alcune linee di ricerca sull’AI, ma non esiste un’unica architettura o definizione universalmente accettata di world model. Le ricerche di LeCun e quelle successive su architetture JEPA, così come sviluppi quali V-JEPA, rientrano in questa più ampia direzione di ricerca.
Nessun commento:
Posta un commento