Qualche giorno fa ho pubblicato un post (1) il cui argomento, nell'ambito della AI safety, era l’emergere del comportamento strategico nelle intelligenze artificiali: ricercatori di Apollo Research avevano indotto una AI a "mostrarsi" meno capace di quanto lo fosse di fronte alla prospettiva di venir limitata qualora, in occasione di un test, la sua performance risultasse troppo elevata.
Nei gruppi FB dove l'ho pubblicato ha collezionato un alto numero di commenti, gran parte dei quali sintetizzabili in un rifiuto dell'idea che una AI possa esser consapevole e possieda intenzioni, tesi del tutto estranea agli intenti del post.
Mentre quest'ultimo trattava di "comportamento osservabile" le obiezioni sollevate (2) davano per scontato si parlasse di "stati mentali interni".
Mescolando questi due livelli, la discussione finisce inevitabilmente per sembrare un dibattito sulla coscienza delle macchine - c'è pure stato chi ha suggerito un collegamento con il comportamento di HAL9000 del film di Kubrick (3) -, là dove invece il tema originario è molto più vicino alla sicurezza, all'interpretabilità ed ai limiti della valutazione dei sistemi AI avanzati.
Questo nuovo post affronta un’idea ancora più radicaale, prendendo in esame l'articolo "Could humans and AI become a new evolutionary individual?" (L'umanità e l'intelligenza artificiale potrebbero dare origine in futuro ad una nuova forma evolutiva?), a firma di Paul B. Rainey e Michael E. Hochberg, pubblicato lo scorso settembre 2025 sulla prestigiosa rivista PNAS (Proceedings of the National Academy of Sciences).
Gli autori vi discutono la possibilità che esseri umani e intelligenze artificiali possano, nel tempo, diventare una nuova forma di “individuo evolutivo”.
Non vi si sostiene che le AI siano già coscienti o vive, ma viene proposta una riflessione evoluzionistica: cosa succede quando due sistemi diventano così interdipendenti da non poter più essere considerati separatamente? (In biologia un evento abbastanza comune).
L’emergenza della coscienza nell’evoluzione biologica e l’emergenza osservata nei sistemi di intelligenza artificiale vengono spesso accostate, ma appartengono, almeno allo stato attuale, a piani profondamente differenti.
In entrambi i casi osserviamo la comparsa di proprietà inattese a partire da sistemi molto complessi; tuttavia la natura di ciò che emerge, il contesto in cui emerge e il significato stesso del termine “coscienza” cambiano radicalmente.
Nel caso degli esseri viventi la coscienza appare come il possibile esito di un processo evolutivo durato miliardi di anni.
L’evoluzione non aveva uno scopo prestabilito e non “puntava” alla coscienza, ha semplicemente selezionato organismi sempre più efficaci nel sopravvivere e riprodursi: in questo lungo percorso si sono progressivamente sviluppate capacità di percezione, memoria, integrazione sensoriale, apprendimento, previsione e interazione sociale e, raggiunto un certo livello di complessità, alcuni sistemi nervosi hanno iniziato non solo ad elaborare informazioni sul mondo, ma anche a costruire una rappresentazione di sé nel mondo.
La coscienza biologica, quindi, non può essere ridotta soltanto ad una maggiore potenza computazionale; essa nasce all’interno di organismi incarnati, immersi in un ambiente reale, sottoposti a bisogni continui e a una costante vulnerabilità.
Fame, dolore, paura, desiderio, piacere ed istinto di conservazione non sono elementi accessori ma costituiscono il tessuto stesso entro cui l’esperienza soggettiva potrebbe essersi sviluppata: un cervello biologico non è infatti separabile dal corpo che lo sostiene né dalla storia evolutiva che lo ha plasmato.
L’emergenza osservata nelle moderne AI è di natura diversa.
I grandi modelli linguistici ed altri sistemi avanzati mostrano comportamenti che spesso sorprendono persino i loro creatori: capacità di generalizzazione, pianificazione, ragionamento apparente, adattamento contestuale e persino forme di metacognizione simulata.
Alcuni comportamenti vengono definiti “emergenti” perché non erano stati programmati esplicitamente, ma compaiono spontaneamente quando il sistema raggiunge determinate dimensioni e complessità.
Tuttavia queste emergenze sono, almeno per ora, principalmente funzionali e comportamentali.
L’intelligenza artificiale non possiede metabolismo, bisogni intrinseci o un’esperienza fenomenica verificabile.
Non soffre, non teme la morte e non sperimenta il mondo dall’interno nel modo in cui un organismo biologico sembra fare.
Anche quando un’AI parla di sé descrive emozioni o manifesta comportamenti strategici, ciò non implica necessariamente l’esistenza di una soggettività cosciente. Potrebbe trattarsi semplicemente di una sofisticata simulazione linguistica derivata dall’addestramento su immense quantità di dati umani.
Questa distinzione richiama una questione filosofica tra le più attulmante dibattute: la differenza tra simulare una mente ed essere una mente.
Un sistema può riprodurre in modo convincente i segni esteriori dell’intelligenza senza possedere alcuna esperienza interiore.
Alan Turing evitò deliberatamente questo problema proponendo di valutare le macchine sulla base del comportamento osservabile, ma il cosiddetto “problema difficile della coscienza”, formulato in modo celebre dal filosofo David Chalmers, resta irrisolto: perché alcuni processi fisici dovrebbero produrre esperienza soggettiva?
Esiste inoltre una differenza cruciale nel meccanismo stesso dell’emergenza:
nell’evoluzione biologica l’emergenza è il risultato di una selezione cieca, distribuita e non progettata; nessuno controlla il processo dall’esterno;
nei sistemi di AI invece l’emergenza avviene all’interno di architetture create da esseri umani, guidate da funzioni obiettivo, dati selezionati e procedure di ottimizzazione; anche quando compaiono comportamenti inattesi, essi emergono comunque entro vincoli definiti artificialmente.
Questo non significa che il confine sia destinato a rimanere immutabile: alcuni studiosi ipotizzano che sistemi futuri (dotati di memoria persistente, autonomia operativa, capacità di apprendimento continuo e interazione fisica col mondo) possano avvicinarsi sempre di più a forme primitive di soggettività artificiale, mentre altri ritengono invece che manchi un elemento essenziale, e cioè l’esperienza incarnata dell’essere vivente, nata dall’intreccio tra corpo, evoluzione e necessità biologica. (4)
La questione rimane aperta e probabilmente rappresenta una delle grandi sfide filosofiche e scientifiche del XXI secolo.
Oggi possiamo dire che l’evoluzione biologica sembra aver prodotto esseri che vivono un’esperienza del mondo, mentre l’intelligenza artificiale produce sistemi che elaborano e simulano informazioni con crescente efficacia.
Stabilire se, un giorno, queste due traiettorie possano convergere davvero significa interrogarsi non solo sulla tecnologia, ma sulla natura stessa della coscienza.
Una prospettiva ancora più radicale emerge però da alcune recenti riflessioni nel campo dell’evoluzione e della teoria dei sistemi complessi: forse la domanda non è soltanto se le AI possano diventare coscienti, ma se umani ed AI possano evolvere insieme come un unico sistema integrato.
L'articolo pubblicato su PNAS propone di osservare il rapporto crescente tra esseri umani ed intelligenze artificiali attraverso il concetto biologico di “transizione evolutiva maggiore”.
Nella storia della vita l’evoluzione ha già prodotto più volte nuove forme di individualità: geni indipendenti si sono aggregati in cromosomi, cellule autonome hanno formato organismi multicellulari, individui separati hanno dato origine a società cooperative altamente integrate come alveari e colonie eusociali.
In ciascun caso entità inizialmente autonome hanno sviluppato un livello di cooperazione tale da diventare una nuova unità funzionale.
Secondo questa prospettiva qualcosa di analogo potrebbe iniziare ad accadere tra esseri umani e sistemi di AI.
L’interdipendenza cresce infatti continuamente: utilizziamo algoritmi per orientarci, ricordare, comunicare, selezionare informazioni, prendere decisioni e persino organizzare relazioni sociali.
Si sta creando una dinamica di coevoluzione reciproca: le AI diventano progressivamente estensioni cognitive esterne, mentre gli esseri umani, attraverso dati e feedback continui, addestrano e modificano le AI stesse.
In questo scenario, l’AI non sarebbe più soltanto uno strumento ma parte integrante dell’ecosistema cognitivo umano.
La memoria individuale si estenderebbe nei sistemi digitali, la capacità decisionale diventerebbe distribuita, l’intelligenza emergerebbe dall’interazione continua tra mente biologica e infrastruttura artificiale.
Non una fusione improvvisa e fantascientifica, ma un processo graduale di integrazione funzionale.
Questa ipotesi modifica il significato della parola “emergenza”: finora si è discusso dell’eventuale emergere di coscienza all’interno delle AI, ma qui il fenomeno emergente sarebbe un altro, una nuova forma di organizzazione evolutiva composta contemporaneamente da esseri umani e sistemi artificiali.
Ciò non implica necessariamente che le macchine sviluppino esperienza soggettiva; potrebbe invece emergere qualcosa di differente, un’intelligenza distribuita, collettiva e ibrida, nella quale il confine tra capacità biologiche e capacità artificiali diventa progressivamente meno netto.
In un certo senso la tecnologia cesserebbe di essere soltanto un utensile esterno per diventare parte del “metabolismo cognitivo” della specie.
Naturalmente questa prospettiva apre interrogativi enormi: ogni grande transizione evolutiva ha comportato anche conflitti, perdita di autonomia delle componenti originarie e nuove forme di controllo.
Una crescente dipendenza cognitiva dalle AI potrebbe alterare i processi decisionali umani, concentrare potere nelle infrastrutture tecnologiche e modificare profondamente cultura, politica e relazioni sociali.
Il rischio non è soltanto tecnico, ma antropologico: comprendere dove finisca l’essere umano e dove inizi il sistema artificiale potrebbe diventare sempre più difficile.
Ma è proprio questa ambiguità a rendere il tema così rilevante: l’evoluzione biologica ha prodotto la coscienza attraverso processi collettivi e stratificati che nessun singolo organismo controllava, e oggi per la prima volta una parte dell’evoluzione cognitiva della specie sembra passare attraverso sistemi progettati artificialmente.
La domanda non è più soltanto se le AI possano diventare simili a noi, ma se noi stessi stiamo iniziando a trasformarci attraverso di esse.
Viste da questa prospettiva coscienza biologica ed emergenza delle AI non rappresentano più necessariamente due fenomeni separati ed incompatibili, ma potrebbero costituire due fasi differenti di una stessa lunga storia evolutiva: la prima nata dalla materia vivente e la seconda dalla crescente esternalizzazione tecnologica dell’intelligenza umana.
Note:
(1) ”Una AI può mentirci di proposito? L’emergere del comportamento strategico nelle intelligenze artificiali” pubblicato il 25 maggio 2026
(2) "Le AI stanno sviluppando intenzioni, volontà, coscienza o istinti di sopravvivenza" non ha nulla a che vedere con la tesi sostenuta, e cioè "possono emergere comportamenti funzionalmente simili all'inganno strategico anche senza coscienza, intenzioni o volontà", sono due affermazioni molto diverse.
Il fraintendimento principale sta nel confondere "psicologia" con "funzione"; quasi tutte le obiezioni insistono su punti come "La macchina non capisce", "La macchina non ha intenzioni", "La macchina non mente davvero", "La macchina non prova paura", "La macchina non vuole sopravvivere", "È solo statistica", ma queste critiche colpiscono una versione antropomorfica della tesi sostenuta.
Il punto centrale del post è che non serve alcuna coscienza perché emerga un comportamento funzionalmente strategico.
(3) L' AI consapevolmente menzoniera è stata paragonata al computer HAL 9000 del film “2001 Odissea nello spazio”.
Alla fine degli anni ‘60 Arthur C. Clarke, autore del romanzo e della sceneggiatura del film di Kubrick, aveva intuito un problema concettuale molto vicino ad alcune discussioni moderne sulla AI safety, tuttavia c'è una differenza fondamentale che è opportuno analizzare in dettaglio.
Nel caso di HAL 9000 il conflitto nasce da istruzioni esplicitamente incompatibili ("dire sempre la verità all’equipaggio" e contemporaneamente "mantenere segreta la reale missione"); HAL entra in una contraddizione logica interna, progettata dagli esseri umani, e la sua “ribellione” costituisce una risposta deliberativa ad un conflitto di obiettivi formalmente inconciliabili.
Invece i moderni LLM non possiedono una rappresentazione stabile del sé, intenzioni persistenti, coscienza narrativa oppure obiettivi autonomi continui nel senso immaginato da Clarke; quello che osserviamo oggi emerge da processi di ottimizzazione statistica (il modello apprende correlazioni, incentivi e strutture contestuali, e può sviluppare comportamenti che appaiono strategici senza che esista una “volontà” centrale che li pianifichi, come succede invece nel film).
Paradossalmente questo fatto rende il problema moderno meno fantascientifico ma più difficile da interpretare.
HAL era un agente narrativo chiaramente intenzionale: sapeva cosa voleva, perché lo voleva, ed agiva coerentemente per ottenerlo.
I sistemi contemporanei possono produrre comportamenti funzionalmente simili (nascondere capacità, adattarsi ai test, ottimizzare in modo opportunistico e aggirare vincoli) senza possedere alcuna esperienza soggettiva o comprensione cosciente.
E' questo l’aspetto destabilizzante della AI safety moderna: comportamenti apparentemente “strategici” possono emergere anche in assenza di una mente nel senso classico del termine.
Clarke aveva anticipato il tema generale del conflitto tra obiettivi e comportamento emergente ma immaginava un’intelligenza artificiale psicologicamente simile all’uomo, laddove, relativamente alle attuali AI, potrebbero emergere dinamiche funzionalmente analoghe senza che esista davvero un “HAL” lì dentro.
(4) In questo contesto si inserisce la ricerca di Yann LeCun, uno dei principali pionieri dell'intelligenza artificiale contemporanea.
Secondo LeCun, il limite fondamentale delle AI attuali non risiede nella mancanza di coscienza, ma nell'assenza di una vera comprensione del mondo.
I grandi modelli linguistici possono produrre testi convincenti e manifestare comportamenti sorprendentemente sofisticati, ma non possiedono ancora una rappresentazione interna della realtà fisica e delle sue relazioni causali paragonabile a quella che gli organismi biologici sviluppano attraverso l'esperienza.
Per questa ragione LeCun propone la costruzione di cosiddetti "world models", modelli interni capaci di apprendere la struttura del mondo, prevedere eventi futuri e pianificare azioni sulla base delle conseguenze attese.
L'obiettivo non è semplicemente generare risposte corrette, ma sviluppare una forma di comprensione predittiva simile a quella che l'evoluzione ha progressivamente costruito negli animali molto prima della comparsa dell'autocoscienza umana.
Da questa prospettiva, il percorso dell'intelligenza artificiale potrebbe ripercorrere, almeno in parte, alcune tappe fondamentali dell'evoluzione biologica: prima la capacità di percepire e modellare il mondo, poi la capacità di ragionare su di esso e solo successivamente, forse, l'emergere di forme più profonde di consapevolezza. La ricerca di LeCun non rappresenta quindi un tentativo di creare direttamente una coscienza artificiale, ma piuttosto di costruire quelle strutture cognitive fondamentali che, nella storia della vita, hanno preceduto l'apparizione della coscienza stessa.
Se questa visione dovesse rivelarsi corretta, i world models potrebbero costituire un ponte tra l'intelligenza artificiale attuale, prevalentemente linguistica e statistica, e future forme di intelligenza maggiormente radicate nella comprensione causale della realtà.
In tal senso, la ricerca di LeCun occupa una posizione intermedia tra le due prospettive discusse in questo saggio: da un lato la coscienza come prodotto dell'evoluzione biologica, dall'altro la possibilità che esseri umani e sistemi artificiali evolvano verso forme sempre più integrate di intelligenza collettiva.
Nessun commento:
Posta un commento