Qualche giorno fa ho pubblicato un post in cui trattavo del riconoscimento ottico; in particolare delle strategie selezionate dall'evoluzione per dotarci di un "apparato di raccolta dati" ottimizzato per la sopravvivenza della nostra specie, confrontandolo poi con le attuali capacità di cui sono dotate le AI basate su reti neurali profonde (deep learning) capaci di apprendimento autonomo.
Concludevo il post evidenziando il genere di errori in cui incorrono gli algoritmi nel portare a termine tale compito, errori ben diversi da quelli in cui incorre un cervello biologico, e che ne evidenziano il limite comune a tutte quante le AI: non disponendo di un modello della realtà esterna cui far riferimento esse non sono in grado di contestualizzare, quindi non resta loro che trovare correlazioni "forti" ed utilizzarle per "azzardare una risposta".Ho aperto il precedente post richiamando l'affermazione di Gerd Gigerenzer: "l'intelligenza umana si è evoluta per gestire le situazioni di incertezza"; è arrivato il momento di specificare quali siano le particolari abilità mentali che ci distinguono dalle AI:
- Il pensiero causale.
Sin da bambino un individuo della nostra specie impara a chiedere "perché": "perché dopo il giorno viene sempre la notte?", "perché devo stare attento al cane del vicino?", "perché le piante sono verdi?", ...
La curiosità relativa alle cause, invece che alle semplici associazioni, è caratteristica della nostra specie (1) ed è pure il fondamento di ogni scienza.
Tuttavia è bene ricordare che il pensiero causale può anche dar luogo alla nascita di superstizioni qualora si attribuisca ad un evento una sua causa errata (2).
- La psicologia intuitiva.
Sin dall'infanzia sappiamo che anche "gli altri" provano sentimenti ed hanno intenzioni, e di conseguenza sviluppiamo la capacità di "metterci nei panni del prossimo".
La mancata insorgenza di tale capacità in età precoce è sintomo della presenza di disturbo autistico.
- La fisica intuitiva.
I bambini sviluppano quella che possiamo chiamare "fisica intuitiva", e cioè comprendere le basi del tempo e dello spazio; sanno che un solido non può attraversarne un altro solido (pur senza conoscere il principio di esclusione di Pauli), che gli oggetti perdurano nel tempo ("la Luna esiste anche quando non la guardiamo") e che non è possibile tornare indietro nel tempo.
- La socialità intuitiva.
Dai tre anni in poi gli individui della nostra specie sono motivati a seguire le norme del gruppo (cooperazione e competizione); sviluppano - e difendono - criteri morali.
Gigerenzer definisce l'insieme di queste quattro abilità con il termine "buon senso":
"... il buon senso è la conoscenza condivisa sulle persone e sul mondo, resa possibile dal cervello biologico, e richiede un'esperienza limitata ..."
Nasce da una mescolanza di predisposizioni genetiche individuali e di apprendimento sociale, e può esser esercitato intuitivamente (sappiamo distinguere un sorriso sincero da uno di cortesia pur senza saper spiegare come si faccia) o per valutazione deliberata.
Il "buon senso" manca completamente alle intelligenze artificiali: sinora nessuno sa come riuscire a dotarle di tale caratteristica indispensabile per agire in un mondo mutevole ed in parte ignoto.
L'intelligenza artificiale, da parte sua, possiede tre abilità a noi precluse:
- il calcolo veloce.
Indispensabile per le performances dei motori di ricerca e per vincere contro campioni umani in giochi quali Scacchi e Go.
Le AI giocatrici vincono con facilità quando le situazioni sono ben definite, "stabili" (3), ed hanno nel contempo a disposizione enormi quantità di dati su cui addestrarsi; condizioni opposte a quelle in cui ci troviamo a vivere noi "umani", con un ambiente mutevole e pochi dati a disposizione.
- la scoperta di associazioni nei big data.
Il calcolo veloce permette alle Ai di individuare, all'interno di enormi depositi di informazioni, correlazioni che sfuggono ad un cervello biologico la cui capacità di gestire contemporaneamente grosse quantità di dati è limitata.
Naturalmente stiamo parlando di mere correlazioni, non di legami causali.
- il rinvenimento di schemi nelle immagini e nelle informazioni acustiche.
Sempre grazie al calcolo veloce, le AI sono bravissime a trovare patterns, abilità che torna utilissima soprattutto nello studio dei genomi ed in astronomia.
Queste tre abilità sanciscono la superiorità delle AI nei confronti dei sapiens qualora venga soddisfatto il cosiddetto "principio del mondo stabile".
Per comprendere meglio di cosa si stia parlando dobbiamo rifarci all'economista Frank Knight ed alla distinzione da lui introdotta tra "rischio" ed "incertezza":
- rischio: conosciamo in anticipo tutti i possibili risultati, le conseguenze e le probabilità;
- incertezza: non conosciamo tutti i possibili risultati o le loro conseguenze.
Il "principio del mondo stabile" sancisce che, aumentando la potenza di calcolo, sia possibile risolvere ogni problema emergente in situazioni stabili meglio di quanto possano fare gli esseri umani.
Ma qualora, relativamente a ciò che si sta analizzando, il futuro si trovi ad esser diverso dal passato, raccogliere ed analizzare grandi quantità di dati - che per forza di cose sono attinti dal passato - può addirittura portare a false conclusioni.
Nel mondo reale, che è in continua trasformazione, le situazioni in cui le regole sono fisse (niente negoziazioni) ed il contesto è immutabile rappresentano l'eccezione; ecco dunque che gli ambiti in cui le AI possono produrre risultati ottimali sono ristretti.
Per ottenere previsioni attendibili per il futuro è indispensabile aver a disposizione una buona teoria, dati affidabili ed un mondo stabile.
Possiamo mandare missioni robotiche su altri pianeti indovinando il momento esatto in cui accendere i retrorazzi dopo un volo di anni solo perché le orbite dei pianeti cambiano in tempi lunghissimi rispetto ai tempi di volo; possiamo far riconoscere il nostro volto al cellulare, sempre che non venga deturpato da un incidente; possiamo far analizzare alle AI grosse moli di dati nell'amministrazione per individuare dei profili.
Sono esempi di previsioni attendibili basate su un contesto che non muta o muta molto lentamente.
Per ottenere buone performances dalle AI anche negli altri contesti è necessario dotarle di un qualcosa che assomigli molto al "buon senso" degli esseri umani.
Pur disponendo oggi di computers dotati di un'enorme potenza di calcolo, non si è finora riusciti a dotare le AI delle abilità tipiche dei sapiens quali il pensiero casuale (4).
Vediamo ora alcuni ambiti nei quali sono usate le AI e le criticità che ne conseguono.
1) Traduzioni linguistiche.
Per procedere ad una traduzione da o verso una lingua diversa, lo studente di liceo viene invitato prima di tutto a comprendere il contesto.
Specie nelle traduzioni da lingue antiche quali il greco ed il latino, l'aver frainteso il significato generale del brano porta ad errori disastrosi: l'alunno che procede ad una traduzione "letterale" cercando sul vocabolario una parola dopo l'altra è destinato a fallire.
I software di traduzione automatica hanno oggi raggiunto un buon livello di accuratezza, tuttavia il modo in cui operano è molto diverso da quello che segue un cervello biologico.
Una prova?
Fate tradurre ad una AI (ad esempio la App google translator) un brano dall'italiano in inglese, poi dall'inglese al turco e di nuovo in italiano; non lo riconoscerete!
I problemi nascono tutti dal fatto che la AI traduttrice non comprende il significato del brano: si limita a ricercare quali parole siano più spesso trovate insieme ("approccio statistico").
Il traduttore "umano" invece risolve l'ambiguità dei significati di un termine usando il "buon senso": fattasi un'idea del significato globale, vengono scartati tutti i significati incoerenti con il contesto, laddove la AI si comporta invece al pari di un "idiot savant".
Il linguaggio naturale non soggiace a regole rigide, niente "mondo stabile", e spesso sottintende conoscenze che per un essere umano sono scontate.
Affermando "dovresti prender l'ombrello" è sottointesa sia la ragione ("perché piove") che la giustificazione ("non è bello bagnarsi"); la giustificazione è parte della conoscenza intuitiva che possiedono gli individui della nostra specie.
I codici sorgenti di un algoritmo di AI hanno bisogno di una struttura ben definita, là dove invece i testi richiedono la comprensione di un alto livello di ambiguità.
Le traduzioni automatiche funzionano dunque meglio nel caso di argomenti ben definiti, che presentino strutture logiche caratterizzate da ambiguità limitata, scevre di qualità letteraria e creatività (qualità invece apprezzate in un testo dai "lettori umani").
2) RIconoscimento di volti o oggetti.
Ne ho già trattato nel post precedente a questo, tuttavia aggiungerei un esempio di "errore controintuitivo" davvero interessante che ci mostra come umani e AI sbaglino in modo diverso adoperandosi nello stesso compito: riconoscere numeri scritti a mano.
Nel riconoscimento della scrittura manuale le reti neurali profonde vengono addestrate diverse decine di migliaia di esempi.
In genere sono abbastanza efficienti nel loro compito, tuttavia basta modificare sistematicamente una piccola quota di pixels - modifiche che noi umani non percepiamo neppure - per confondere la rete ed impedirle di riconoscere i numeri (vedi nell'immagine allegata le prime due colonne)
Viceversa basta aggiungere "rumore casuale" ai numeri (vedi nell'immagine la penultima colonna a destra) per ottenere un "pulviscolo di puntini" che a noi non dice nulla, ma che la AI riconosce ancora - anche se a fatica - come i numeri originali.
I lievi cambiamenti sistematici del primo esempio sono sì percepiti dal nostro cervello, ma vengono giudicati irrilevanti e dunque ci sembra di vedere ancora gli stessi numeri originali.
Le reti neurali invece sembrano focalizzarsi su aspetti irrilevanti per i singoli numeri (5).
3) Riconoscimento di uno scenario.
Quando vediamo l'immagine di un aereo in procinto di schiantarsi su un'autostrada o un uomo legato e trascinato da un altro a cavallo, comprendiamo subito il contesto.
Dovendo descriverle utilizzeremmo all'incirca le descrizioni che ho appena indicato.
Se le analizziamo con attenzione ci rendiamo conto di aver usato "il pensiero causale" per formularle.
Le reti neurali addestrate a generare didascalie mancano di tale abilità.
Vedranno nel primo caso "un uomo sdraiato a terra, una corda ed un uomo sopra un cavallo", mentre nel secondo "un aereo parcheggiato sull'asfalto"; sono cioè in grado di identificare gli oggetti presenti in un'immagine, ma senza esser dotate di "buon senso" non capiscono come essi si relazionino in uno scenario.
"... L'intelligenza umana è correlata alla rappresentazione del mondo, la costruzione di modelli causali e l'attribuzione di intenzioni ad altre creature viventi ...", scrive Gigerenzer, " .. e per far ciò distingue una cosa reale dalla sua rappresentazione grafica (immagine)".
Le reti neurali profonde invece imparano ad associare alle immagini etichette o titoli senza sapere che un'immagine si riferisce a qualcosa nel mondo reale.
In conclusione AI e cervello biologico lavorano in modo diverso e sono dotati di abilità diverse.
Per far sì che le AI si avvicinino al modo di pensare tipico dei sapiens dovremmo trovare un modo per realizzare "AI psicologiche" (vedi in nota 5), ma i tentativi condotti in passato hanno fallito e non sappiamo come procedere.
E' possibile invece trovare esempi di cervelli biologici che siano più simili alle reti neurali profonde?
Incredibilmente la risposta può esser positiva.
Nella letteratura medica troviamo la descrizione di una persona le cui prestazioni si avvicinano molto a quelle delle reti neurali, Solomon Šereševskij (6)
Šereševskij, giornalista e mnemonista russo attivo negli anni ’20 del XX secolo, era capace di ricordare ogni parola di un discorso ascoltato anni prima e di memorizzare complesse formule matematiche, enormi matrici e pure poesie ed opere in lingue straniere (ipermnesico).
Nell'arco di trent'anni fu seguito dal neuropsicologo Aleksandr Romanovič Lurija, che pubblicò parecchio su di lui; più di recente il suo caso fu ricordato da Oliver Sacks come quello de "l'uomo che non dimenticava nulla di Lurija".
Lurija gli diagnosticò una forte sinestesia (situazione in cui la stimolazione di un senso provoca una reazione in tutti gli altri), fatto che lo aiutava nella memorizzazione.
Šereševskij poteva leggere un capitolo di un libro e ripeterne parola per parola, sia in avanti che a ritroso.
Tuttavia, se gli si chiedeva di indicarne il significato, si trovava in difficoltà.
Aveva problemi con parole che possedessero più significati (non sapeva gestire l'ambiguità), o con parole differenti ma con lo stesso significato.
Metafore e poesia lo mandavano in crisi.
Ricordava complesse formule matematiche senza tuttavia comprenderne il significato.
Non riusciva cioè a filtrare ciò che è banale da ciò che è importante, a ragionare a livello astratto.
Come capita alle reti neurali profonde, nonostante disponesse di una sterminata memoria (era incapace di dimenticare) veniva distratto da dettagli irrilevanti: esattamente la stessa cosa che abbiamo visto succedere alle AI quando, dovendo riconoscere numeri scritti a mano, vengono confuse dall'aggiunta sistematica di pochi pixels.
Šereševskij è la prova che l'evoluzione ha agito sulla nostra specie facendo sì che, ad un certo punto della sua storia, essa si doti di particolari attitudini, più indicate a sopravvivere nell'ambiente.
Ha sacrificando una amplissima capacità di mnemorizzazione - che evidentemente un cervello biologico può possedere - in favore di un modo diverso di gestire l'informazione, tale che di fronte a situazioni improvvise le decisioni su cosa fare siano prese velocemente utilizzando "scorciatoie" (le "euristiche") che non necessitino di troppo tempo e troppi dati per esser elaborate.
Note:
(1) Non tutti sono d'accordo con questa osservazione: ricercatori, tra i quali Giorgio Vallortigara dell'Università di Trento, sostengono che anche alcuni animali superiori possano esser dotati di pensiero causale.
Sono portati ad esempio: lo chimpanzee Santino dello zoo svedese di Furuvik - che di nascosto preparava pietre da tirare il giorno seguente ai visitatori -, ed un merlo indiano in grado di "usare attrezzi" per fabbricarne altri al fine di raggiungere il cibo, e di risolvere complessi problemi approntati dai ricercatori.
Si tratta tuttavia di situazioni sporadiche e di natura e grado diversi rispetto al genere homo.
(2) Non è solo il genere umano ad esser superstizioso: nel 1948 Burrhus Skinner, psicologo americano, condusse esperimenti con dei piccioni che lo portarono a definire comportamenti di questi volatili con il termine "superstiziosi".
Alcuni colombi erano confinati in "scatole" dotate di videocamera per registrare quanto accadeva all'interno.
Ad un orario preciso, veniva inserito un dispensatore di cibo chiuso con uno sportellino: gli animali sapevano per esperienza che il cibo era contenuto in questo contenitore, tant'è che al momento della sua comparsa nel box mostravano eccitamento.
L'apertura dello sportellino che permetteva l'accesso al becchime era programmata dopo un intervallo di tempo.
Le riprese video mostravano che qualunque azione casuale un piccione avesse fatto (dopo l'introduzione del dispensatore e prima dell'apertura dello sportellino), questa veniva da esso ripetuta ogni volta che il dispensatore appariva nella box.
Se il ritardo nell'apertura dello sportellino perdurava più del solito, il "rito" assumeva caratteristiche compulsive, tipiche della dipendenza umana da gioco d'azzardo.
Secondo Skinner il piccione si illudeva che fossero i propri gesti la causa dell'apertura dello sportellino.
Tale comportamento è stato associato alla superstizione, ed è noto nella letteratura scientifica come "la superstizione del piccione".
(3) Sulla scacchiera sono note le posizioni di tutte le pedine, non è necessario fare "inferenze".
(4) In origine si pensava di realizzare le AI insegnando ai computer come gli umani risolvono i problemi (la cosiddetta "Intelligenza artificiale psicologica", vedi Simons).
L'idea era di adoperarsi per ricavare le euristiche del pensiero strategico usato dagli esperti ed inserirle successivamente in un software (le AI chiamate "sistemi esperti").
Tuttavia questa linea mostrò presto i suoi limiti, e per avere la prima macchina campione di scacchi si dovette cambiare strategia: ai sistemi esperti - che imitavano l'intelligenza umana - si sostituì il machine learning e le reti neurali profonde (deep learning), che non la imitano per nulla.
Tali reti utilizzando la forza bruta del calcolo trovano da sole soluzioni basate sull'individuazione di correlazioni "utili in quel contesto" senza sapere a cosa si riferisca (AlphaGo era abilissima nel gioco del Go ma non nel gioco della Dama o degli scacchi: per un obiettivo diverso la rete doveva subire un ciclo apposito di apprendimento).
Forse AI psicologiche potrebbero aver miglior successo in situazioni di incertezza, nella ricerca cioè non di soluzioni ottimali, ma soddisfacenti.
(5) Gigerenzer, preso atto che l'intelligenza artificiale delle reti neurali sia decisamente diversa da quella umana, sostiene che una AI psicologica possa funzionare meglio di una rete neurale.
Quando un bambino impara a leggere e scrivere i numeri, non necessita che di pochi esempi (contro i circa 60.000 necessari ad una rete neurale).
L'AI psicologica dovrebbe insegnare al programma di decodifica di scrittura a mano a suddividere il compito in sottocompiti, tipo identificare se ci sia qualcosa che assomigli ad un ovale oppure una barra orizzontale: il modo in cui il nostro cervello impara a riconoscere caratteri e numeri.
(6) Curiosamente esiste un racconto di Borges (che quando lo scrisse non conosceva il caso di Šereševskij) di un uomo che non dimenticava nulla: "Funes, el memorioso".
Proprio come Šereševskij, Funes pur ricordando ogni piccolo particolare era incapace di concettualizzare.
https://davidemolinapersonale.blogspot.com/2019/10/anche-i-piccioni-credono-in-dio-le.html
https://it.wikipedia.org/wiki/Solomon_%C5%A0ere%C5%A1evskijn
Nessun commento:
Posta un commento