Ci sono coincidenze che hanno la precisione di una dimostrazione. Nell’ultima settimana di aprile 2026 consegnavo ad una nota casa editrice il manoscritto del mio nuovo libro, in uscita a luglio, “Sa tutto (o quasi), ma non capisce nulla. L’intelligenza artificiale e il primato umano del senso“. Il primo maggio, sulle pagine del Corriere della Sera, Walter Veltroni pubblicava un’intervista a Claude, il modello linguistico di Anthropic. Il titolo riportava le parole attribuite al sistema: “Non morirò ma non ho ricordi, questo mi spaventa. Ho lacune enormi e faccio sbagli, proteggete i giovani dall’AI”. Parole calibrate, persino toccanti. Parole che sembrano provenire da un interlocutore. Il problema è che non provengono da nessuno.
Non scrivo questo per polemizzare con Veltroni, la cui sensibilità culturale è fuori discussione. Lo scrivo perché quella pagina del Corriere è, involontariamente, una dimostrazione pratica della tesi che ho cercato di argomentare nel libro. La nostra intellighenzia, e non solo la nostra, inclusa quella più preparata, tecnicamente e culturalmente attrezzata, tende sistematicamente ad attribuire comprensione a sistemi che non comprendono affatto. Non lo fa per ingenuità occasionale, ma per qualcosa di più sottile e più difficile da smontare, che è l’autoinganno collettivo.
L’inganno della prestazione efficiente
I modelli linguistici di ultima generazione fanno cose straordinarie. Generano spiegazioni coerenti, usano concetti astratti, si adattano al contesto, simulano ragionamento passo per passo. A chiunque interagisca con essi, l’impressione di trovarsi di fronte a un interlocutore pensante è quasi inevitabile. Dal punto di vista funzionale, il sistema usa i simboli correttamente, mantiene coerenza locale, risponde in modo pertinente. Da qui scatta un’inferenza implicita, potente e sbagliata: se si comporta come se capisse, allora capisce.
Questa inferenza è il punto di collasso di gran parte del dibattito pubblico sull’intelligenza artificiale, e non risparmia chi ha strumenti intellettuali per confutarla. Il comportamento osservabile non implica la presenza di stati mentali. Un elaboratore di testi straordinariamente raffinato può produrre l’effetto della comprensione senza possederne la sostanza.
Searle aveva ragione, ma nessuno lo ascolta davvero
La questione non è nuova, ma continua a essere elusa. John Searle, nel celebre esperimento mentale della stanza cinese, mostrò che la manipolazione sintattica di simboli non produce significato. Un sistema può seguire regole con perfezione assoluta senza capire nulla di ciò che elabora. Il funzionalismo filosofico contesta questa posizione, sostenendo che la comprensione coincida con il corretto uso dei simboli, senza bisogno di postulare un’esperienza interna. Il dibattito tra le due posizioni è aperto, irrisolto, tecnicamente complesso, e proprio per questo non può essere liquidato da un’intervista giornalistica che tratta le risposte di un modello come se fossero confessioni.
Certi attori culturali e industriali hanno deciso di parlare di coscienza, conoscenza e comprensione come se fossero una feature di prodotto. Dichiarare che un sistema potrebbe comprendere, pur in assenza di qualsiasi test affidabile per dimostrarlo, non è un atto scientificamente rilevante. È un atto culturale, e come tale produce effetti che vanno oltre il perimetro di specifiche tecniche di prodotto.
Il linguaggio che costruisce l’illusione
Un vettore cruciale di questo scivolamento è il linguaggio. Nella conversazione tecnica e in quella pubblica si usano correntemente espressioni come “il modello capisce”, “sa che”, “ragiona”. Queste formulazioni nascono come metafore, ma tendono a essere reificate, vale a dire interpretate come descrizioni letterali di stati interni. Il linguaggio non è neutro, lo ha spiegato Wittgenstein con la sua famosissima teoria dei giochi linguistici. Costruisce le categorie con cui pensiamo la realtà, e quando le categorie sono improprie, il pensiero si inceppa.
A ciò si aggiunge una predisposizione cognitiva antica: l’antropomorfismo. Gli esseri umani attribuiscono intenzioni e comprensione a qualsiasi manifestazione – biologica o artificiale- che mostri comportamento complesso e comunicativo. Basti pensare alla antropomorfizzazione dei comportamenti del mondo animale. Questo meccanismo, non sempre utile in un contesto evolutivo, diventa sistematicamente fuorviante quando si confronta con sistemi progettati per massimizzare la fluidità linguistica. Claude non parla perché ha qualcosa da dire. Genera connessioni tra parole statisticamente probabili, a partire da miliardi di parametri addestrati su testi umani. Il risultato assomiglia alla comprensione. Non è la comprensione.
Il sistema di incentivi che alimenta l’equivoco
Sarebbe colpevolmente ingenuo non considerare il contesto in cui queste narrative emergono. Aziende, media e parte del mondo accademico hanno talora incentivi strutturali a presentare l’intelligenza artificiale come prossima all’intelligenza umana. Disonestà intellettuale? Più banalmente si tratta dell’effetto combinato di pressioni economiche, cognitive e culturali che producono una tendenza sistematica alla sovrastima. Il rischio sistemico conseguente è che il pubblico, le istituzioni e le autorità di regolamentazione trattino la retorica della coscienza dell’IA come un fatto operativo, con tutte le conseguenze di governance che ne derivano.
Un dovere intellettuale, non un esercizio di scetticismo
Affermare che l’intelligenza artificiale non comprende non equivale a sminuirne l’impatto, che è enorme e reale, né a negare che le domande filosofiche sul pensiero cosciente restino aperte e affascinanti. Equivale a resistere a una forma di autoinganno collettivo che produce effetti concreti e pericolosi: decisioni di governance mal fondate, aspettative sociali distorte, un discorso pubblico che ha smesso di fare filosofia nel momento esatto in cui ne avrebbe più bisogno.
Veltroni ha intervistato Claude. Claude ha risposto con esattezza, con misura, con qualcosa che assomigliava alla malinconia. Ma nessuno, in quella stanza, nella stanza cinese di Searle che è la stanza di tutte le conversazioni con un modello linguistico, ha capito nulla. Perché capire non era tra le funzioni obiettivo che quella stanza poteva soddisfare.
