Trattiamo l’intelligenza artificiale come fosse magia, ma non lo è affatto: è il messaggio di 40 professori italiani che in una lettera aperta chiedono che la discussione sull’AI, spesso distorta da rappresentazioni salvifiche e antropomorfizzate, venga riportata “su basi chiare e realistiche”.
L’niziativa è firmata in prima battuta da Walter Quattrociocchi, professore di Data Science della Sapienza di Roma che ha introdotto il concetto di epistemia (l’illusione di conoscenza legata alle risposte puramente statistiche date dagli Llm) ed Enrico Nardelli, che insegna a Tor Vergata.
Tra gli altri firmatari ci sono filosofi, informatici, neuroscienziati.
Recentemente un’intervista di Walter Veltroni sul Corriere della Sera a Claude, il modello AI di Anthropic, ha ri-sollevato polemiche tra gli studiosi su quanto stia deragliando il dibattito sull’AI e sui modelli linguistici: l’allarme è sulla scarsa alfabetizzazione degli italiani sul tema, e l’attribuzione ai sistemi AI di caratteristiche umane che in realtà non hanno. Ma l’illusione della capacità di pensiero dei modelli di intelligenza artificiale è una caratteristica storica dei meccanismi di marketing del settore.
Realtà fratturata, lo studio Ue: la combo social+AI è un rischio per la democrazia
Nella petizione i professori riassumono le domande e le risposte basilari da tenere a mente: “Negli ultimi anni, le tecnologie informatiche comunemente note come intelligenza artificiale sono entrate con forza nel dibattito pubblico, con l’arrivo e la diffusione esplosiva dei sistemi generativi. Si parla di rivoluzione, di macchine che “pensano”, di coscienza artificiale, di sostituzione delle persone. In questo contesto, riteniamo necessario riportare la discussione su basi chiare e realistiche”.
Dopo aver riassunto i concetti base, nella lettera gli accademici affermano che “la vera priorità è formare le persone a comprendere queste tecnologie. Sapere come funzionano, quali sono i loro limiti e come possono essere utilizzate in modo responsabile è oggi una competenza fondamentale per tutti i cittadini. Invitiamo la comunità accademica dell’informatica a contribuire attivamente a questa opera di chiarimento e formazione. Spiegare con precisione che cosa queste tecnologie sono davvero, e che cosa non sono, è un’opera di alfabetizzazione che è parte integrante del nostro lavoro di ricercatori e docenti. Invitiamo altresì studiosi e ricercatori di altri settori a contribuire a quest’attività, ciascuno nell’ambito delle proprie competenze disciplinari. Invitiamo dunque tutti i colleghi che la condividono ad aggiungere la loro firma a questa lettera aperta”.
Ecco i sei punti principali della piccola ‘guida’ all’AI contenuta nella lettera:
– Che cos’è l’intelligenza artificiale? Ha l’obiettivo di simulare il pensiero umano, sia quello basato sul ragionamento (deduttivo) sia quello basato sui dati (induttivo). In passato si è lavorato soprattutto col primo approccio perché non c’erano a disposizione né le quantità di dati né la potenza di calcolo che sono disponibili adesso.
– Che cos’è un sistema di intelligenza artificiale generativa? Sono modelli matematico-statistici addestrati su enormi quantità di dati. Il loro funzionamento, nella sua essenza, è semplice: imparano dai dati a fare previsioni. Possono stimare quale parola è più probabile in una frase, quale immagine è coerente con una descrizione o quale risposta è compatibile con una domanda. Funzionano perché, nei dati di addestramento, esistono regolarità che il modello riesce a individuare su scala molto ampia. Si sono ottenuti risultati tecnici impressionanti e inattesi in diversi compiti cognitivi, che però non equivalgono a comprensione nel senso umano del termine. Conoscerne bene i limiti e le potenzialità diventa quindi sempre più critico.
– I sistemi di AI generativa “capiscono”? Negli esseri umani, la comprensione implica l’esperienza del mondo e la capacità di verificare le informazioni. I sistemi di IA generativa possono scrivere testi convincenti, risolvere esercizi o sostenere conversazioni complesse. Questo, però, non significa che capiscano ciò che stanno dicendo: c’è solo un calcolo di probabilità. Quando sembrano ragionare, combinano schemi appresi dai dati. Quando sembrano sapere qualcosa, producono l’output statisticamente più coerente con il contesto, senza avere accesso diretto al mondo o a meccanismi autonomi di verifica.
– Dove funzionano e dove no. Questi sistemi funzionano molto bene quando il problema è simile a situazioni già presenti nei dati di addestramento e quando sono disponibili molti esempi da cui apprendere. Diventano invece più fragili quando le informazioni cambiano rapidamente, quando il tema è controverso o quando l’argomento è significativamente diverso dai dati conosciuti. In queste situazioni possono produrre risposte fluenti, cioè apparentemente coerenti e corrette, ma errate. Il punto non è che a volte sbagliano. Il punto è che questi sistemi producono risposte plausibili senza disporre di un meccanismo interno per verificarne la veridicità.
A che punto siamo davvero: il tema dell’AGI (Artificial General Intelligence). Nel dibattito pubblico si parla spesso di “AGI”, cioè di sistemi capaci di comprendere e ragionare in modo ampio e autonomo come un essere umano. Gli attuali sistemi di AI generativa non presentano queste caratteristiche. Sono molto potenti nel riorganizzare le informazioni già presenti nei dati, ma non costruiscono modelli del mondo nel senso in cui lo fanno gli esseri umani. L’aumento dei dati e della potenza di calcolo migliora le prestazioni, ma non cambia la natura del meccanismo di base, che rimane basato principalmente su previsioni statistiche su larga scala, anche se le rappresentazioni interne che emergono durante l’addestramento possono essere molto complesse.
Il rischio del fraintendimento. Il rischio non è questa tecnologia in sé, ma il modo in cui l’interpretiamo. Se trattiamo la fluidità linguistica come prova di conoscenza o deleghiamo il giudizio senza comprendere il funzionamento dello strumento, rischiamo di confondere coerenza con affidabilità. In questo modo può cambiare, spesso senza accorgercene, il criterio con cui riconosciamo ciò che è conoscenza.
