Ue contro le piattaforme social, ancora una volta. Dopo mesi di lavoro, l’Unione Europea ha il suo rapporto sull’impatto del mix social network-intelligenza artificiale sulla disinformazione. Uno studio che può rappresentare una base di conoscenza per le policy del futuro.
Il report mette nero su bianco quello che facciamo finta di non sapere a proposito delle fake news sui social, da Facebook in poi: secondo gli esperti smentirle singolarmente serve a poco, se è lo stesso ecosistema informativo, dominato dalle dinamiche delle piattaforme, ad essere truccato. Il tutto a scapito della tenuta stessa del sistema democratico.
Fractured Reality, il report del Joint Research Center della Commissione Europea, è stato firmato da un pool di esperti tra cui anche Walter Quattrociocchi, professore di data science della Sapienza di Roma, dove dirige il Center of Data Science and Complexity for Society.
Il report propone anche delle soluzioni. Alcune già sentite, come la creazione di un “CERN per dati e democrazia” per riunire capacità di ricerca frammentate in un unico sforzo capace di reagire alle continue innovazioni provenienti dall’altra parte dell’Oceano. Gli esperti chiedono al continente di costruirsi la propria sovranità digitale, oltre a suggerire l’imposizione di un business model alternativo a quello delle ads che oggi domina le piattaforme.
Al di là delle soluzioni, la svolta vera per l’Europa è avere una base di conoscenza scientificamente aggiornata. “Fino a un anno fa l’interpretazione era ‘fake news contro notizie vere'”, spiega Quattrociocchi. “Quello che veniva detto a Bruxelles era disancorato dall’ambito scientifico: ora sul tavolo arriva lo stato dei fatti, con il riconoscimento dell’epistemia in un unico quadro che contiente anche il business model dei social network e lo shift da verità a plausibilità innescato dall’AI, creando un presupposto per inserire questi concetti in un quadro normativo”. Sul tema, a fine 2025, la Commissione ha lanciato il suo European democracy shield.
Dalle echo chambers all’epistemia
Dopo aver sottolineato nei suoi studi degli anni passati come smentire bufale abbia un impatto nullo sui meccanismi di funzionamento dei social, negli scorsi mesi il team di Quattrociocchi ha di fatto inventato un nuovo termine riferito all’intelligenza artificiale: epistemia, l’illusione della conoscenza provocata da llm che consideriamo oracoli nonostante si limitino a produrre verità statisticamente plausibili.
L’epistemia è entrata già nell’enciclopedia Treccani e ora anche in un testo che potrà essere usato da Bruxelles per le policy del futuro.
Il report ci pone davanti a una domanda fondamentale: cosa succede quando ai meccanismi alla base dei social (che premiano la diffusione di contenuti efficaci, che siano veri o no) si unisce al meccanismo conoscitivo alla base dei modelli di intelligenza artificiale, che ci restituiscono non verità vere, ma verità plausibili?
“In un simile contesto, diverse tipologie di informazione non competono più su basi distinte. Fatti, opinioni, distorsioni e narrazioni collassano in un unico flusso e vengono valutati secondo un solo criterio: la plausibilità”, ha commentato Quattrociocchi. “I Large Language Model non verificano, non hanno accesso alla verità e non distinguono tra prove ed apparenza. Generano output che sono statisticamente coerenti con i pattern linguistici precedenti”.
In un sistema già ottimizzato per la plausibilità, dice il professore, questa è “una perfetta integrazione. I sistemi democratici non richiedono unanimità, ma necessitano di uno strato minimo di realtà condivisa. Non una singola verità, ma criteri comuni per determinare cosa costituisca una prova. Quando la plausibilità sostituisce tali criteri, quello strato si indebolisce.
Un ‘fantasy industrial complex’
L’AI si integra in un ecosistema già caratterizzato dal dominio dell’economia dell’attenzione: un “fantasy-industrial complex” caotico ma strutturato dove la conseguenza di un’informazione manipolata non è quella di far necessariamente passare informazioni false, ma di creare confusione e instaurare sfiducia: nei media, ma anche nelle istituzioni democratiche. Quella che doveva essere una piattaforma di confronto tra opinioni (e smentire false credenze) è diventata cassa di risonanza gigantesca di ambienti “socio-politici” che non parlano tra di loro. Un altro fenomeno tracciato negli studi italiani diversi anni fa, evoluzione delle ‘echo chambers’, chiamato echo platforms.
E l’AI? Secondo lo studio “l’integrazione diretta o indiretta dell’IA generativa nei potenti siti di social media crea quindi una trappola cognitiva sempre più rilevante: l’illusione di conoscenza creata dalla fluidità linguistica di un Llm, dalla sua onnipresenza e dai video realistici non risolve realmente le lacune informative, ma dà comunque all’utente la sensazione che quelle lacune siano state colmate”.
Alla fine dello studio vengono delineati diversi scenari futuri, ma gli esperti sottolineano che il pericolo appartiene al presente. Le stime sui contenuti falsi variano già oggi tra un 10% nel caso delle stime più ottimistiche al 30% per i contenuti che coinvolgono argomenti controversi (clima, salute, Russia/Ucraina). La prevalenza di false credenze (e non quindi la mera esposizione a fake news) è intanto già arrivata a livelli ancora più alti: il 47% degli anziani è disinformato su importanti problemi di salute. “Molti di questi rischi sono ulteriormente amplificati dall’AI generativa, che consente la manipolazione su larga scala delle informazioni per scopi politici”.
In collaborazione con gli autori del report, l’International Panel for the Information Environment ha chiesto a un gruppo di esperti di identificare gli scenari futuri più probabili. Ha ‘vinto’ quello più catastrofico: viene chiamato ‘Lotta per la supremazia dell’informazione’ e presuppone che nel 2035 l’informazione in Europa sarà caratterizzata da dinamiche conflittuali e concentrazione economica nelle mani di pochi. Di fatto, il continente farà fatica anche solo a mantenere un minimo grado di “coerenza” nel suo stesso spazio informativo.
