Era diventata una routine anche per Maxim Topaz. Il professore associato della School of Nursing della Columbia University usava regolarmente strumenti di AI per rifinire articoli scientifici, correggere grammatica, formattazione e dettagli tecnici. Poi, poche settimane dopo aver inviato il suo ultimo studio, la rivista scientifica che avrebbe dovuto pubblicarlo lo contattò per chiedere chiarimenti su una fonte citata.
L’AI che aveva utilizzato aveva inserito silenziosamente un riferimento inventato.
“Mi sono sentito profondamente imbarazzato”, ha raccontato Topaz a Fortune.
“Sono un ricercatore che lavora sull’AI. Conosco bene il problema delle allucinazioni. Se succede a me, che sono un esperto, cosa può accadere agli altri?”.
Quell’episodio ha spinto Topaz a indagare su quanto spesso gli esperti vengano ingannati dall’intelligenza artificiale senza accorgersene. La risposta, secondo il ricercatore, è preoccupante.
Migliaia di riferimenti falsi negli studi scientifici
In uno studio pubblicato su The Lancet, Topaz e il suo team hanno analizzato quasi 2,5 milioni di articoli biomedici e 97 milioni di citazioni presenti su PubMed Central, uno dei principali archivi utilizzati da medici e ricercatori in tutto il mondo.
L’analisi ha individuato oltre 4mila riferimenti falsi nascosti in quasi 3mila studi scientifici. Non tutte le citazioni risultavano generate dall’AI, ma il ricercatore ha spiegato che l’aumento delle fonti inventate è diventato “verticale” nel 2024, proprio dopo la diffusione più ampia degli strumenti di AI nella ricerca.
“È molto ragionevole pensare che l’AI sia fortemente collegata a questo fenomeno”, ha detto.
Negli ultimi tre anni il tasso di riferimenti inventati nella letteratura biomedica è aumentato di oltre 12 volte. Nel 2023 un articolo su 2.828 conteneva almeno una citazione falsa. Nel 2025 il rapporto è salito a uno ogni 458 articoli. Nelle prime sette settimane del 2026 i ricercatori hanno trovato almeno una fonte inesistente in uno studio ogni 277 pubblicati.
“Penso che sia soltanto la punta dell’iceberg”, ha avvertito Topaz.
Il rischio per medicina e ricerca
Le cosiddette “allucinazioni” dell’AI si verificano quando il modello privilegia schemi linguistici e probabilità statistiche invece dell’accuratezza dei contenuti.
Molti errori possono sembrare innocui. Ma nella ricerca scientifica il problema diventa molto più serio.
La medicina infatti costruisce le proprie conoscenze in modo progressivo: gli studi clinici citano ricerche precedenti, le revisioni sistematiche aggregano quei risultati e le linee guida mediche si basano su quelle revisioni. Medici e infermieri usano poi quelle indicazioni per decidere come curare i pazienti.
“Questa è la catena delle evidenze scientifiche”, ha spiegato Topaz. “Se inserisci uno studio fittizio alla base, tutto ciò che viene dopo eredita quell’errore”.
Secondo il ricercatore, alcuni articoli prodotti da “paper mill”, cioè fabbriche di studi scientifici falsi, sono già finiti dentro revisioni sistematiche e linee guida cliniche.
Non riguarda soltanto la medicina
Il problema non colpisce soltanto il mondo scientifico.
Secondo Fortune, anche giornalismo, diritto e professioni altamente specializzate stanno affrontando casi sempre più frequenti di contenuti generati dall’AI contenenti errori, citazioni inventate o riferimenti inesatti.
Tra gli esempi più recenti compare quello di Steven Rosenbaum. Il suo nuovo libro, “The Future of Truth: How AI Reshapes Reality”, è finito al centro delle polemiche dopo che il The New York Times ha individuato numerose citazioni attribuite in modo errato o completamente inventate. Lo stesso autore aveva dichiarato di aver utilizzato strumenti di AI durante il lavoro sul libro.
Le indagini mostrano inoltre che:
- oltre l’80% dei medici usa oggi strumenti di AI per riassumere ricerche e preparare documentazione clinica
- più della metà dei professionisti legali utilizza AI per bozze e memorie
- molti ricercatori impiegano AI anche durante il peer review degli studi scientifici
“Il problema non è l’AI, ma la verifica”
Topaz non considera l’AI il vero nemico. Anche lui continua a usarla quotidianamente nel proprio lavoro.
“Il problema è l’output dell’AI non verificato che entra nel registro permanente della conoscenza”, ha spiegato. “La soluzione non è smettere di usare questi strumenti, ma integrare verifiche rigorose nei flussi di lavoro”.
Secondo il ricercatore, più si ritarderà l’introduzione di sistemi di controllo, più diventerà difficile ripulire il sistema da errori e contenuti falsi.
Le allucinazioni dell’AI, conclude Topaz, non fanno distinzioni tra utenti inesperti ed esperti. Gli errori sembrano sempre più realistici e diventano più difficili da individuare. E nei settori dove le conseguenze hanno un impatto concreto — come medicina, diritto e informazione — il rischio aumenta ulteriormente.
