Non solo video virali sui social o audio manipolati: i deepfake entrano anche negli ospedali. E quando riguardano radiografie e immagini cliniche, il problema smette di essere teorico. Diventa una questione di diagnosi, sicurezza e fiducia nei dati sanitari.
Uno studio pubblicato su “Radiology” mostra un dato netto: né i radiologi né i sistemi di AI riescono a distinguere con facilità immagini radiografiche autentiche da quelle generate artificialmente. Le radiografie create con modelli avanzati risultano sufficientemente realistiche da ingannare anche specialisti esperti.
“Il nostro studio dimostra che queste radiografie deepfake sono sufficientemente realistiche da ingannare i radiologi, gli specialisti di diagnostica per immagini più qualificati”, spiega Mickael Tordjman, ricercatore della Icahn School of Medicine al Mount Sinai di New York.
Radiografie false indistinguibili da quelle reali: i numeri dello studio
La ricerca ha coinvolto 17 radiologi di 12 centri in 6 Paesi. Gli specialisti hanno analizzato 264 immagini, metà reali e metà generate da AI.
Quando i medici non conoscevano l’obiettivo dello studio, solo il 41% ha individuato spontaneamente le immagini false. Dopo aver ricevuto indicazioni sulla presenza di contenuti sintetici, l’accuratezza è salita al 75%.
Le performance restano comunque variabili: dal 58% al 92% a seconda del radiologo.
Anche i modelli di AI mostrano limiti simili. L’accuratezza varia tra il 57% e l’85%, e nemmeno il sistema utilizzato per generare le immagini riesce a riconoscerle tutte.
L’esperienza non basta
Un dato rilevante riguarda l’esperienza: gli anni di lavoro non incidono sulla capacità di riconoscere i deepfake. I radiologi più esperti non risultano più accurati degli altri.
Solo una differenza emerge: gli specialisti in ambito muscoloscheletrico ottengono risultati migliori rispetto ad altre sottospecializzazioni.
Come si riconosce un deepfake medico
Le immagini sintetiche presentano alcune caratteristiche ricorrenti. Spesso risultano troppo perfette: ossa lisce, strutture eccessivamente simmetriche, fratture nette e regolari.
“Le immagini mediche deepfake spesso appaiono troppo perfette. Le ossa sono eccessivamente lisce, le colonne vertebrali innaturalmente dritte, i polmoni eccessivamente simmetrici”, sottolinea Tordjman.
Ma questi segnali non bastano a garantire un riconoscimento affidabile.
Rischi clinici e sicurezza
Le implicazioni sono concrete. Una radiografia falsa potrebbe generare diagnosi errate o contenziosi legali. Gli obiettivi possono essere infiniti: dalle frodi assicurative agli attacchi terroristici, fino all’omicidio premeditato. Ancora più critico è il rischio informatico.
“Esiste anche un significativo rischio per la sicurezza informatica qualora degli hacker riuscissero ad accedere alla rete di un ospedale e a inserire immagini sintetiche per manipolare le diagnosi dei pazienti o causare un caos clinico diffuso”, avverte Tordjman.
Il problema riguarda quindi l’intero sistema: dall’affidabilità delle cartelle cliniche alla sicurezza delle infrastrutture digitali.
Le possibili contromisure
Lo studio indica alcune soluzioni operative. Tra queste, filigrane digitali invisibili e firme crittografiche applicate alle immagini al momento dell’acquisizione. Strumenti che permettono di verificare l’origine e l’integrità dei dati.
Serve anche formazione specifica. Riconoscere un deepfake potrebbe diventare una competenza necessaria per chi lavora in diagnostica.
“Probabilmente stiamo vedendo solo la punta dell’iceberg”, conclude Tordjman. Il prossimo passo sarà la generazione di immagini 3D sintetiche, come Tac e risonanze.
Il rischio è chiaro: quando il falso diventa indistinguibile dal reale, la fiducia nei dati sanitari diventa l’elemento più fragile dell’intero sistema.
