Di Fake news se ne parla ormai da qualche anno. Esistono poi le Deep fake news.
La differenza tra le due è in vero più che altro qualitativa.
Dove la Fake news è semplicemente una bugia fatta bene, la Deep Fakes news è una piccola opera d’arte.
Dietro alla Fake news può esserci una scelta volontaria (quindi un dolo) dietro la Deep Fake news c’è per certo una scelta di dolo.
Chi crea una Deep fakes news (d’ora in poi DFN) è una persona o un’organizzazione che ha strumenti, abilità, una visione strategica, risorse ed un interesse preciso di diffondere dati (meglio dire informazioni ) false, che possono essere scambiate per vere e diffuse tramite le piattaforme sociali sino ad arrivare ai media tradizionali: carta, Radio e Tv.
Perché questa digressione? Software che permettono di creare DFN già ne esistono molti. Ma ora Samsung è appena uscita con una nuova soluzione che permette, tramite l’acquisizione (da parte del software) di una singola foto o immagine, di creare un video. Il video fake disponibile in rete è stato fatto utilizzando una “foto” della Monnalisa, per certo è una fake (ancora non si capisce se Monnalisa fosse uomo o donna, figurarsi se faceva i video digitali, ai suoi tempi si usava ancora l’analogico).
Per chi volesse approfondire l’intera analisi qui c’è il documento con tutte le spiegazioni tecniche, derivato dalla pagina della Cornell University che menziona il progetto.
Per chiarire ogni dubbio Samsung non crea Fake News o DFN, tuttavia il loro software può, stante quanto descritto, farlo e a costi più bassi rispetto a precedenti soluzioni.
I software per generare video falsi non sono cosa di oggi. Ma la nuova soluzione dei ricercatori di Samsung aggiunge una variabile in più al gioco. Facciamo un passo indietro.
Il “costo” per creare una Fake news, se parliamo di un video, è più oneroso rispetto a creare una notizia scritta. Montaggio del video, creazione di contenuti background, a cui si aggiunge il soggetto stesso “vittima” del video (un falso politico, un falso manager etc..). Per molti aspetti creare un DFN, come video, non è differente dal creare una vera notizia o un servizio giornalistico. Migliore sono le risorse utilizzate e i soldi spesi, migliore sarà il risultato. Tuttavia vi è un contesto di contorno in cui si deve integrare il video per renderlo veramente credibile.
Se il revenge porn usando i video è ormai una normalità (ma parliamo di cose fatte alla buona più per colpire il partner che per generare una vera falsa notizia) quando si arriva a un video che ha per bersaglio, poniamo, un politico come Nancy Pelosi, le cose diventano molto più serie.
Già in rete esistono trucchi e strategie per scoprire un video falso e contenerlo.
Ma la nuova soluzioni software dei ricercatori russi di Samsung abbassano drasticamente le entry level: il costo per accedere alla generazione di falsi filmati. Tecnicamente parlando si tratta di una soluzione basata, come si legge sul paper pubblicato, sul Few-Shot Adversarial Learning of Realistic Neural Talking Head Models. Per dirla semplice un’analisi e riproduzione di video utilizzando pochi scatti.
Ora tuttavia resta da inserire questa nuovo software (ed altri che gli succederanno) nell’intera strategia di una DFN.
Ora consideriamo il contesto.
Fruibilità dei video sul grande schermo
Tecnicamente parlando il video creato con il nuovo software, visto su uno schermo di un normale portatile (o una tv), può essere scoperto come falso. Quanto meno molto sospetto perchè i movimenti del volto umano sono ancora difficili da riprodurre (pensiamo al battito delle palpebre come riportato nei link sopra), a costi contenuti.
Si aggiunga anche che un video, non richiede solo il movimento del volto ma anche la sincronizzazione della voce, la creazione della voce stessa e le espressioni micro facciali.
Sul fronte della campionatura della voce le cose sono più facili e i software disponibili sono differenti. C’è anche l’alternativa di usare un imitatore umano, che possa imitare la voce del soggetto.
Preso a se stante (quindi sentendo la voce del bersaglio, emessa da un imitatore) potrebbe essere facile cogliere la differenza. Se ragioniamo di posizionare la voce dell’imitatore all’interno di un intero set di video falso, potrebbe essere meno difficile per l’osservatore medio percepire il tono della voce differente.
Poi esiste il tema della sincronizzazione delle labbra. Se, guardandosi riflessi allo specchio, si dice “idiota” ma viene messo l’audio in cui si dice “bello” ovviamente si scorgerà la differenza.
Esiste anche l’intero tema delle espressioni micro facciali. Spesso ad una parola o un concetto l’essere umano associa una serie di micro espressioni, che gli permettono di accentuare la sua affermazione vocale. Se esprimiamo un concetto, etichettando una persona come “brutta” oppure “spregevole” o altri epiteti negativi, lo stesso volto di chi parla accompagnerà, inconsciamente, queste parole. Quindi è importante allineare l’espressione del viso a quella delle labbra, e il tutto deve essere inserito in un video.
Fruibilità dei video sul piccolo schermo
Le cose cambiano se il video viene visionato da uno schermo più piccolo. In questo caso le cose possono cambiare. Consideriamo che ormai la gran parte dei contenuti multimediali sono consumati su terminali mobili: Pad o ancor più spesso smartphone.
Per quanto gli ultimi schermi abbiamo una qualità di immagine molto valida ci sono da ricordare alcune limitazioni esterne.
Prima di tutte non sempre la banda disponibile per fruire di un video è sufficiente per caricare un video ad alta definizione. Si aggiunga che un video ad alta definizione consuma più dati, e spesso i pacchetti dati disponibili da parte di molti operatori sono lottizzati (non ci sono GB infiniti). Persino in Italia solo pochi operatori hanno un offerta “illimited” per i dati. Molti gestori limitano la quantità di dati dai 20 ai 60 gb. Quindi si desume che molte persone, pur avendo terminali ad alta definizione (per quanto con uno schermo più piccolo) potrebbero aver abitudine ad usare i video in bassa risoluzione, e risparmiare banda.
Tanto per fare un esempio, di solito i video di Youtube vengono riprodotti a risoluzione 480. Che è buona bene inteso, ma non ottima per cogliere piccoli elementi (come le espressioni micro facciali che possono far pensare all’utente che sono DFN).
Attenzione media in calo
A questo fattore si aggiunga l’elemento attenzione.
Sempre più spesso si è divenuti multitasking. Fare più cose insieme. Guardare un video sul cellulare non implica per forza seguirlo completamente. Si accende il video, lo si guarda, poi magari lo si ascolta. La media di attenzione è scesa a 8,5 secondi.
Se quindi uniamo un interesse scarso per un qualunque video (che pure si è scelto di vedere) con gli altri aspetti legati alla banda disponibile (e quella che si vuole utilizzare spendendo soldi o riducendo la disponibilità offerta dall’abbonamento che si ha con il gestore di telefonia cui si è iscritti), la qualità di default del video si comprende come un formato e un software di generazione video come quello dei ricercatori russi di Samsung sia, per i creatori di DFN (stante le dichiarazioni e l’analisi offerta nei link sopra) una killer application e una manna dal cielo per tutti i creatori di DFN che vogliono colpire l’utente medio.
Echo Chamber e social virali
Si aggiunga che molti social network, per quanto si stiano sforzando di bloccare le fake news (quelle diciamo più facili da tracciare) sui video non hanno ancora dei software automatizzati, ergo si necessita la presenza di operatori umani (che costano) per discernere.
Se consideriamo che basta un video caricato da una fonte attendibile (o ritenuta tale) e il gioco della DFN è fatto.
Attenzione media dei Media
In ultima istanza la necessità di controllare ogni fonte dovrebbe ricadere, malgrado il controllo più o meno efficace dei social network, sui media. I giornalisti (specialmente su temi multimediali quindi Tv e Siti internet) che divengono gli ultimi bastioni della difesa dalle DFN.
E’ possibile? Si e no.
Il giornalista medio, in questo periodo della storia, è sotto forti pressioni. Da una parte deve produrre analisi e articoli di qualità perché è pagato per farlo. In più ha il compito (non sempre dichiarato) di creare notizie tratte da fonti attendibili ma che siano intriganti. Maggior intrigo maggior traffico, maggior traffico maggior pubblicità.
Una DFN mira anche a questa necessità di avere “breaking news” e quindi, se ben confezionata, potrebbe facilmente ingannare il giornalista.
Poniamo un esempio semplice. Se, poniamo le elezioni appena trascorse, si vedesse un video della Deputata Bonino (o Obama se preferite) dire che tutti gli africani devono essere bloccati con le navi della marina e, in caso di violazione delle acque territoriali, difendere le coste italiane aprendo il fuoco, sarebbe poco credibile.
Tuttavia se la stessa cosa fosse detta (bene inteso in una strategia di denigrazione di DFN non sto dicendo che sia mai successo) dal capogruppo Salvini o la capogruppo Meloni (che in vero ha già parlato di blocco navale, ma mai di aprire il fuoco) si capisce come una DFN possa essere assorbita più facilmente.
E il giornalista in questione, che ha necessità di fare breaking news, senza indole malevole ma con buon senso, potrebbe essere spinto a credere vero il video ed a pubblicarlo. Di li’ la proliferazione avrebbe inizio e sarebbe quasi impossibile da fermare. In tal senso, sulla questione costi, Fake News e azioni dei politici, si è espressa anche l’Unione europea con delle analisi molto dettagliate.
Ovviamente questi sono casi specifici, ma se consideriamo che il nuovo software della Samsung abbassa i costi iniziali per gestire almeno una parte della creazione di una DFN, si capisce come questa nuova applicazione, utile divertente per fare video tra amici, possa rivelarsi uno strumento devastante per il mondo dei media, specialmente durante campagne politiche.
Se si vuol ridere, per stemperare la preoccupazione per un mondo dove la capacità del singolo di capire se il politico in questione sia vero o meno, si può sempre guardare “the Congress” dove una Digitalizzata Robin Wright ritrova il suo Avatar digitale intrappolata per sempre dai media.
Si scherza… ancora per poco.
