Quanto siamo fragili. E come può essere facile manipolarci, proponendoci realtà parallele (ed erronee) in cui cadere con grande facilità. Se qualcuno pensa di essere impermeabile alle false informazioni, forte di una robusta competenza sui temi, probabilmente si sopravvaluta. O si sbaglia. Perché in almeno un caso su quattro, e ci teniamo larghi, il deepfake ci inganna. E ci porta su una strada accidentata, in termine di conoscenza, aprendo la via alla divulgazione delle fake news.
Insomma, alla fine siamo animali semplici da ingannare per chi vuole portarci fuori strada. Viene proprio da dirlo, leggendo una ricerca condotta dagli esperti dell’University College di Londra coordinati da Lewis Griffin e apparsa su Plos One, che è andata a valutare proprio la nostra permeabilità alla fake news proposte da un deepfake.
Prima di tutto, capiamoci sui termini. Quando parliamo di deepfake (oggi sono disponibili diversi algoritmi in grado di ottemperare a questa funzione) ci riferiamo a mezzi d’informazione sintetici, nati e sviluppati per essere del tutto sovrapponibili a una persona reale. In pratica, questi programmi, che possono essere considerati come veri e propri modelli di AI o intelligenza artificiale generativa, sono in grado di riprodurre video o audio di un individuo reale, semplicemente partendo da un pugno di dati.
Ovviamente, in questo settore, lo sviluppo è stato davvero imperioso. E così, se qualche tempo fa era necessaria un’attenta e protratta analisi della fonte ‘in carne e ossa’ per formare il profilo falso, sia esso solo audio o anche video, oggi ci sono algoritmi di libero accesso che riescono a realizzare “copie” fasulle affidabili in pochi minuti. E bastano davvero pochi giorni a chi ci lavora per impratichirsi ed utilizzare questi programmi.
La ricerca, in particolare, ha preso in esame un semplice algoritmo di sintesi vocale, dando vita a 50 frasi “ingannevoli” sia in inglese che in mandarino. Il tutto, con l’obiettivo classico della tecnologia deepfake: manipolare un percorso informativo al fine di ottenere contenuti falsi. Ma, va detto, non solo finti. Perché possono risultare convincenti, ed ingannarci.
Proprio attraverso il processo di creazione di contenuti che paiono autentici, ma al contrario sono artificiali. Sia chiaro: la tecnologia di per sé non è “cattiva”. Pensate solamente al potenziale impiego di questi strumenti dopo che un paziente viene operato alle corde vocali e perde la sua voce naturale, o piuttosto al mondo dello spettacolo. È piuttosto l’impiego che se ne fa a renderla potenzialmente davvero “nefasta” in termini di influenzamento dell’opinione pubblica. E lo studio inglese lo conferma.
Poco meno di 530 persone sono state soggette al test che mostra quanto e come l’impatto di percorsi comunicativi del tutto falsi possa essere considerato affidabile. O meglio: i partecipanti allo studio sono stati sottoposti all’ascolto di contenuti artificiali e reali per vedere quanto e come potessero essere in grado di riconoscere il vero dal fasullo.
Ebbene: i discorsi falsi sono stati correttamente riconosciuti solamente dal 73% dei partecipanti all’indagine. E anche dopo un’adeguata preparazione sull’impatto potenziale del deepfake, il dato è migliorato solo di poco. Insomma, rischiamo di subire supinamente realtà create ad arte per ingannarci, come confermano gli autori della ricerca (primo nome Kimberly Mai). E la formazione non ci aiuta. O almeno non ci basta per essere tranquilli e serenamente in grado di riconoscere l’inganno.
Anche perché gli algoritmi con cui sono stati creati i modelli impiegati nella ricerca sono relativamente datati. E molti altri sistemi sono già disponibili, creati con l’obiettivo di rendere sempre più sofisticato il percorso ingannevole. E renderci ancora più esposti ai rischi di incappare, nostro malgrado, nei tanti deepfake che si aggirano nelle selve dell’informatica applicata.
