Il Chief Security Officer di Qualtrics, Assaf Keren, voleva sensibilizzare i suoi colleghi sulla crescente qualità e pericolosità dei deepfake. Così ha creato un video in cui il CEO dell’azienda appariva come un’intelligenza artificiale malvagia inviata dal futuro per avvertire i dipendenti della minaccia imminente delle impersonificazioni video e vocali.
Ha speso solo 20 dollari per l’esperimento. “Per pigrizia, non perché non potessi farlo gratis,” ha detto Keren durante l’evento Brainstorm AI di Fortune a San Francisco questa settimana.
Keren ha riconosciuto che Qualtrics, fornitore di sondaggi online, potrebbe non essere un bersaglio prioritario per i cyberattacchi. Tuttavia, aziende finanziarie di alto profilo, come il suo ex datore di lavoro PayPal, potrebbero esserlo. Kathleen Peters, Chief Innovation Officer di Experian, ha sottolineato che considera i deepfake una minaccia reale per la reputazione aziendale, in grado di erodere la fiducia nei leader.
Oggi, i cloni video e vocali di CEO e persone comuni sono sempre più diffusi. “Li vediamo spesso in azione,” ha dichiarato Keren. In un caso, un attore malevolo ha addestrato un’intelligenza artificiale usando le trascrizioni delle call sui risultati finanziari di un’azienda non identificata per creare un attacco phishing rivolto ai dipendenti dell’area finanziaria, mimando accuratamente il modo di parlare di un dirigente.
Due anni fa, la situazione era diversa, ha ricordato Keren. All’epoca si parlava del potenziale dei deepfake, ma non erano ancora così diffusi. “È un vettore di attacco in evoluzione,” ha aggiunto, evidenziando come sia solo uno dei tanti strumenti alimentati dall’intelligenza artificiale nel kit dei hacker.
Shiv Ramji, presidente della Customer Identity Cloud presso l’azienda di software di sicurezza Okta, ha previsto che presto gli esseri umani non saranno più in grado di distinguere un deepfake da un contenuto autentico. Le macchine, invece, supereranno gli umani nel rilevare le falsificazioni.
Sebbene l’intelligenza artificiale senza controllo rappresenti un rischio, i leader della sicurezza informatica incoraggiano comunque i loro dipendenti a sperimentare con le nuove tecnologie, ma con cautela.
Peters suggerisce che le aziende istituiscano un risk council, un gruppo di dirigenti senior con l’autorità di far rispettare le misure di sicurezza, per spingere i leader a considerare la sicurezza tanto quanto la crescita dei ricavi.
Con l’introduzione di intelligenze artificiali agentiche, che svolgono compiti per conto dei lavoratori umani, Ramji ha raccomandato di riflettere sui dati e sui compiti autorizzati a tali agenti. Un essere umano dovrebbe comunque supervisionare e verificare le attività dell’agente, prevedendo un’“esplosione” di interazioni tra agenti.
“Le macchine parleranno tra loro e lo faranno 24 ore su 24, 7 giorni su 7, tutto l’anno. Non sono limitate dai modelli di interazione umani”, ha dichiarato Ramji.
Questa storia è stata pubblicata originariamente su Fortune.com.
