Le persone amano parlare con l’intelligenza artificiale, forse anche troppo. Secondo alcuni lavoratori a contratto che collaborano con Meta per analizzare le interazioni con i chatbot dell’azienda, gli utenti condividono con sorprendente leggerezza informazioni private come nome, numero di telefono e indirizzo e-mail con l’AI di Meta.
Quattro revisori assunti da Meta tramite le piattaforme Alignerr e Outlier (di proprietà di Scale AI) hanno raccontato a Business Insider che i progetti su Meta mostrano una frequenza maggiore di dati non oscurati rispetto a quelli svolti per altri clienti della Silicon Valley. In particolare, su piattaforme come Facebook e Instagram, molti utenti tendono a trattare i chatbot come se fossero amici o partner, inviando persino selfie e foto esplicite.
Il fenomeno dell’eccessivo coinvolgimento emotivo con i chatbot è noto, e l’uso di revisori umani da parte di Meta per migliorare la qualità delle interazioni non è una novità. Già nel 2019 The Guardian aveva rivelato che i collaboratori di Apple ascoltavano contenuti sensibili provenienti da Siri, mentre Bloomberg riportava come Amazon impiegasse migliaia di dipendenti per trascrivere frammenti vocali di Alexa. Allo stesso modo, Vice e Motherboard documentavano l’uso di contractor da parte di Microsoft per ascoltare registrazioni di Xbox, talvolta contenenti voci di bambini.
Tuttavia, il caso di Meta si distingue per il passato problematico dell’azienda nella gestione dei dati e per l’ampio ricorso a terze parti.
Meta e la lunga ombra del caso Cambridge Analytica
Nel 2018 New York Times e Guardian rivelarono come Cambridge Analytica, società vicina a interessi repubblicani, avesse sfruttato Facebook per raccogliere – senza consenso – i dati di decine di milioni di utenti, usandoli per influenzare l’elezione di Donald Trump nel 2016. L’azienda utilizzava un’app di quiz psicologici in grado di accedere non solo ai dati degli utenti, ma anche a quelli dei loro amici, evidenziando i limiti del sistema di controllo di Facebook. Lo scandalo costò a Meta una multa da 5 miliardi di dollari inflitta dalla Federal Trade Commission, tra le più alte della storia per violazione della privacy.
Secondo i documenti interni divulgati dalla whistleblower Frances Haugen nel 2021, la dirigenza di Meta avrebbe spesso privilegiato la crescita e l’engagement rispetto alla tutela dei dati personali.
Non è tutto. Nel 2019 Bloomberg rivelò che Facebook aveva pagato contractor per trascrivere conversazioni audio degli utenti senza sapere con precisione come fossero state ottenute (l’azienda affermò all’epoca che gli utenti avevano acconsentito e che il programma era stato “sospeso”).
Nel tentativo di ripulire la propria immagine, Facebook si è ribrandizzata in Meta nell’ottobre 2021, promuovendo il metaverso come simbolo di una nuova fase. Ma il passato in materia di protezione dei dati continua a pesare.
Se è vero che l’uso di revisori per l’addestramento di modelli linguistici è una pratica diffusa nel settore, le rivelazioni sul livello di accesso ai dati personali nei progetti Meta riaprono interrogativi sulla governance della privacy nei servizi del colosso di Menlo Park.
Meta, in una dichiarazione a Fortune, ha affermato di avere “rigide politiche che regolano l’accesso ai dati personali da parte di dipendenti e collaboratori”. L’azienda ha aggiunto che i contractor possono accedere ad alcune informazioni personali solo in conformità con le politiche sulla privacy e le condizioni d’uso pubblicate. “Qualsiasi condivisione o uso non autorizzato dei dati personali viola le nostre regole, e sarà soggetta ad azioni disciplinari”, ha concluso l’azienda.
L’articolo originale è su Fortune.com
