Meta sta per usare le vostre chat con il suo assistente AI nel suo motore pubblicitario, ha annunciato l’azienda mercoledì. A partire dal 16 dicembre, le conversazioni con Meta AI—il chatbot integrato su Facebook, Instagram, Messenger e perfino nei nuovi occhiali smart Ray-Ban Display—saranno utilizzate per determinare quali annunci e raccomandazioni compariranno nel tuo feed.
Gli utenti inizieranno a ricevere notifiche ufficiali sul cambiamento dal 7 ottobre. Non esiste un’opzione di esclusione: se non volete che le vostre conversazioni influenzino la pubblicità, l’unica scelta è non usare affatto Meta AI.
Emily Bender, linguista all’Università di Washington e coautrice del celebre paper “Stochastic Parrots” sui rischi dei modelli linguistici di grandi dimensioni (LLM), ha detto a Fortune che l’azienda sta oltrepassando una linea pericolosa.
“Stanno già sfruttando i tuoi clic e post per mirare alla pubblicità. Ora stanno estraendo le tue conversazioni con i chatbot” ha dichiarato. “La prossima ovvia preoccupazione è se il chatbot stesso inizierà a spingere le persone a rivelare informazioni che le rendano più targetizzabili”.
Per Bender si tratta di sorveglianza mascherata da personalizzazione, con capacità senza precedenti di estrarre dettagli personali dagli utenti.
“Prima, i sistemi di Meta osservavano con chi ti collegavi e cosa facevano le tue comunità. Ora è direttamente: cosa stai dicendo all’azienda?” ha spiegato. “E naturalmente possono combinare tutto questo con gli altri dati che già possiedono”.
Secondo Bender, Meta sfrutta quella che definisce “illusione di privacy”. Molti confidano ai chatbot cose che non posterebbero mai in pubblico, convinti che l’AI sia un ascoltatore neutrale.
“C’è questa illusione di privacy, quando in realtà stai solo consegnando i tuoi dati a un’azienda” ha detto.
Meta invece descrive l’aggiornamento come una “naturale evoluzione” della sua strategia di personalizzazione.
Christy Harris, responsabile privacy e data policy di Meta, ha dichiarato ai giornalisti che molti utenti già presumevano che le interazioni con i chatbot influenzassero la pubblicità.
“Vogliamo essere super trasparenti e avvisare prima di iniziare a usare questi dati in un nuovo modo, anche se molti pensavano già lo facessimo” ha detto, secondo CNBC.
Harris ha fatto un esempio positivo: se chiedi a Meta AI di aiutarti a organizzare una vacanza in famiglia, potresti vedere più Reels a tema viaggi e annunci di hotel nel tuo feed. Quelle interazioni, digitate sul telefono o captate dai microfoni degli occhiali Ray-Ban, saranno ora trattate come nuovi segnali pubblicitari.
Meta ha assicurato a Fortune che non compariranno annunci direttamente dentro le conversazioni con il chatbot. L’azienda cita inoltre strumenti di privacy già esistenti: gli utenti possono “resettare o correggere l’AI” dalle impostazioni, e la conservazione dei dati segue le regole generali di privacy di Meta.
Meta ha investito miliardi nell’infrastruttura per l’AI generativa, correndo verso la “superintelligenza” e promuovendo il suo assistente come capace di generare immagini, scrivere messaggi o pianificare la giornata. Secondo l’azienda, Meta AI conta già oltre 1 miliardo di utenti attivi al mese, sebbene la cifra includa l’attività complessiva su tutta la suite di app, non solo sul servizio dedicato.
Mark Zuckerberg è stato chiaro sul fine ultimo: l’AI conversazionale deve sostenersi da sola. A maggio aveva detto che Meta AI avrebbe generato ricavi tramite pubblicità o abbonamenti. L’annuncio di mercoledì è il primo passo concreto per integrare le chat AI nel cuore del business pubblicitario di Meta.
Rischi per i più giovani
Le implicazioni di questo cambiamento potrebbero essere particolarmente gravi per adolescenti e giovani adulti, che costituiscono la maggioranza degli utenti di Instagram e sono sempre più attratti dai “compagni” AI.
Bender definisce questi chatbot “una piaga” e avverte che il loro presentarsi come amici sempre disponibili può essere dannoso.
“Abbiamo visto persone morire per questo” ha detto, riferendosi a casi documentati di danni derivati da interazioni con chatbot. “E aggiungere la pubblicità a tutto ciò sembra solo rendere la cosa ancora più problematica”.
La studiosa teme che più Meta leghi gli assistenti AI al business pubblicitario, più forti diventino gli incentivi a trattenere gli utenti nelle conversazioni—non per aiutarli, ma per massimizzare l’engagement.
“Probabilmente aggiunge anche incentivi finanziari per Meta a far sì che le persone continuino a chattare con i chatbot—ottimizzando sull’engagement, che è uno dei vettori di danno” ha detto.
Meta replica che le sue protezioni per i giovani valgono anche nelle interazioni con l’AI.
“Con gli account Instagram Teen, gli adolescenti hanno di default l’impostazione più restrittiva sul controllo dei contenuti sensibili, quindi hanno ancora meno probabilità di ricevere raccomandazioni inappropriate—e i minori di 16 anni non possono cambiarla senza il consenso dei genitori. Non è diverso nelle interazioni con l’AI di Meta” ha detto un portavoce a Fortune.
L’articolo originale è disponibile su Fortune.com.
