Oltre 200 associazioni per la tutela dell’infanzia ed esperti chiedono a YouTube di vietare completamente i contenuti di bassa qualità generati dall’intelligenza artificiale sulla sua piattaforma dedicata ai bambini, sostenendo che questi video, prodotti algoritmicamente, stanno alterando il cervello dei più piccoli e generando milioni di dollari di profitto, mentre genitori e autorità di regolamentazione chiudono un occhio.
La lettera aperta, organizzata dall’associazione per la tutela dell’infanzia Fairplay e indirizzata al Ceo di YouTube Neal Mohan e al Ceo di Google Sundar Pichai, è stata firmata da oltre 135 organizzazioni. Tra i firmatari figurano l’American Federation of Teachers e l’American Counseling Association, nonché ricercatori di spicco come Jonathan Haidt, autore di “The Anxious Generation”. Gli autori della lettera affermano che YouTube non solo non riesce a impedire che i contenuti di bassa qualità generati dall’IA raggiungano i bambini, ma ne trae anche attivamente profitto.
“I video generati dall’AI non sono altro che un’escalation di una miriade di problemi che YouTube già presenta nell’interazione con i bambini sulle sue piattaforme”, ha dichiarato a Fortune Rachel Franz, direttrice del programma Young Children Thrive Offline di Fairplay. “È importante affrontare questo fenomeno di scarsa qualità legato all’IA, ma è altrettanto importante criticare YouTube per il modo in cui la sua piattaforma è progettata per invogliare gli utenti a trascorrere più tempo su contenuti che non sono necessariamente correlati all’AI”.
Cos’è esattamente la “pornografia generata dall’AI”?
Il termine si riferisce a un’ondata di video prodotti in massa e generati dall’intelligenza artificiale che inondano piattaforme come YouTube. I contenuti sono economici da realizzare, spesso bizzarri o insensati, e progettati per catturare e mantenere l’attenzione dei giovani (o, in realtà, di chiunque) spettatori. E, caro lettore, i video sono bizzarri: animali dei cartoni animati che eseguono compiti ripetitivi in un’estetica inquietante; falsi video “educativi” con informazioni confuse; o loop ipnotici senza alcuno scopo preciso. Il New York Times ha documentato il fenomeno in un’inchiesta di febbraio, trovando tali video integrati in YouTube Kids, una piattaforma che YouTube ha pubblicizzato come uno spazio sicuro e controllato per i bambini.
“Gran parte dei contenuti generati dall’AI è progettata per dirottare l’attenzione dei bambini, soprattutto dei più piccoli che stanno appena iniziando a sviluppare il controllo degli impulsi, e può davvero distorcere la realtà, creare confusione e influenzare il modo in cui i bambini comprendono il mondo che li circonda”, ha affermato Franz, che ha un background nello sviluppo della prima infanzia. “Questo non è di per sé un problema legato all’educazione dei figli. La piattaforma consiglia costantemente contenuti basati sull’intelligenza artificiale ai giovani utenti in un modo che rende praticamente impossibile per loro evitarli”.
Gli incentivi finanziari sono sbalorditivi. Fairplay ha scoperto che i principali canali di contenuti di bassa qualità generati dall’IA e rivolti ai bambini hanno guadagnato oltre 4,25 milioni di dollari all’anno, con alcuni creatori che pubblicizzano apertamente i profitti derivanti da “contenuti ipnotici e privi di trama creati dall’IA”. La lettera sosteneva che nessuna politica sarà sufficiente finché la piattaforma non eliminerà gli incentivi finanziari per i creatori di questi video.
“Solo circa il 5% dei video su YouTube per bambini sotto gli 8 anni è effettivamente di alta qualità. E all’interno di questo 5% ci sono dibattiti sulla reale qualità di tali contenuti”, ha affermato Franz. YouTube, tuttavia, ritiene che questa percentuale sia in contrasto con le proprie norme.
“Abbiamo standard elevati per i contenuti di YouTube Kids, tra cui la limitazione dei contenuti generati dall’IA nell’app a un piccolo gruppo di canali di alta qualità”, ha dichiarato a Fortune il portavoce di YouTube, Boot Bullwinkle. “Offriamo inoltre ai genitori la possibilità di bloccare i canali. Su YouTube, diamo priorità alla trasparenza per quanto riguarda i contenuti basati sull’AI, etichettando i contenuti generati dai nostri strumenti di IA e richiedendo ai creatori di divulgare informazioni sui contenuti realistici creati con l’AI. Stiamo costantemente evolvendo il nostro approccio per rimanere al passo con l’evoluzione dell’ecosistema”.
Come risolvere il problema
La coalizione si basa sulla ricerca sullo sviluppo infantile per sostenere che non si tratta di una preoccupazione di nicchia. Anche gli adulti possono avere difficoltà a identificare correttamente i contenuti generati dall’AI, riuscendoci solo nel 50% dei casi. Ancora più preoccupante, l’esposizione ripetuta rende le persone più propense a percepire le immagini generate dall’AI come reali, anche dopo essere state informate che sono finte. Per i bambini piccoli, il cui cervello sta ancora costruendo gli schemi fondamentali della realtà, il danno si aggrava nel tempo.
Le richieste di Fairplay sono di natura strutturale, non estetica. La coalizione chiede a YouTube di etichettare chiaramente tutti i contenuti generati dall’AI sulla piattaforma; di vietare completamente i contenuti generati dall’AI su YouTube Kids; e di proibire i contenuti generati dall’AI “pensati per i bambini” sulla piattaforma principale di YouTube. Fairplay chiede inoltre a YouTube di impedire al suo algoritmo di consigliare contenuti generati dall’AI agli utenti di età inferiore ai 18 anni; di introdurre un’opzione di controllo parentale per disabilitare i contenuti generati dall’AI, che sono disattivati di default; e di interrompere tutti gli investimenti in contenuti generati dall’IA destinati ai bambini.
Quest’ultima richiesta si rivolge direttamente all’investimento di YouTube in Animaj, uno studio di intrattenimento per bambini basato sull’intelligenza artificiale e finanziato dal Google AI Futures Fund. “YouTube sta essenzialmente investendo nel danneggiare i bambini con l’acquisizione di Animaj”, ha affermato Franz.
Nella dichiarazione rilasciata a Fortune, il portavoce di Bullwinkle ha confermato che YouTube sta sviluppando etichette specifiche per l’AI su YouTube Kids, senza però fornire una tempistica precisa. Il CEO di YouTube, Neal Mohan, aveva già indicato la “gestione della scarsa qualità dell’IA” come una priorità assoluta nella sua lettera annuale. “Per ridurre la diffusione di contenuti di bassa qualità basati sull’AI, stiamo lavorando attivamente sui nostri sistemi consolidati, che si sono dimostrati molto efficaci nel contrastare spam e clickbait, e nel ridurre la diffusione di contenuti ripetitivi e di bassa qualità”, si legge nella lettera.
Bullwinkle ha inoltre sottolineato che i 15 canali menzionati nell’articolo del Times non sono presenti su YouTube Kids e che la piattaforma ha rimosso i video che violavano le sue norme sulla sicurezza dei minori. Ma per Franz, questo non è sufficiente.
“Non dovrebbe spettare ai singoli ricercatori indicare alcuni canali come esempi di attività potenzialmente dannose per i bambini, e basare su questo le decisioni di YouTube in merito alla rimozione di contenuti dalla piattaforma. Con il caso Elsagate, ad esempio, YouTube ha rimosso 150.000 video e diverse centinaia di canali”, ha affermato Franz. Si riferiva allo scandalo del 2017, in cui migliaia di video su YouTube e YouTube Kids utilizzavano personaggi famosi per bambini, come Elsa di Frozen e Peppa Pig, per nascondere contenuti profondamente inquietanti, tra cui violenza esplicita, temi sessuali e uso di droghe, il tutto mascherato da tag come “educativo” e “divertente” per eludere i filtri e raggiungere i bambini.
“Sappiamo quindi che YouTube ha la capacità di monitorare, tracciare e rimuovere questi video su larga scala, ma al momento sta adottando un approccio superficiale, intervenendo sui canali che ricevono maggiore attenzione mediatica”, ha continuato Franz. “Ma questo non risolve il problema nella sua interezza”.
L’articolo originale è su Fortune.com
