11 Ottobre 2019

Pinterest, stop ai contenuti autolesionisti grazie all’AI

Fortune

Condividi su facebook
Condividi su twitter
Condividi su linkedin
Condividi su whatsapp

Sebbene i social siano stati creati per connettere le persone, e per aprire loro nuove finestre sul mondo, c’è anche un risvolto negativo nell’uso che se ne può fare. Le piattaforme sociali, infatti, possono diventare zone franche dove diffondere senza troppe restrizioni messaggi negativi, incitazioni al suicidio o all’anoressia, azioni di bullismo. Inoltre, è stato dimostrato come i social possano peggiorare disturbi mentali come ansia e depressione. Il controllo dei contenuti è una delle sfide che tutti i social oggi devono affrontare: Pinterest sembra aver trovato una buona strada.

La piattaforma di condivisione di “ispirazioni” sotto forma di foto, ha annunciato in un post sul suo blog che nell’ultimo anno ha usato l’intelligenza artificiale per identificare e automaticamente nascondere contenuti che mostrano, giustificano o incoraggiano l’autolesionismo. Grazie all’AI, Pinterest ha annunciato di essere riuscito a diminuire dell’88% i contenuti relativi al suicidio e all’autolesionismo, con una velocità triplicata rispetto a prima. Oltre ad utilizzare l’intelligenza artificiale, Pinterest ha “bannato” dalla suo sistema di ricerca oltre 4.600 termini e frasi relative all’autolesionismo. Se cercate qualcuno dei termini “rimossi” la piattaforma vi rimanderà a una pagina che offrirà all’utente supporto gratuiti da alcuni esperti provenienti da associazioni esterne come la National Suicide Prevention Lifeline, Vibrant Emotional Health, e Samaritans.

Secondo i dati della piattaforma, Pintereset “è consultato dall’80% delle mamme statunitensi stando a una ricerca di comScore,  che accedono all’app per trovare idee su tutto, dalla programmazione di una gita alla preparazione dei pasti. Il nostro obiettivo è portare loro un’ispirazione di cui possano fidarsi”. Infatti, Pinterest ha introdotto nell’app anche una sezione “#pinterestwellbeing” dove sono raccolte attività per stare bene, sentirsi meglio, migliorare l’umore. Qualche esempio? Esercizi per “migliorare l’attenzione”, “sentire compassione per gli altri”, “respirare profondamente”.

Pinterest non è l’unico social ad aver corso ai ripari per limitare i contenuti relativi all’autolesionismo: anche Facebook e Instagram (entrambi di proprietà di Mark Zuckerberg) hanno usato restrizioni, per le quali non è più permessa non solo la pubblicazione di foto che potrebbero indurre al suicidio o all’autolesionismo, ma anche la condivisione di disegni o fumetti di questo tipo. Molti hashtag su Instagram sono “bannati” e le ricerche limitate per quanto riguarda contenuti anche di altro genere (come le pratiche fetish) che comunque implicano atti di violenza. 

A portata di click

Acquista Fortune in formato digitale per leggere i nostri contenuti su qualsiasi dispositivo.

In ufficio o a casa tua

Abbonati per ricevere dove preferisci ogni nuova uscita della versione cartacea di Fortune.

Rimani aggiornato

Iscriviti alla nostra newsletter per ricevere la migliore selezione degli articoli di Fortune.