I chatbot basati sull’intelligenza artificiale (AI) sono stati oggetto di analisi: nel mirino i rischi per la salute mentale che derivano dall’interazione degli utenti con la tecnologia o dal loro utilizzo a scopo terapeutico o di supporto durante crisi mentali acute. Mentre le aziende rispondono alle critiche di utenti ed esperti, una delle nuove leader di OpenAI afferma che la questione è al centro del suo lavoro.
A maggio, Fidji Simo, ex dipendente di Meta, è stata assunta come Ceo delle Applicazioni di OpenAI. Incaricata di gestire qualsiasi aspetto al di fuori dell’ambito di ricerca e infrastruttura informatica del Ceo Sam Altman per i modelli di intelligenza artificiale dell’azienda, la manager ha descritto in dettaglio un netto contrasto tra il lavoro presso l’azienda tecnologica guidata da Mark Zuckerberg e quella di Altman in un’intervista a Wired.
“Direi che la cosa che non credo siamo riusciti a fare bene in Meta è stata in realtà l’anticipazione dei rischi che i nostri prodotti avrebbero creato nella società“, ha detto Simo a Wired. “In OpenAI questi rischi sono molto reali”.
Meta non ha risposto alla richiesta di commento di Fortune. Simo ha lavorato per un decennio a Meta, quando ancora si chiamava Facebook: dal 2011 a luglio 2021. Negli ultimi due anni e mezzo ha diretto l’app di Facebook.
Nell’agosto 2021 è diventata Ceo del servizio di consegna di generi alimentari Instacart. Ha guidato l’azienda per quattro anni prima di entrare a far parte di una delle startup più redditizie al mondo come Ceo secondario ad agosto. Una delle prime iniziative di Simo presso OpenAI è stata relativa alla salute mentale, come ha raccontato la quarantenne a Wired. Le è stato affidato inoltre il lancio del programma di certificazione AI dell’azienda per contribuire a rafforzare le competenze dei dipendenti in materia di intelligenza artificiale.
“È quindi una responsabilità molto grande, ma credo che abbiamo sia la cultura aziendale che le priorità per affrontarla davvero in anticipo”, ha affermato Simo.
Quando è entrata a far parte del colosso tecnologico, Simo ha affermato di essersi immediatamente conto che la salute mentale doveva essere affrontata.
La psicosi da AI
Un numero crescente di persone è stato vittima di quella che a volte viene definita psicosi da intelligenza artificiale. Gli esperti temono che chatbot come ChatGPT possano alimentare deliri e paranoie negli utenti e che abbiano portato a ricoveri ospedalieri, divorzi o addirittura alla morte.
Un audit aziendale di OpenAI, condotto dalla rivista medica peer-reviewed BMJ e pubblicato a ottobre, ha rivelato che centinaia di migliaia di utenti di ChatGPT mostrano segni di psicosi, mania o intenti suicidari ogni settimana.
Un recente studio della Brown University ha inoltre rilevato che, poiché sempre più persone si rivolgono a ChatGPT e ad altri modelli linguistici di grandi dimensioni per ottenere consigli sulla salute mentale, questi violano sistematicamente gli standard etici sulla salute mentale stabiliti da organizzazioni come l’American Psychological Association.
Simo ha affermato di dover percorrere una strada “inesplorata” per affrontare questi problemi, aggiungendo che esiste un rischio intrinseco nel fatto che OpenAI implementi costantemente funzionalità diverse. “Ogni settimana emergono nuovi comportamenti con funzionalità che lanciamo e che ci fanno dire: ‘Oh, questa è un’altra sfida per la sicurezza’”, ha detto Simo a Wired.
Tuttavia, Simo ha supervisionato la recente introduzione da parte dell’azienda del parental control per gli account adolescenti di ChatGPT e ha aggiunto che OpenAI sta lavorando proteggere gli adolescenti. Anche Meta si è mossa per implementare il parental control entro l’inizio del prossimo anno.
Tuttavia, “fare la cosa giusta ogni singola volta è eccezionalmente difficile”, ha detto Simo. E questo a causa dell’enorme volume di utenti (800 milioni a settimana). “Quindi quello che stiamo cercando di fare è individuare il maggior numero possibile di comportamenti non ottimali e poi perfezionare costantemente i nostri modelli”.
Questo articolo è pubblicato su Fortune.com
FOTO: JOEL SAGET/AFP via Getty Images
