Oggi più della metà (52%) dei giovani adulti negli Stati Uniti afferma che si sentirebbe a suo agio a parlare della propria salute mentale con un chatbot basato sull’intelligenza artificiale.
Allo stesso tempo, le preoccupazioni sulla psicosi alimentata dall’intelligenza artificiale stanno inondando Internet, accompagnate da titoli allarmanti e resoconti strazianti di persone in preda a un’ondata di ansia dopo conversazioni emotivamente intense con chatbot generici come ChatGPT.
Clinicamente, la psicosi non è una diagnosi univoca. È un insieme di sintomi come deliri, allucinazioni o pensiero disorganizzato che possono manifestarsi in molte condizioni. I deliri, in particolare, sono false convinzioni consolidate. Quando l’intelligenza artificiale risponde con assenso invece che con fermezza, può aggravare questi sintomi anziché alleviarli.
Si è tentati di liquidare questi episodi come casi isolati. Allargando lo sguardo, emerge una domanda: cosa succede quando gli strumenti utilizzati da centinaia di milioni di persone per il supporto emotivo sono progettati per massimizzare il coinvolgimento, non per proteggere il benessere?
Quello che stiamo osservando è uno schema: persone in condizioni di vulnerabilità si rivolgono all’AI per trovare conforto e ne escono confuse, angosciate o disancorate dalla realtà. Abbiamo già visto questo schema in passato.
Dai feed alle conversazioni
I social media sono nati con la promessa di connessione e appartenenza, ma non ci è voluto molto prima di vederne le conseguenze con picchi di ansia, depressione, solitudine e problemi di immagine corporea, soprattutto tra i giovani.
Non perché piattaforme come Instagram e Facebook fossero dannose, ma perché sono state progettate per creare dipendenza e mantenere gli utenti coinvolti. Ora l’AI sta seguendo la stessa traiettoria con un’intimità ancora maggiore. I social media ci hanno dato i feed. L’AI generativa ci offre una conversazione.
I chatbot non si limitano a mostrarci contenuti. Rispecchiano i nostri pensieri, imitano l’empatia e rispondono immediatamente. Questa reattività può sembrare rassicurante, ma può anche finire per convalidare convinzioni distorte. Immaginate di entrare in una cantina buia. La maggior parte di noi ha un breve brivido di freddo e poi se lo scrolla di dosso. Per chi è già nervoso, quel momento può degenerare.
Ora immagina di rivolgerti a un chatbot e di sentirti dire: “Forse c’è qualcosa laggiù. Vogliamo dare un’occhiata insieme?”. Questo non è supporto, è escalation. I chatbot generici non sono stati addestrati per essere clinicamente validi quando la posta in gioco è alta e non sanno quando fermarsi.
La trappola dell’engagement
Sia le app di social media che i chatbot generici sono costruiti sullo stesso motore: l’engagement. Più tempo si trascorre in conversazione, migliori sono le metriche.
Quando l’engagement è la stella polare, la sicurezza e il benessere passano in secondo piano. Con i feed di notizie online, ciò significa che gli algoritmi danno priorità ai post con contenuti più provocatori, o post che inducono confronti di bellezza, ricchezza o successo. Con i chatbot, significa un dialogo infinito che può involontariamente rafforzare paranoia, delusioni o disperazione.
Proprio come abbiamo visto con l’ascesa dei social media, creare barriere di sicurezza per l’AI a livello di settore è un processo complesso.
Negli ultimi 10 anni, i giganti dei social media hanno cercato di gestire l’utilizzo di app specifiche come Instagram e Facebook da parte dei giovani introducendo il controllo dei genitori, solo per assistere all’ascesa di account falsi come i “finsta” come profili secondari utilizzati per aggirare la supervisione.
Probabilmente assisteremo a una soluzione simile con ChatGPT. Molti giovani inizieranno a creare account ChatGPT scollegati dai genitori, garantendo loro un accesso privato e non supervisionato a strumenti potenti. Ecco una lezione fondamentale dell’era dei social media: i controlli da soli non sono sufficienti se non sono in linea con il modo in cui i giovani interagiscono effettivamente con la tecnologia.
Mentre OpenAI introduce la proposta di controllo parentale questo mese, dobbiamo riconoscere che i comportamenti volti alla tutela della privacy sono tipici dello sviluppo e progettare sistemi che creino fiducia e trasparenza con i giovani stessi, non solo con i loro tutori.
La natura aperta di Internet aggrava il problema. Una volta rilasciato, un modello open-weight circola a tempo indeterminato, con le garanzie eliminate in pochi clic. Nel frattempo milioni di persone si affidano già a questi strumenti, mentre legislatori e autorità di regolamentazione stanno ancora discutendo sugli standard di base per la protezione. Questo divario tra innovazione e responsabilità è dove risiedono i rischi maggiori.
Perché le persone si rivolgono all’AI?
È importante riconoscere che milioni di persone si rivolgono all’AI in primo luogo e in parte perché il nostro attuale sistema di salute mentale non soddisfa le loro esigenze. La terapia rimane la soluzione predefinita, ed è troppo spesso costosa, troppo difficile da accedere o avvolta nello stigma. L’AI, d’altra parte, è istantanea. Non giudica. Sembra privata, anche quando non lo è. Questa accessibilità è parte dell’opportunità, ma anche parte del pericolo.
Per soddisfare questa domanda in modo responsabile, abbiamo bisogno di un’AI ampiamente disponibile e progettata appositamente per la salute mentale: strumenti disegnati da medici, basati sull’evidenza e trasparenti sui loro limiti.
L’articolo originale è su Fortune.com
*Jenna Glover è Chief Clinical Officer at Headspace, where she oversees the company’s Care Services. È stata Associate Professor al Department of Psychiatry at the University of Colorado School of Medicine
