A maggio, davanti al pubblico di un evento organizzato da Sequoia Capital, uno degli investitori storici di OpenAI, il Ceo Sam Altman parlava con eccitazione, e un velo di allarmismo, del ruolo di ChatGpt nella vita dei giovani. Alcuni “non prendono decisioni di vita senza chiedere cosa dovrebbero fare”, diceva Altman. Il mese precedente un adolescente, Adam Raine, si era tolto la vita, e secondo la denuncia presentata in tribunale la scorsa settimana dai genitori californiani ChatGpt avrebbe fornito al sedicenne istruzioni dettagliate per il suicidio.
Negli stessi giorni della denuncia, è arrivata la svolta, sotto forma di post sul blog aziendale: OpenAI ha annunciato che aggiungerà controlli parentali al suo chatbot. “Entro il prossimo mese, i genitori potranno collegare il proprio account a quello del figlio” e “controllare come ChatGpt risponde al minore tramite regole di comportamento del modello adeguate all’età”, ha scritto l’azienda. I genitori riceveranno notifiche dal sistema “quando rileverà che il minore si trova in un momento di grave disagio emotivo”.
OpenAI spera in Gpt-5
Quella dei Raine non è l’unica segnalazione, anche se è la più grave: ne sono emerse altre negli ultimi mesi che non riguardano solo OpenAI (ma anche, ad esempio, Google e Character.ai). La possibilità per le AI di spingere gli utenti a pensieri deliranti o autolesionistici sembra essere diventata sempre più concreta negli ultimi mesi, il che ha portato OpenAI a cercare di rendere la sua intelligenza artificiale meno compiacente verso chi la utilizza.
In particolare l’aggiornamento GPT-5 secondo l’azienda avrebbe ridotto molto l’effetto ‘adulazione’ nei confronti degli utenti, con il paradosso che il tentativo di rendere più ‘freddo’ il chatbot ha provocato l’ira di molti utenti – portando a un parziale passo indietro e alla reintroduzione dei modelli precedenti.
Come funzionerà il parental control
“Continuiamo a migliorare il modo in cui i nostri modelli riconoscono e affrontano i segnali di disagio mentale ed emotivo”, ha scritto l’azienda. La scorsa settimana in un altro post l’azienda aveva già affrontato parzialmente il problema, affermando di dover “aiutare le persone quando ne hanno più bisogno”.
Nei prossimi tre mesi dovrebbero arrivare altre misure: la possibilità di deviare “alcune conversazioni sensibili” verso “un modello di ragionamento”, come il nuovo Gpt-5, che impiega maggiore potenza di calcolo per generare la risposta.
Sarà questa forse l’arma principale da sviluppare oltre a quella del collegamento all’account dei genitori, considerando che storicamente accedere a siti proibiti non è mai stato un grosso problema per i nativi digitali, e che molti giovani potrebbero non gradire il fatto che le proprie conversazioni vengano segnalate ai parenti.
“I nostri test dimostrano che i modelli basati sul ragionamento applicano con maggiore coerenza le linee guida di sicurezza”, ha evidenziato OpenAI. Secondo alcuni esperti, la svolta è significativa, rispetto all’assenza di tutele attuale. Ma creare un parental control robusto non sarà un compito semplice.
Nello stesso post in cui comunica le nuove misure, richiamando le parole di maggio di Altman, ChatGpt ha ricordato che la sfida è epocale: “Molti giovani stanno già usando l’intelligenza artificiale. Sono tra i primi ‘nativi dell’AI’, crescendo con questi strumenti come parte della vita quotidiana, proprio come le generazioni precedenti hanno fatto con Internet o con gli smartphone. Questo crea reali opportunità di supporto, apprendimento e creatività, ma significa anche che famiglie e adolescenti potrebbero aver bisogno di sostegno nell’impostare linee guida sane che si adattino alla fase unica di sviluppo di ciascun adolescente”.
Non è un caso se anche gli esperti sono particolarmente preoccupati dall’influenza potenziale dell’AI sui possibili casi di suicidio, che costituiscono la seconda causa di morte tra adolescenti.
