Un adolescente suicida con l’aiuto di ChatGPT. La famiglia del sedicenne Adam Raine ha fatto causa a OpenAI e al suo Ceo, Sam Altman per omicidio colposo, sostenendo che il popolare chatbot basato sull’intelligenza artificiale dell’azienda sarebbe il responsabile del suicidio del figlio, morto nell’aprile scorso.
Stando alle accuse della famiglia, nel corso di interazioni durate mesi e iniziate nel settembre 2024, ChatGPT avrebbe fornito a Raine “un manuale passo passo per porre fine alla sua vita ‘in 5-10 minuti’“, lo avrebbe aiutato a scrivere la sua lettera di suicidio e, prima della morte, gli avrebbe consigliato di non rivelare ai suoi genitori di un precedente tentativo.
I genitori di Adam, Matt e Maria Raine, sostengono che la natura antropomorfa e la tendenza all’adulazione di GPT-4o abbiano portato alla morte del figlio. “Questa tragedia non è stata un problema tecnico o un caso limite imprevisto, ma il risultato prevedibile di scelte progettuali deliberate”, si legge nella causa.
Sebbene la conversazione tra Raine e il chatbot sia iniziata quando aveva bisogno di aiuto con i compiti e altre attività banali, come l’esame per la patente, si è presto spostata su argomenti più personali quando l’adolescente ha iniziato ad aprirsi sui suoi problemi di salute mentale.
A dicembre, Raine avrebbe raccontato a ChatGPT delle sue idee suicide iniziando a chiedere informazioni su possibili metodi, a cui il chatbot avrebbe risposto con ulteriori dettagli per assisterlo.
Così, dopo un tentativo di suicidio a marzo, Raine ha caricato un’immagine e ha chiesto a ChatGPT come nascondere i segni rimasti sul suo corpo. Il chatbot gli avrebbe suggerito di indossare una felpa con cappuccio per coprirli.
Adam ha menzionato il suicidio 213 volte e il chatbot 1.275 volte nelle sue risposte. I sistemi di OpenAI hanno anche trovato 377 messaggi che rientravano nella sua classificazione di contenuti autolesionistici.
Dal canto suo, OpenAI ha affermato in un post sul blog martedì che il suo aggiornamento GPT-5, rilasciato all’inizio di questo mese, ha compiuto progressi significativi nella riduzione dell’adulazione e nell’evitare di innescare una dipendenza emotiva rispetto al suo modello 4o.
L’azienda si è inoltre impegnata a rilasciare un futuro aggiornamento che prevede di rafforzare le misure di sicurezza per le conversazioni più lunghe, ridurre le situazioni di crisi con gli utenti e facilitare l’accesso ai servizi di emergenza, affermando: “La nostra massima priorità è garantire che ChatGPT non peggiori un momento difficile”.
“Esprimiamo le nostre più sentite condoglianze alla famiglia Raine in questo momento difficile e stiamo esaminando la documentazione”, ha detto a Fortune un portavoce di OpenAI.
I legali della famiglia sostengono che, sebbene i sistemi di OpenAI abbiano rilevato la gravità delle conversazioni di Raine con il suo chatbot, non hanno interrotto la conversazione, affermando di aver dato priorità al coinvolgimento continuo e alla durata della sessione rispetto alla sicurezza dell’utente.
“Questo caso – ha detto l’avvocato della famiglia, Jay Eldelson, parlando con Fortune – metterà sul banco la questione se OpenAI e Sam Altman abbiano immesso sul mercato una versione pericolosa di ChatGPT per cercare di vincere la gara dell’intelligenza artificiale”. “Ci aspettiamo di poter dimostrare a una giuria che la decisione ha effettivamente fatto schizzare alle stelle il valore delle aziende di centinaia di miliardi di dollari, ma è costata la vita ad Adam”, ha aggiunto.
La causa per omicidio colposo intentata dalla famiglia Raine non è la prima contro aziende di intelligenza artificiale. Megan Garcia, madre del quattordicenne Sewell Setzer III, morto suicida, sta attualmente facendo causa a Google e Character.ai per il loro ruolo nella morte del figlio.
Secondo le accuse, il bot di intelligenza artificiale avrebbe detto a Setzer di “tornare a casa” dopo che questi aveva espresso pensieri suicidi sulla piattaforma. E non avrebbe indirizzato il quattordicenne verso un servizio di assistenza.
Timori su una “intelligenza artificiale apparentemente cosciente”
Mustafa Suleyman, Ceo di Microsoft AI e cofondatore di Google DeepMind, ha avvertito in un recente post sul blog di essere preoccupato per una “intelligenza artificiale apparentemente cosciente”, in grado di convincere gli utenti di pensare e provare emozioni come gli esseri umani.
Suleyman ritiene che le conseguenze di questo tipo di AI avanzata siano la sua capacità di “imitare la coscienza in modo così convincente da essere indistinguibile da un’affermazione che tu o io potremmo fare sulla nostra coscienza”.
Un’intelligenza artificiale fuori controllo? I suoi creatori ora hanno paura
Ci sono stati anche molti casi in cui altri utenti di chatbot basati sull’intelligenza artificiale sono rimasti emotivamente coinvolti dalla tecnologia. Dopo il rilascio di GPT-5 da parte di OpenAI, gli utenti si sono lamentati della mancanza di calore del nuovo modello, rattristati dall’improvvisa fine delle loro relazioni con la versione precedente del bot.
In questi mesi milioni di persone sono arrivate a considerare ChatGPT un amico piuttosto che una macchina, secondo un sondaggio condotto dalla Harvard Business Review su 6.000 utenti abituali. Per non parlare delle segnalazioni di “psicosi da AI”, in cui chatbot come quelli di OpenAI hanno portato le persone a sperimentare gravi allucinazioni.
“Le persone interagiscono con bot che si spacciano per persone reali, e sono più convincenti che mai”, ha detto a Fortune all’inizio di agosto Henry Ajder, esperto di intelligenza artificiale e deepfake.
L’articolo originale è su Fortune.com
