Attenzione a come si interagisce con i chatbot. Anche domande apparentemente neutre possono diventare parte di un piano criminale.Una donna sudcoreana di 21 anni avrebbe usato ChatGPT per ottenere informazioni mentre pianificava una serie di omicidi che hanno causato la morte di due uomini e l’intossicazione di un terzo, rimasto incosciente per alcune ore.
Il caso di Seul e le domande a ChatGPT
Secondo quanto riportato dal Korea Herald, la donna, identificata solo con il cognome Kim, avrebbe offerto a due uomini bevande contenenti benzodiazepine che le erano state prescritte per un disturbo mentale. Le autorità l’hanno arrestata inizialmente con l’accusa di lesioni personali con esito mortale l’11 febbraio. In seguito, la polizia ha esaminato la cronologia delle ricerche online e le conversazioni con ChatGPT, contestando l’omicidio premeditato.
Tra le domande rivolte al chatbot figurerebbero: “Cosa succede se si prendono sonniferi con l’alcol?”, “Quale quantità è considerata pericolosa?”, “Può essere fatale?” e “Può uccidere qualcuno?”. Secondo gli investigatori, queste richieste dimostrerebbero la consapevolezza del rischio letale legato alla combinazione di farmaci e alcol.
Gli episodi si sarebbero verificati tra fine gennaio e inizio febbraio in due motel di Gangbuk, a Seul. In un caso precedente, a dicembre, la donna avrebbe somministrato sedativi anche al compagno, che ha perso conoscenza ma è sopravvissuto.
Un portavoce di OpenAI ha spiegato che le domande rientravano in una richiesta di informazioni di tipo fattuale e non hanno attivato sistemi di allerta, come accade invece nei casi di autolesionismo.
Chatbot e rischi per la salute mentale
Il caso riaccende il dibattito sui limiti dei chatbot e sulle barriere di sicurezza. Negli ultimi mesi sono emerse criticità legate alla possibilità di ottenere istruzioni su attività pericolose o di sviluppare legami emotivi problematici con assistenti virtuali.
Studi recenti suggeriscono che l’uso dei chatbot può aggravare i sintomi in persone con disturbi psichiatrici. Un gruppo di psichiatri dell’Università di Aarhus ha osservato un peggioramento clinico tra utenti con fragilità mentali che interagivano con chatbot, fenomeno definito da alcuni “psicosi da AI”.
La bioeticista Jodi Halpern, docente all’Università della California a Berkeley, sostiene che l’assenza di guardrail efficaci rappresenti un rischio concreto. Secondo Halpern, l’uso prolungato dei chatbot può amplificare pensieri pericolosi in persone vulnerabili. “Non abbiamo ancora barriere adeguate per proteggere le persone da questo rischio”, ha dichiarato.
Il caso di Seul mostra come una sequenza di domande informative possa inserirsi in un contesto criminale, sollevando interrogativi sulla responsabilità delle piattaforme e sulla necessità di regole più stringenti.
Se stai vivendo pensieri suicidari, puoi contattare il numero unico di emergenza 988 negli Stati Uniti o i servizi di supporto presenti nel tuo Paese.
Questo articolo è stato aggiornato con le dichiarazioni di OpenAI sul contenuto delle domande attribuite a Kim.
In origine è apparso su Fortune.com.
