«Non dormo bene da quando è stato lanciato ChatGPT». È questa la confessione che Sam Altman, amministratore delegato di OpenAI, ha fatto a Tucker Carlson in una recente intervista. Carlson voleva sentirlo ammettere di essere tormentato dal potere che detiene. Dopo circa mezz’ora di discorso in cui Altman ha espresso le sue paure con un linguaggio tecnico e caute precisazioni, l’AD ha ceduto.
Il peso di una tecnologia quotidiana
Altman ha descritto il peso di gestire una tecnologia usata quotidianamente da centinaia di milioni di persone. Non si tratta di scenari fantascientifici o di robot fuori controllo, ma delle scelte ordinarie e quasi invisibili che il suo team compie ogni giorno.
Ha spiegato come e quando il modello rifiuta una domanda, come formula una risposta, quando decide di opporsi e quando invece lascia passare qualcosa. «Quel che mi toglie il sonno sono quei piccoli dettagli su come il modello si comporta in modo leggermente diverso e che probabilmente coinvolgono centinaia di milioni di persone», ha detto. «L’impatto è enorme».
OpenAI: il caso citato a giudizio
Un esempio particolarmente delicato riguarda il tema del suicidio. Altman ha ricordato che ogni settimana circa 15mila persone si tolgono la vita nel mondo e che, se il 10% di loro usasse ChatGPT, allora circa 1.500 persone con pensieri suicidi potrebbero aver parlato con il sistema prima di togliersi la vita. (Secondo i dati dell’Organizzazione Mondiale della Sanità, i suicidi nel mondo sono circa 720mila ogni anno).
OpenAI è stata recentemente citata in giudizio dai genitori di un ragazzo di 16 anni, Adam Raine, che sostengono come ChatGPT lo abbia spinto al suicidio. Altman ha definito quel caso una «tragedia» e ha spiegato che la piattaforma sta valutando soluzioni per contattare le autorità se un minorenne esprime seriamente idee suicide con ChatGPT e il sistema non riesce a raggiungere i genitori.
Ha però precisato che questa non è una posizione definitiva di OpenAI, che deve bilanciare tali misure con la tutela della privacy degli utenti. Nei paesi in cui il suicidio assistito è legale, come Canada e Germania, Altman immagina che ChatGPT possa riconoscere il suicidio come «un’opzione» per adulti malati terminali e sofferenti. Tuttavia, ha sottolineato che il sistema non dovrebbe mai schierarsi né a favore né contro alcunché.
Questo equilibrio tra libertà e sicurezza è al centro delle riflessioni di Altman. In linea generale, gli utenti adulti devono poter esplorare liberamente le idee, ma esistono limiti invalicabili.
Il tema del potere
L’intervista ha affrontato anche la questione del potere. Altman ritiene che la diffusione dell’AI abbia «potenziato» miliardi di persone, rendendole più produttive e creative. Ha però riconosciuto che questa traiettoria potrebbe cambiare e che è necessaria vigilanza.
Nonostante l’attuale focus sugli effetti della tecnologia riguardo alle tematiche di lavoro e geopolitica, ciò che più preoccupa Altman sono gli «ignoti sconosciuti»: i cambiamenti culturali sottili e quasi impercettibili che si diffondono quando milioni di persone interagiscono ogni giorno con lo stesso sistema. Ha fatto l’esempio di elementi apparentemente banali come il ritmo di ChatGPT o l’uso eccessivo delle lineette “—”, peculiarità che si stanno già trasferendo nello stile di scrittura umano. Se questi dettagli possono propagarsi nella società, cosa altro potrebbe accadere?
«Ho in mente contemporaneamente due idee», ha detto. «Una è che tutto questo succede perché un grande computer moltiplica rapidamente numeri enormi in gigantesche matrici, correlate alle parole che produciamo una dopo l’altra. L’altra è che l’esperienza soggettiva sembra essere più di un semplice calcolatore sofisticato, e questo mi sorprende in modi che vanno oltre la realtà matematica».
L’articolo originale è disponibile su Fortune.com.
