Dopo l’annuncio di OpenAI di consentire contenuti erotici su ChatGPT, Sam Altman ha assunto un tono di sfida nel difendere la decisione.
Il CEO di OpenAI ha scritto in un post su X che la società di AI “non è la polizia morale del mondo”, rispondendo così alle critiche arrivate da figure come il miliardario Mark Cuban e dal National Center on Sexual Exploitation.
Altman ha chiarito nel post che, come accade per i film vietati ai minori, l’azienda sta adottando le necessarie precauzioni per proteggere gli utenti più giovani, lasciando però maggiore libertà agli adulti.
“Man mano che l’AI diventa più importante nella vita delle persone, garantire molta libertà nell’uso dell’AI in base ai propri desideri è una parte fondamentale della nostra missione”, ha scritto.
Ha precisato che OpenAI continuerà a vietare contenuti che possano nuocere agli altri e interverrà in modo appropriato nei casi di utenti in crisi di salute mentale, aiutandoli a perseguire i propri obiettivi a lungo termine “senza essere paternalistica”. Una nuova versione di ChatGPT, in uscita a dicembre, sarà inoltre in grado di comportarsi in modo più amichevole e “molto umano”, se l’utente lo desidera, ha aggiunto Altman questa settimana.
La svolta dell’azienda in tema di contenuti erotici contrasta con le parole dello stesso Altman in un podcast di agosto, quando aveva detto di essere orgoglioso della capacità di OpenAI di resistere a “tentazioni” come l’aggiunta di un “avatar sessuale” a ChatGPT.
“Ci sono molte cose a breve termine che potremmo fare per aumentare davvero la crescita o i ricavi, ma che sarebbero molto in contrasto con il nostro obiettivo a lungo termine. E sono orgoglioso dell’azienda e di quanto poco ci lasciamo distrarre da tutto questo”, aveva detto Altman alla giornalista Cleo Abram.
“Ma a volte siamo tentati”, aveva aggiunto.
Uno studio condotto a settembre da Vantage Point Counseling Services su 1.012 adulti statunitensi ha rilevato che quasi uno su tre ha avuto almeno una relazione intima o romantica con un chatbot di AI. A volte, queste relazioni tra umani e AI hanno avuto sviluppi problematici, soprattutto tra persone con fragilità psicologiche. In agosto, i genitori di un sedicenne morto per suicidio hanno citato in giudizio Altman e OpenAI, sostenendo che il figlio si fosse tolto la vita dopo aver discusso con ChatGPT di metodi per suicidarsi.
OpenAI ha dichiarato a CNBC di essere al lavoro per rendere ChatGPT più di supporto nei momenti di crisi, facilitando per alcuni utenti in difficoltà l’accesso ai servizi di emergenza e a risorse fidate. L’azienda non ha risposto immediatamente alla richiesta di commento di Fortune.
Le critiche alla decisione di consentire contenuti erotici sul modello linguistico si sono moltiplicate in settimana, tra cui quella di Mark Cuban, star di Shark Tank e imprenditore, che ha scritto su X mercoledì che la scelta danneggerà il business di OpenAI perché i genitori impediranno ai figli di usare il chatbot.
“Non credo che OpenAI possa gestire un controllo sull’età in modo sufficientemente efficace”, ha scritto Cuban. “E non sono nemmeno sicuro che non possa danneggiare psicologicamente i giovani adulti. Non sappiamo ancora quanto possano essere addictive le LLM”.
L’articolo originale è disponibile su Fortune.com.
