Persino gli amministratori delegati delle principali aziende di AI stanno iniziando ad ammettere le insidie e le stranezze di questa tecnologia. Lunedì Sam Altman, amministratore delegato di OpenAI, ha dichiarato di aver vissuto “un’esperienza stranissima” leggendo un thread su Reddit dedicato a Codex, il nuovo strumento della sua azienda destinato agli sviluppatori.
“Presumo che sia tutto falso/bot, anche se in questo caso so che la crescita di Codex è davvero forte e la tendenza qui è reale”, ha scritto Altman in un post su X.
Il thread di Reddit a cui fa riferimento Sam Altman è eccessivamente positivo riguardo a Codex di OpenAI e parla anche di Claude Code di Anthropic.
“Penso che ci siano un sacco di cose in ballo”, ha continuato Sam Altman. ” Le persone reali hanno acquisito le peculiarità del linguaggio Llm, la folla Extremely Online si muove in modo molto correlato, il ciclo dell’hype ha un estremismo del tipo ‘è finita/siamo tornati’, la pressione di ottimizzazione delle piattaforme social sull’aumento del coinvolgimento e il modo correlato in cui funziona la monetizzazione dei creatori, altre aziende hanno fatto ‘astroturfing’ con noi, quindi sono particolarmente sensibile a questo, e molte altre cose (tra cui probabilmente alcuni bot)”.
OpenAI non ha risposto immediatamente alla richiesta di commento di Fortune.
Altman non è il primo a sottolineare il fatto che le persone stanno iniziando a parlare in modo più simile ai bot di IA nella vita reale. Hiromu Yakura, ricercatore post-dottorato presso il Max Planck Institute for Human Development di Berlino, ha notato delle differenze nel proprio vocabolario circa un anno dopo il debutto di ChatGPT alla fine del 2022.
Yakura, insieme ad altri ricercatori del Max Planck Institute, ha analizzato milioni di e-mail, saggi e altri testi, oltre a centinaia di migliaia di video YouTube ed episodi di podcast, e ha riscontrato un aumento delle parole di ChatGPT, come approfondire, esaminare ed esplorare, nei 18 mesi successivi al rilascio dello strumento di AI.
“I modelli memorizzati nella tecnologia AI sembrano trasmettersi alla mente umana”, ha dichiarato a ‘Scientific American’ il coautore dello studio Levin Brinkmann, anch’egli dell’Istituto Max Planck per lo sviluppo umano.
Un altro studio dell’Università della California-Berkeley ha scoperto che le risposte di ChatGPT rafforzano la discriminazione dialettale. In altre parole, ChatGPT favorisce l’inglese americano standard, il che può frustrare gli utenti non americani. Ciò sottolinea l’idea che ChatGPT abbia un modo standard di rispondere agli utenti, che a sua volta influenza il modo in cui parlano e scrivono.
“L’effetto netto è che in qualche modo l’AI di Twitter/Reddit sembra molto falsa, cosa che non era affatto vera uno o due anni fa”, ha detto Altman.
Vaikunthan Rajaratnam, neurochirurgo e partner della cattedra Unesco, ha affermato in un articolo su LinkedIn che sta lavorando per decodificare ChatGPT in modo che suoni effettivamente come lui. Sebbene abbia affermato che alcuni dei vantaggi di ChatGPT includono un vocabolario e una grammatica arricchiti e una maggiore chiarezza e struttura nella comunicazione, la “diminuzione dell’autenticità” è stata una delle principali insidie, così come la perdita dei dialetti regionali e della voce personale.
“Attraverso prompt accuratamente elaborati e un perfezionamento iterativo, l’ho ottimizzato per riflettere il mio tono, il mio vocabolario, il mio modo di pensare”, ha scritto Rajaratnam. “Quando lo uso ora, che sia per redigere newsletter, fare brainstorming o scrivere articoli accademici, spesso suona stranamente familiare perché suona come me”.
Tuttavia, altri dirigenti e miliardari hanno notato alcune delle stranezze e delle insidie dell’IA, anche se nel complesso sono relativamente entusiasti di questa tecnologia. Mark Cuban, ex investitore di Shark Tank e proprietario dei Dallas Mavericks, ha affermato in un post su Bluesky questa settimana che c’è una cosa che l’IA ancora non ha: l’umiltà.
“Un piccolo conforto per chi è contrario all’AI”, ha scritto. “Il più grande punto debole dell’AI è la sua incapacità di dire ‘non lo so’”.
Ha aggiunto: “La nostra capacità di ammettere ciò che non sappiamo darà sempre un vantaggio agli esseri umani”.
L’articolo originale è stato pubblicato su Fortune.com
FOTO: ANDREW HARNIK – GETTY IMAGES
