Solo pochi scienziati al mondo si guadagnano il privilegio di vincere un Premio Nobel, un risultato che capita una volta nella vita e che rimane negli annali della storia. Ciò rende ancora più straordinario il fatto che Geoffrey Hinton abbia parlato per poco più di un minuto, prima di attaccare il Ceo di OpenAI durante un briefing stampa convocato in onore del suo premio per la Fisica. Con appena due ore di sonno, l’informatico, chiaramente umiliato, ha detto che non aveva idea di essere stato nominato in occasione della premiazione.
Dopo aver ringraziato due dei suoi principali collaboratori – Jerry Sejnowski e il compianto David Rumelhart, entrambi definiti “mentori” – Hinton ha poi riconosciuto il ruolo che i suoi studenti dell’Università di Toronto hanno svolto nel corso degli anni, contribuendo a realizzare il lavoro di una vita. “Hanno fatto grandi cose”, ha detto martedì. “Sono particolarmente orgoglioso del fatto che uno dei miei studenti abbia licenziato Sam Altman. E penso che sarebbe stato meglio lasciarlo lì”.
Si avvicina l’anniversario del colpo di stato nel consiglio di amministrazione
Hinton si riferiva a Ilya Sutskever. L’ex scienziato di OpenAI si era infatti unito a Helen Toner e ad altri due membri del consiglio di amministrazione dell’organizzazione non profit per licenziare l’amministratore delegato con uno spettacolare colpo di stato lo scorso novembre. Sutskever si era subito pentito ruolo avuto nella crisi di OpenAI e Altman era tornato al suo posto nel giro di pochi giorni.
Hinton e Sutskever avevano collaborato con Alex Krizhevsky nel 2012 per creare un algoritmo in grado di identificare gli oggetti nelle immagini con un grado di certezza mai raggiunto prima. Soprannominato “AlexNet”, viene spesso definito il Big Bang dell’IA. Spesso definito uno dei padrini dell’intelligenza artificiale, Hinton ha elogiato il lavoro dei suoi colleghi Yoshua Bengio e Yann LeCun prima di fare ripetute osservazioni autoironiche. Tra queste, l’ammissione di aver abbandonato da giovane lo studio della fisica – campo in cui è stato premiato dal comitato del Nobel – perché non riusciva a gestire la matematica.
La notizia del premio di Hinton giunge a poche settimane di distanza dal primo anniversario della breve, sorprendente e infine fallimentare estromissione di Altman, nonché dal secondo anniversario del lancio di ChatGPT, avvenuto alla fine di novembre 2022. Il chatbot di AI generativa di OpenAI ha scatenato un’ondata di interesse per la tecnologia, in quanto il grande pubblico ha iniziato a rendersi conto per la prima volta che le macchine, nell’arco di una generazione, potrebbero superare l’uomo in termini di intelligenza. “Alcuni validi ricercatori ritengono che nei prossimi 20 anni l’AI diventerà più intelligente di noi e dobbiamo pensare bene a cosa succederà”, ha dichiarato martedì Hinton.
Preoccupazioni sulla sicurezza dell’AI
Altman è una figura controversa nella comunità di chi si occupa di intelligenza artificiale. È stato definito bugiardo dall’ex membro del consiglio di amministrazione di OpenAI Helen Toner e ha privato di risorse il suo team per la Sicurezza dell’AI, secondo quanto dichiarato da un’ex leader del team.
Altman sta attualmente cercando di eliminare lo status di no-profit di OpenAI mentre corre per monetizzare la sua tecnologia, creando profonde divisioni all’interno dell’organizzazione. Ciò ha provocato l’esodo dei ricercatori dell’azienda che si sono concentrati sull’allineamento dell’intelligenza artificiale generale con gli interessi dell’umanità, specie ancora dominante sulla Terra. Alla domanda sul suo commento denigratorio nei confronti di Altman all’inizio del briefing, Hinton ha spiegato il suo ragionamento: “Con il tempo è emerso che Sam Altman era molto meno interessato alla sicurezza che ai profitti – ha detto – e credo che questo sia un peccato”.
Fortune ha contattato OpenAI per un commento.
La richiesta di Hinton di una ricerca urgente
Luminari come Hinton, 76 anni, temono che anteporre il profitto all’etica sia intrinsecamente pericoloso in questa fase. Per gli scienziati è già difficile prevedere come i modelli di IA più avanzati di oggi, con i loro trilioni di parametri, arrivino effettivamente ai loro risultati. In effetti stanno diventando delle scatole nere, e una volta accaduto ciò sarà sempre più difficile garantire che gli esseri umani mantengano la supremazia.
“Quando avremo cose più intelligenti di noi, nessuno sa se saremo in grado di controllarle”, ha detto Hinton, che si è impegnato a dedicare i suoi sforzi alla difesa della sicurezza dell’IA piuttosto che alla ricerca di frontiera. Il rischio di incognite è il motivo per cui il legislatore californiano ha proposto una legge sulla sicurezza delle IA, la prima del suo genere negli Stati Uniti. Tuttavia, investitori influenti della Silicon Valley come Marc Andreessen hanno esercitato forti pressioni contro la legge, che è stata infine bloccata dal governatore Gavin Newsom il mese scorso.
Alla domanda sui rischi potenzialmente catastrofico posto da un’AI fuori controllo, Hinton ha ammesso che non c’è alcuna certezza. “Al momento non sappiamo come evitarli tutti – ha detto – per questo abbiamo urgentemente bisogno di più ricerca”.
Questa storia è stata pubblicata originariamente su Fortune.com
Foto di Ramsey Cardy – Sportsfile for Collision/Getty Images
