Secondo Eric Schmidt, veterano della Silicon Valley, una volta che i sistemi di intelligenza artificiale inizieranno ad auto-migliorare le proprie capacità, per garantire che rimangano sicuri sarà necessario qualcuno che sia pronto e in grado di spegnerli.
L’ex Ceo di Google ha avvertito che i sistemi di AI potrebbero aver bisogno di un interruttore di spegnimento se dovessero diventare troppo potenti. Secondo Schmidt, man mano che i sistemi guadagneranno autonomia, potrebbero rappresentare nuove e più gravi minacce per l’umanità. “Alla fine si dice al computer: ‘Impara tutto e fai tutto’”, ha detto Schmidt domenica in un’intervista con ABC News. “E questo è pericoloso. Quando il sistema sarà in grado di auto-migliorarsi, dovremo pensare seriamente a staccare la spina”.
Schmidt ha previsto che l’AI passerà da agenti specifici come Microsoft Copilot a sistemi più complessi in grado di prendere decisioni da soli. Quando si raggiungerà questo stadio, sarà il momento per gli esseri umani di intervenire e prendere in considerazione la possibilità di spegnere il sistema, ha detto Schmidt. Le persone dovranno inoltre assicurarsi che l’AI stessa non possa contrastare gli sforzi per spegnerla.
“In teoria, è meglio avere qualcuno con la mano sulla spina, metaforicamente”, ha detto Schmidt, che ha lavorato per decenni nella Silicon Valley. Nel 2001, i fondatori di Google Sergey Brin e Larry Page lo hanno assunto per aiutarli a far crescere la loro azienda. All’epoca, Brin e Page sentivano di aver bisogno di una mano ferma con un’esperienza dirigenziale di alto profilo mentre loro si dedicavano alla ricerca e allo sviluppo. Nel corso della sua carriera, Schmidt ha assistito in prima fila alle numerose ondate di innovazione dell’industria tecnologica e in effetti i suoi timori sono condivisi da altri luminari dell’intelligenza artificiale.
Il premio Nobel Geoffrey Hinton, le cui scoperte gli sono valse il soprannome di “padrino dell’AI”, ha dichiarato che nel 2023 “non riusciva a vedere un percorso che garantisse la sicurezza” perché l’intelligenza artificiale poteva pensare da sola. Sam Altman, amministratore delegato di OpenAI, ha affermato che lo scenario peggiore sarebbe quello dello “spegnimento delle luci per tutti noi”. Elon Musk, cofondatore di OpenAI e poi rivale, ha avvertito che l’AI potrebbe portare alla distruzione della civiltà. L’intelligenza artificiale “molto probabilmente sarà grandiosa”, ha detto Musk a ottobre. “C’è questa possibilità secondaria, del 10%-20%, che vada male. Le probabilità che vada male non sono pari a zero”.
Anche Schmidt ha sottolineato gli aspetti positivi dell’AI. “La cosa importante è che la potenza di questa tecnologia significa che ogni persona avrà in tasca l’equivalente di un polimaterico”, ha detto Schmidt a George Stephanopoulos della ABC. “Oltre agli appunti e agli scrittori, avrete un Einstein e un Leonardo da Vinci che vi daranno consigli sul vostro programma. Questo varrà per tutti gli abitanti del pianeta”.
Per garantire che l’umanità raccolga questi benefici senza incorrere in danni significativi, Schmidt ritiene che i governi dovranno iniziare a regolamentare l’AI. L’ex Ceo di Google ha fatto riferimento alle conversazioni sull’argomento avute con il defunto Henry Kissinger, con il quale ha scritto ‘Genesis: Artificial Intelligence, Hope, and the Human Spirit’.
“Il governo ha un ruolo”, ha detto Schmidt. “Il dottor Kissinger era convinto che il futuro dell’intelligenza non dovesse essere lasciato a persone come me. I tecnologi non dovrebbero essere gli unici a prendere queste decisioni”. Finora gli Stati Uniti non hanno attuato alcuna regolamentazione sull’AI a livello federale. Tuttavia, la California ha presentato una serie di proposte di legge per proteggere l’industria cinematografica e per reprimere i falsi realizzati con questa tecnologia. Ma il governatore Gavin Newsom ha posto il veto su una proposta di legge completa, nota come ‘SB 1047’, che è stata fortemente osteggiata da venture capital e dirigenti del settore tecnologico a causa dei severi requisiti di rendicontazione che avrebbe imposto agli sviluppatori.
Questa storia è stata originariamente pubblicata su Fortune.com
