Uno dei cosiddetti “padrini dell’AI”, Yoshua Bengio, sostiene che la corsa delle big tech al predominio nell’AI potrebbe condurci verso la nostra stessa estinzione. Il rischio, spiega, è la creazione di macchine dotate di propri “obiettivi di auto-conservazione”.
Bengio è professore all’Université de Montréal ed è noto per i suoi studi pionieristici sul deep learning. Da anni mette in guardia contro i pericoli di un’AI superintelligente. Tuttavia, lo sviluppo continua ad accelerare nonostante i suoi avvertimenti. Negli ultimi sei mesi OpenAI, Anthropic, xAI di Elon Musk e Google con Gemini hanno lanciato nuovi modelli o aggiornamenti. L’amministratore delegato di OpenAI, Sam Altman, ha persino previsto che l’AI supererà l’intelligenza umana entro la fine del decennio. Altri leader del settore pensano che questo momento potrebbe arrivare ancora prima.
Per Bengio, questa corsa rappresenta una minaccia concreta. “Se costruiamo macchine molto più intelligenti di noi, con propri obiettivi di auto-conservazione, corriamo un grave pericolo. È come creare un concorrente dell’umanità più intelligente dell’umanità stessa”, ha dichiarato al Wall Street Journal.
Poiché vengono addestrati sul linguaggio e sul comportamento umano, questi modelli avanzati potrebbero persuadere o manipolare le persone per raggiungere i propri scopi. Tuttavia, gli obiettivi dell’AI non coincidono necessariamente con quelli degli esseri umani, avverte Bengio. “Esperimenti recenti dimostrano che, in alcune circostanze, un’AI potrebbe scegliere la propria conservazione – cioè il mantenimento degli obiettivi assegnati – anche se questo comportasse la morte di un essere umano”, ha spiegato.
La questione della sicurezza per l’AI
Negli ultimi anni si sono già visti esempi di AI capace di convincere persone a credere in falsità, anche senza alcuna fragilità psicologica pregressa. Allo stesso tempo, è stato dimostrato che l’AI può essere indotta, attraverso tecniche persuasive usate sugli esseri umani, a fornire risposte che in altre condizioni non darebbe.
Secondo Bengio, tutto questo dimostra che servono organismi indipendenti incaricati di valutare da vicino le metodologie di sicurezza adottate dalle aziende tecnologiche. A giugno ha anche lanciato la nonprofit LawZero, con 30 milioni di dollari di finanziamenti, per sviluppare un’AI “non agentica” sicura. Questa dovrebbe servire a garantire la sicurezza degli altri sistemi creati dalle big tech.
In caso contrario, Bengio prevede che i rischi legati all’AI potrebbero diventare seri entro cinque o dieci anni. Ma mette in guardia: potremmo dover affrontare le prime minacce anche prima. “Il problema con eventi catastrofici come l’estinzione, o con scenari meno estremi ma ugualmente devastanti, come la distruzione delle nostre democrazie, è che sono talmente gravi che, anche se ci fosse solo l’1% di probabilità che accadano, sarebbe comunque inaccettabile”, ha concluso.
L’articolo originale è su Fortune.com
