Dietro Dvps, il progetto che vuole produrre un’AI in grado di “apprendere dal mondo reale”, finanziato con 29 mln dalla Commissione europea e capitanato dall’italiana Translated, c’è un’ambizione precisa. Il Ceo della startup, Marco Trombetti, ne parla con Fortune Italia senza troppi giri di parole: “Vogliamo creare il foundation model più utilizzato d’Europa”, superando i limiti della tecnologia alla base degli Llm attuali, come quelli targati ChatGpt.
Trombetti ha organizzato due giornate di lavoro nelle ville romane arroccate su una collinetta dell’Eur che normalmente ospitano il team di Translated e le startup di Pi Campus, il veicolo di venture capital nato dalla stessa azienda di Trombetti. A Roma sono arrivati la maggior parte dei 70 ricercatori e scienziati europei specializzati in AI che partecipano al progetto, che si chiama DVPS (Diversibus Viis Plurima Solvo, ”Attraverso percorsi diversi, risolvo molteplici problemi”), e vuole arrivare a una nuova classe di Ai in grado di apprendere da dati linguistici, visivi e provenienti da sensori. In sostanza, il mondo reale, e non semplici set di dati.
Quanto costa il progetto AI guidato da Translated
Trombetti dice che per arrivare a un obiettivo del genere ci sono diversi step, che passano naturalmente dalla quantità di soldi a disposizione. Per ora, 29 mln di euro.
Di questi, spiega Trombetti, 25 sono sostanzialmente dedicati ai ricercatori, quattro alla potenza di calcolo: i primi esperimenti sul modello creato da Dvps saranno possibili grazie al centro di calcolo polacco Cyfronet e alle sue Gpu H100 targate Nvidia: “Per ora, ci occuperemo sostanzialmente della teoria”, spiega.
Ma Trombetti già guarda ai passi successivi, che secondo lui anticiperanno di molto i tempi ‘tecnici’ del progetto, con il finanziamento che teoricamente copre 4 anni.
Dai 100 milioni al miliardo
Il creatore di Translated vorrebbe raccogliere “100 mln” per un modello di medie dimensioni “il prossimo anno”. Parte delle risorse necessarie potrebbero poi arrivare attraverso il programma EuroHPC europeo, quello dedicato ai supercomputer del continente e al quale è legata l’AI Factory di Bologna. Se il secondo step avrà successo, si potrà pensare al passo successivo: raccogliere un miliardo per un modello ancora più grande. Un ‘foundation model’ (addestrato quindi su grandi quantità di dati, versatile e pronto a compiti diversi) tutto europeo che rispetto a quelli che già esistono superi i limiti dell’architettura di rete neurale oggi predominante, chiamata Transformer. Possibilità di successo? “Venti percento”, dice Trombetti.
Parte del programma Horizon Europe, Dvps è un “progetto flagship, che passa anche dall’AI Office europeo”, spiega Trombetti, con un finanziamento di 29 milioni di euro. Sull’intelligenza artificiale e la creazione di modelli europei ci sono altri progetti, ma secondo il Ceo di Translated questo è l’unico che cerca di superare i limiti tecnologici attuali.
L’iniziativa riunisce dunque venti organizzazioni di nove diversi Paesi per sviluppare “foundation model multimodali”.
Translated è un’azienda specializzata nelle traduzioni, e negli scorsi mesi ha presentato l’AI Lara, che ha fissato nuovi standard nel settore.
Era scontato quindi che l’iniziativa capitanata dalla startup prevedesse un verticale sul campo linguistico: consentirà la traduzione in simultanea di molte lingue, grazie non solo alla comprensione del testo, ma anche del parlato, dei gesti e del contesto fisico. “Se adesso in questa stanza, mentre parliamo tra di noi in due lingue diverse, entrassero due camerieri che si danno indicazioni su cosa servire a pranzo, una macchina inserirebbe automaticamente anche loro nella traduzione. Un interprete umano no”, dice Trombetti.
I sistemi automatici faticano a identificare chi sta parlando, mentre gli esseri umani individuano facilmente la persona giusta grazie, ad esempio, alla direzione dello sguardo. DVPS invece “riuscirà a combinare input visivi, audio spaziale e il direzionamento degli interlocutori per identificare correttamente il parlante e fornire traduzioni più accurate”, si legge nella nota che accompagna l’iniziativa.
Anche i protagonisti dell’AI americana sanno che ci sono limiti da superare, dice Trombetti. Ne cita con orgoglio alcuni, passati dalla sede di Translated: Lukasz Kaiser, uno degli autori del paper alla base del Transformer (“una tecnologia che tra l’altro siamo stati tra i primi a usare”, dice il Ceo) o recentemente il Vp che supervisiona l’AI targata Nvidia, Jonathan Cohen.
Tra gli altri settori su cui si concentra l’iniziativa Dvps c’è la sanità: tra gli use case c’è la diagnosi precoce dei rischi cardiovascolari con la creazione di un gemello digitale 3D del cuore generato dai sistemi di diagnostica per immagini. Ma c’è anche l’ambiente, rafforzando la risposta alle calamità attraverso la previsione delle inondazioni basata sui dati satellitari e dei droni, combinati con i segnali di osservazione in tempo reale.
l’AI di Dvps, un approccio diverso
Trombetti racconta di voler arrivare a una nuova forma di apprendimento per i large language model, che chiama “learning by doing”, superando il paradigma di addestramento basato solo su dati passati. “Le macchine devono apprendere tramite interazione con il mondo reale, adattandosi in base alle attività svolte. Per farlo, ci serve la ricerca di base”.
I modelli attuali mostrano sempre di più i loro limiti perché apprendono da “contenuti statistici” che provengono dal mondo digitale, non da quello reale, dice Trombetti. “Con Dvps, consentiamo alle macchine di crescere interagendo con la realtà e scambiandosi reciprocamente le conoscenze in modo istantaneo”.
Per i ricercatori presenti all’evento (tra gli altri l’italiana Mariarosaria Taddeo, professoressa di Oxford ed esperta di etica dell’AI) l’obiettivo è ancora più alto.
Il progetto Dvps si collega a un tema sul quale i paper di ricerca si sprecano: l’affidabilità dei sistemi di intelligenza artificiale odierni, soprattutto se si parla di applicazioni delicate, come quella sanitaria. Secondo Yarin Gal (professore associato di Machine Learning all’Università di Oxford), che lo scorso anno ha pubblicato un paper su Nature sul rilevamento di allucinazioni nei large language model, “se vuoi affrontare applicazioni come quelle sanitarie, dove magari il modello può dare raccomandazioni su trattamenti o diagnosi, non vuoi che quei modelli inventino fatti o informazioni, soprattutto se ciò può potenzialmente danneggiare il paziente”.
La situazione con i modelli più recenti, dal punto di vista delle allucinazioni, è addirittura peggiorata, dice il ricercatore. “Inoltre, esiste un fenomeno chiamato ‘model collapse’: addestri un sistema AI, gli utenti generano tanti testi e li pubblicano. Poi fai il modello successivo e prendi dati da internet, che ora includono anche output del modello precedente. Questo è un problema, perché porta al collasso del modello: le prestazioni peggiorano man mano che i dati di addestramento vengono “inquinati” da contenuti sintetici generati da AI precedenti. Questo avrà rilevanza anche per questo progetto, perché ha implicazioni sulla provenienza dei dati: bisogna evitare di usare contenuti generati da altre AI senza verificarli prima”.
Che sia attraverso la possibilità di fornire strumenti intelligenti di diagnosi anche ai pazienti in aree rurali e remote o attraverso alert più tempestivi durante una catastrofe climatica, l’AI di Dvps sarà in grado di salvare vite umane.
