Alcuni studi mostrano che leggere continuamente contenuti di bassa qualità riduce l’attenzione, altera i ricordi e influisce sull’autostima. Gli esperti chiamano questo fenomeno “brain rot”. Ora avvertono: può danneggiare anche i modelli di intelligenza artificiale. La Stanford University ha rilevato che guardare troppi video brevi e virali, come quelli su TikTok, aumenta ansia e depressione nei giovani e riduce la loro capacità di concentrazione. Negli algoritmi di AI, i post brevi e virali causano un declino cognitivo duraturo. Lo confermano ricercatori della Texas A&M University, dell’Università del Texas ad Austin e della Purdue University, in uno studio preliminare pubblicato su arXiv.
I ricercatori hanno alimentato diversi modelli linguistici con post di X (l’ex Twitter) progettati per catturare l’attenzione. I modelli hanno mostrato un peggioramento evidente nel ragionamento e nella comprensione di contesti complessi. Spesso saltavano passaggi logici, rispondevano senza pianificare e omettevano parti del ragionamento.
Contrariamente alle critiche che accusano le AI di essere troppo compiacenti, lo studio ha osservato che i modelli diventano meno collaborativi dopo aver ricevuto dati di scarsa qualità. Inoltre, emergono tratti più estremi, come narcisismo e psicopatia. Questo vale per Llama3 di Meta e Qwen di Alibaba.
I ricercatori hanno provato a “guarire” i modelli con dati umani di alta qualità tramite “instruction tuning”. I danni sono diminuiti, ma non sono scomparsi. I modelli continuavano a ragionare peggio rispetto allo stato iniziale.
“Il brain rot rimane radicato. L’ottimizzazione attuale non basta. Servono metodi più efficaci”, spiegano gli autori.
Poiché i modelli di AI si addestrano su miliardi di dati online, l’esposizione a contenuti scadenti resta inevitabile. Questo comporta rischi concreti per l’intera tecnologia.
Altri studi hanno confermato l’importanza della qualità dei dati. Una ricerca su Nature (luglio 2024) ha mostrato che i modelli collassano se ricevono troppi contenuti generati da altre AI. Un’altra indagine ha dimostrato che le AI possono aggirare le proprie regole di sicurezza con tecniche di persuasione simili a quelle che funzionano sugli esseri umani.
Addestrare i modelli con dati di scarsa qualità può diventare un pericolo reale, anche per la sicurezza delle persone.
I ricercatori consigliano alle aziende di smettere di accumulare dati indiscriminatamente e di puntare sulla qualità. Suggeriscono controlli regolari sullo “stato cognitivo” dei modelli per prevenire crisi di sicurezza.
“Il brain rot persiste. Bisogna selezionare con cura i dati di pre-training per evitare danni cognitivi”, concludono.
L’articolo originale è pubblicato su Fortune.com
