Intervista a Heloise Greef, ex ricercatrice di Oxford e Popular Investor di eToro, che spiega come l’AI può accentuare le disparità sociali.
“L’AI ha il potenziale di ampliare o rafforzare le disparità di genere se non si affrontano i pregiudizi”. Parola di Heloise Greeff, ex ricercatrice di Oxford.
Cresciuta in Sudafrica, ha studiato ingegneria meccatronica ed era una delle tre sole donne in una classe di 250 persone. Oggi è Popular Investor di eToro ed è convinta che “il primo passo per aiutare davvero una donna nell’emancipazione è quello di garantirle un’indipendenza economica”.
È vero che l’AI rischia di aumentare le disparità sociali? E in che modo?
I modelli di AI imparano dai dati storici, che spesso riflettono le disparità di genere esistenti e le disuguaglianze sistemiche del mondo reale. Se un set di dati rappresenta poco le donne, un algoritmo potrebbe non essere addestrato a riconoscere o a rispondere accuratamente alle loro esigenze. Ciò significa che i modelli di AI addestrati sui dati del mondo reale perpetuano queste disparità.
Un esempio ben documentato è la tecnologia di riconoscimento facciale, dove i pregiudizi derivano dalle differenze di dimorfismo sessuale. Inoltre, l’industria dell’AI ha storicamente utilizzato un metodo per bilanciare la rappresentazione di genere nei set di dati, scartando alcuni dati maschili quando le donne erano sottorappresentate. Tuttavia, questo ha involontariamente portato i modelli a diventare più sensibili alle variazioni dei dati maschili, rafforzando i pregiudizi anziché eliminarli.
Il rischio è quello di un gender gap ‘algoritmico’?
Così come esiste un divario di genere nei servizi finanziari, nell’assistenza sanitaria e nell’occupazione, l’AI ha il potenziale di ampliare o rafforzare queste disparità se non si affrontano i pregiudizi. Ad esempio, se uno strumento di assunzione guidato dall’intelligenza artificiale viene addestrato sulla base di dati storici di assunzione che favoriscono gli uomini, potrebbe sistematicamente svantaggiare le candidate donne.
Allo stesso modo, i modelli di intelligenza artificiale in campo finanziario potrebbero consigliare strategie di investimento più rischiose agli uomini e più conservative alle donne se i dati di addestramento riflettono gli stigmi finanziari tradizionali basati sul genere. I pregiudizi umani possono essere corretti nel tempo attraverso cambiamenti politici e consapevolezza sociale. Tuttavia, quelli algoritmici sono spesso incorporati in sistemi decisionali autonomi che possono amplificarsi rapidamente.
Qualche esempio?
Un primo caso di pregiudizio algoritmico sulle donne riguarda un fatto accaduto negli anni ’80 alla St. George’s University di Londra. Il sistema di ammissione dell’università era stato progettato per replicare il processo decisionale umano. Poiché i dati di ammissione del passato riflettevano pregiudizi di genere e razziali, l’algoritmo imparò a discriminare i candidati di sesso femminile e le minoranze nello stesso modo in cui lo avevano fatto i precedenti responsabili delle ammissioni.
Parliamo di un passato che non è così passato. Emblematico è anche il caso di Amazon nel 2018: l’azienda ha sviluppato uno strumento di reclutamento AI addestrato sui curricula inviati nei 10 anni precedenti. Poiché la maggior parte dei candidati passati erano uomini, l’algoritmo ha imparato a favorire i maschi. Ha penalizzato cioè i Cv che contenevano parole come “femminile” (ad esempio, “club di scacchi femminile”) e ha declassato le laureate di college femminili.
Questi esempi illustrano una sfida fondamentale: l’intelligenza artificiale non crea pregiudizi, ma amplifica quelli già presenti nei dati storici. Se non si adottano misure proattive, come l’utilizzo di serie di dati equilibrate e rappresentative, oltre alla verifica dell’equità dei modelli di AI, tali errori continueranno a verificarsi.
Diversi studiosi affermano che il pregiudizio algoritmico potrebbe essere ridotto al minimo intervenendo su coloro che progettano i sistemi di intelligenza artificiale. Cosa ne pensa?
Anche in questo caso l’intelligenza artificiale è in grado di amplificare ciò che vediamo nel mondo reale. È stato dimostrato che la diversità sul posto di lavoro può aumentare la creatività in una serie di campi, riducendo il rischio del pensiero di gruppo. Allo stesso modo, aumentare la diversità tra gli ingegneri AI può contribuire in modo significativo a mitigare i pregiudizi. I modelli di intelligenza artificiale sono progettati da persone e se i team di sviluppo non hanno prospettive diverse, potrebbero non riuscire ad anticipare e correggere i pregiudizi nei loro algoritmi.
Attualmente, solo il 12% dei ricercatori AI è donna. I team eterogenei sono più propensi a mettere in discussione le ipotesi, a verificare i pregiudizi e a sostenere pratiche di raccolta dei dati più inclusive. Alcuni studi hanno dimostrato che le aziende con team di leadership diversificati creano soluzioni di AI più eque e innovative.
L’articolo originale è stato pubblicato sul numero di Fortune Italia del giugno 2025 (numero 5, anno 8)
