GILEAD
Cerca
Close this search box.

Donne e AI, l’ombra del bias

Picture of Darya Majidi

Darya Majidi

Le tecnologie abilitanti della quarta rivoluzione industriale stanno trasformando radicalmente il modo in cui lavoriamo e viviamo. La robotica, la realtà virtuale, il cloud, l’Iot, la cybersicurezza, la simulazione, l’interoperabilità tra sistemi stanno impattando non solo i processi aziendali, ma la società tutta.

Ad oggi la presenza femminile nella creazione di queste tecnologie abilitanti è sottorappresentata e questa mancanza di prospettiva ed inclusione di diversità può avere delle conseguenze discriminatorie per le donne. In modo particolare, l’intelligenza artificiale, che potrebbe rappresentare ottime opportunità di nuovi lavori per le donne, potrebbe invece diventare un amplificatore dei bias e dei pregiudizi esistenti nei dati storici. I lavori che l’AI crea richiederanno sviluppatori, ingegneri di prompting per la AI generativa, analisti, specialisti di statistica e analisi dati, esperti di sicurezza informatica e consulenti di AI in genere, lavori ambiti e ben retribuiti, purtroppo non accessibili alle donne perché richiedono competenze scientifiche e informatiche avanzate e studi adeguati che le donne purtroppo non scelgono. Ad oggi solo il 16% dei lavori tech sono ricoperti dalle donne.

I dati su cui si basano i sistemi di AI possono contenere bias consci ed inconsci, che possono essere trasferiti nelle decisioni e nelle conoscenze prodotte dai modelli di machine learning. Ciò può portare a discriminazioni di genere, razziali o di altro tipo. Ad esempio, se un sistema di machine learning viene addestrato su dati storici che non includevano le donne nei posti apicali, lo stesso bias potrebbe presentarsi nelle regole create dal modello di AI e quindi escludere le donne nei team di management apicali. Il machine learning può trasformare i bias nei dati in bias nelle decisioni. Ciò può portare a risultati ingiusti e discriminatori, specialmente per le persone che rientrano nelle categorie di minoranza. È quindi importante adottare un approccio eticamente responsabile ed inclusivo nell’addestramento dei modelli di machine learning. L’etica deve essere rispettata su più livelli: etica dei dati (privacy, trasparenza, accountability), etica dei modelli (addestrati con consapevolezza e rispetto del fatto che i dati siano completi e rappresentativi del settore), etica dell’uso (posso usare sistemi AI per obiettivi buoni quali riconoscere le macchie tumorali nelle immagini mediche come con fini non etici quali riconoscere i volti dei dissidenti in un regime dittatoriale per punirli).

Per avvicinare le donne alle tecnologie dell’Industria 4.0 nel 2021 abbiamo fondato l’Associazione Donne 4.0, un’iniziativa volta ad aiutare le donne di dotarsi di un mindset digitale. L’obiettivo dell’organizzazione è di promuovere l’inclusione e di sostenere le donne affinché credano in sé stesse e vedano le tecnologie come un supporto per la propria crescita professionale e personale. In modo particolare i progetti AIxGIRLS, camp estivo dedicato alle ragazze delle superiori e AIxWOMEN, giornate di formazione svolte in collaborazione con le Università a livello nazionale, stanno impattando i gap tra donne e l’AI.

Darya Majidi è un’imprenditrice digitale italo-iraniana, esperta in intelligenza artificiale, Ceo di Daxo Group, presidente dell’Associazione Donne 4.0 ed Mpw 2023 di Fortune Italia.

Ultim'ora

ABBIAMO UN'OFFERTA PER TE

€2 per 1 mese di Fortune

Oltre 100 articoli in anteprima di business ed economia ogni mese

Approfittane ora per ottenere in esclusiva:

Fortune è un marchio Fortune Media IP Limited usato sotto licenza.