Se l’AI scivola (ancora) sui pregiudizi. La seconda donna Ceo global nella storia di Chanel, Leena Nair, impegnata per aumentare la diversità di genere in azienda, ha scoperto di recente che ChatGPT di OpenAI aveva un’idea molto diversa dalla realtà sulla composizione demografica dello storico marchio del lusso.

Nair e il suo team hanno visitato la sede centrale di Microsoft a Seattle, passando del tempo a mettere alla prova ChatGPT, come ha affermato Nair in una recente intervista alla Stanford Graduate School of Business “View from the Top”. Quando gli hanno chiesto: “‘Mostraci una foto di un team di dirigenti senior di Chanel in visita a Microsoft’, erano tutti uomini in giacca e cravatta”, ha detto la Ceo.

Il viaggio di Nair nella Silicon Valley ha incluso anche una visita a Google e ad altre aziende tecnologiche, un programma coerente con l’impulso di Chanel verso l’investimento in intelligenza artificiale. In questo progetto figura Lipscanner, un’app basata sull’AI che consente agli utenti di provare virtualmente il rossetto, introdotta nel 2021.

Tornando all’immagine creata da ChatGPT per rappresentare il suo team, la manager ha rilevato che l‘AI non ha tenuto conto della composizione dei dipendenti di Chanel – per il 76% di donne – Ad inclusa. Non solo: il 96% della clientela del marchio è composta da donne, ha aggiunto Nair.

Nella foto invece “c’era un team al 100% maschile, nemmeno in abiti alla moda”, ha detto la Ceo. “Dai. Questo è tutto ciò che avete da offrire?”. Un portavoce di OpenAI ha affermato a Fortune che i pregiudizi continuano a essere un problema significativo nell’intelligenza artificiale, che il settore sta affrontando. “Stiamo continuamente lavorando sui nostri modelli per ridurre i pregiudizi e mitigare gli output dannosi”, ha affermato il portavoce in una dichiarazione.

Fortune ha chiesto a ChatGPT di generare un’immagine con lo stesso prompt di Nair: il risultato è stata un’immagine di uomini e donne.

Chanel non ha risposto alla richiesta di commento di Fortune. Microsoft ha rifiutato di commentare.

I precedenti

Uno studio del 2023 dell’Ucla ha mostrato che, quando a ChatGPT e Alpaca, creato dalla Stanford University, è stato chiesto di scrivere lettere di raccomandazione per candidati uomini e donne, le due AI hanno usato parole come “esperto” e “integrità” per descrivere gli uomini e “bellezza” e “delizia” per le donne.

Nair ritiene che integrare l’intelligenza artificiale nella sua azienda non sia negoziabile, ma prevede di introdurre misure ad hoc per affrontare pregiudizi e fraintendimenti che continuano ad affliggere questa tecnologia.

“L’intelligenza artificiale è ovunque e sarà trasformativa nel nostro mondo, quindi il lusso deve impegnarsi su di essa. Chanel deve impegnarsi”, ha affermato Nair.
Ma “è importante conservare l’etica e l’integrità di ciò che stiamo facendo”, ha aggiunto. “Parlo costantemente con i miei amici nel settore tecnologico, tutti i Ceo, dicendo: ‘Dai, ragazzi, dovete assicurarvi di integrare un modo di pensare umanistico nell’intelligenza artificiale'”.

L’attento processo di verifica dell’intelligenza artificiale è in linea con il precedente lavoro di Nair per affrontare le disparità di genere nel suo posto di lavoro. Da quando è iniziata la sua opera in Chanel nel 2021, dopo aver lavorato per 30 anni in Unilever – dove è stata responsabile delle risorse umane – Nair ha aumentato la percentuale di dirigenti donne dell’azienda dal 38% a circa il 60%.

Il ruolo di Nair come Ceo global interrompe una lunga serie manager maschi. Oltre a Maureen Chiquet, che è stata la prima Ceo donna global di Chanel dal 2007 al 2016, nessun’altra oltre a Nair ha avuto il titolo di amministratore delegato nei 114 anni di storia del marchio.

Nair è anche la prima Ceo indiana dell’azienda. Come capo di un’azienda che spesso invoca l’ideologia radicale della moda della sua fondatrice, Gabrielle Chanel, Nair non è certo timida nel suo desiderio di prendere le distanze dalla lunga serie di dirigenti uomini di Chanel. “Sono stata la prima in ogni lavoro che ho fatto”, ha detto al Wall Street Journal nel 2023. “La prima donna, la prima persona di colore, la prima asiatica, la prima indiana, ma non voglio essere l’ultima“.

L’articolo originale è su Fortune.com