Siamo una donna nera (Jameila ‘Meme’ Styles) e un uomo bianco (Chris Hyams) che hanno trascorso le proprie carriere in ambiti molto diversi: l’una costruendo un’organizzazione di advocacy basata sulla ricerca e sui dati che utilizza l’analisi quantitativa per promuovere l’equità; l’altro guidando la più grande piattaforma di recruiting al mondo. Entrambi abbiamo avuto un posto in prima fila per osservare cosa accade quando una tecnologia di AI potente incontra una profonda disuguaglianza. E abbiamo visto cosa diventa possibile quando le persone giuste si uniscono.
La nostra partnership è essa stessa un esempio del tipo di collaborazione che crediamo questo momento richieda. Un’AI che benefici davvero tutta l’umanità non sarà mai costruita da una singola comunità. Richiede persone che portino allo stesso tavolo conoscenze diverse, vissuti differenti e interessi distinti e che siano disposte a compiere il lavoro duro e necessario di costruire insieme.
Un momento cruciale nei sistemi di AI
L’AI sta già trasformando la biologia, la medicina e la fisica in modi inimmaginabili. I guadagni di produttività che ci attendono non hanno precedenti nella storia umana.
Tuttavia, questa tecnologia non è neutrale. I sistemi di AI integrati nelle assunzioni, nella sanità, nella finanza e nella giustizia penale stanno già riproducendo e amplificando proprio quelle disuguaglianze che abbiamo passato decenni a combattere.
Strumenti di screening dei curricula che penalizzano sistematicamente i candidati provenienti dalle Hbcu (le università storicamente nere). Sistemi di polizia predittiva addestrati su dati plasmati da decenni di controlli eccessivi e discriminatori. Algoritmi di valutazione del rischio che negano prestiti, alloggi e cure alle persone che ne hanno più bisogno.
Questi non sono casi isolati o bug tecnici. Sono il risultato prevedibile della creazione di sistemi potenti senza che le persone più colpite siano presenti nella stanza dei bottoni.
L’AI è la sfida determinante per i diritti civili e umani della nostra epoca. Diventerà una forza per una straordinaria fioritura umana, oppure consoliderà le gerarchie esistenti in modi che potrebbero rivelarsi impossibili da annullare. Abbiamo un’unica possibilità per fare le cose per bene.
Tutti hanno bisogno di voce
L’AI non è un’entità autonoma che agisce per conto proprio. È uno strumento progettato con uno scopo e i suoi scopi sono inevitabilmente allineati con le persone che lo creano. La storia ci ha insegnato cosa succede quando a un gruppo piccolo e omogeneo viene dato il volante e viene detto di “muoversi velocemente e rompere gli schemi”: loro si arricchiscono e le cose si rompono per tutti gli altri.
Le Hbcu e le istituzioni che servono le comunità della ‘maggioranza globale’ non possono essere semplicemente consultate a posteriori, come passeggeri. Devono essere al posto di guida. Non perché l’inclusione sia una cortesia, ma perché è un prerequisito per il successo. La ricerca è inequivocabile: i team diversificati costruiscono sistemi più robusti, più giusti e più innovativi.
Ma l’influenza da sola non basta. Queste comunità hanno bisogno anche di proprietà — formazione di capitale, imprenditorialità e una presenza nelle tabelle di capitalizzazione in numeri che riflettano la portata della posta in gioco. L’economia dell’AI sta cambiando velocemente. I costi unitari di calcolo stanno scendendo, la concorrenza è feroce e i nuovi operatori possono scalare quasi da un giorno all’altro. Questo è un campo aperto e i laureati delle Hbcu sono tra i pensatori più innovativi, intraprendenti ed empatici che conosciamo. Sono pronti a costruire.
Cosa vogliamo veramente
Nonostante le molte dichiarazioni d’intenti poetiche offerte dai laboratori di AI e dalle grandi aziende, esse tendono a essere scarse di dettagli su come dovrebbe essere effettivamente la ‘fioritura umana‘. Quale futuro vogliamo?
Le comunità di colore hanno passato generazioni a rispondere a questa domanda con chiarezza e immaginazione, senza dare nulla per scontato. Quando ci confrontiamo con studenti, docenti e alunni delle Hbcu, emergono idee originali e convincenti su ciò che l’AI dovrebbe essere e su ciò che non deve mai diventare.
Oggi, l’AI mostra una quantità tremenda di quoziente intellettivo e un’intelligenza emotiva sorprendentemente bassa. Si esprime con un’eccessiva sicurezza algoritmica, ma non apprezza ancora la variegata gamma dell’esperienza umana individuale. Un’AI veramente equa onorerebbe e proteggerebbe la ricca trama di cultura, contesto e comunità, invece di appiattirla statisticamente. Questo è il cuore pulsante dell’equità. E crediamo che sia anche il fondamento di un’AI che funzioni davvero: più personale, più affidabile e, sì, più preziosa.
Il lavoro che ci attende
Se l’AI è potente anche solo una frazione di quanto credono i suoi creatori, garantire che serva tutta l’umanità non è certo un compito per una singola azienda, governo o comunità. Richiede una collaborazione globale su una scala che non abbiamo mai tentato prima.
Abbiamo bisogno di più alleati in questo lavoro — persone e istituzioni che credano, nel modo più impegnato possibile, che l’AI sia fondamentalmente più forte con tutti noi profondamente e costantemente coinvolti. Abbiamo bisogno di partnership che superino ogni confine.
Le Hbcu e le comunità che serviamo sono sempre state piene di inventori, scienziati, tecnologi e imprenditori. Il momento attuale deve ancorarsi a quella storia, al coraggio e al sacrificio di chi ci ha preceduto.
Non possiamo essere semplici passeggeri. Dobbiamo plasmare l’AI tanto quanto essa sta plasmando noi.
Chris Hyams è docente ospite presso la Huston-Tillotson University ed è stato in precedenza Ceo di Indeed.
Meme Styles è fondatore e presidente di Measure.
Questo articolo è stato originariamente pubblicato su Fortune.com.
