Gli informatici di oggi stanno costruendo il mondo digitale nel quale tutti vivremo domani. Un mondo in cui potrebbe essere un software a decidere se siamo idonei o meno alla concessione di un mutuo. Ma la macchina apprende dall’uomo. E lo fa basandosi sull’esperienza acquisita grazie a migliaia di esempi, ‘training dataset’, che il programmatore che sviluppa il software inserisce nel sistema. Cosa accadrebbe se l’insieme degli esempi usati non costituisse una perfetta rappresentazione della realtà, con tutte le sue variabili? Se l’uomo, senza rendersene conto, istruisse la macchina introducendo pregiudizi? Questa è solo una delle criticità che giace laddove lo sviluppo dell’intelligenza artificiale abbraccia i temi dell’etica, in un nebulosa sulla quale hanno cercato di portare chiarezza alcuni tra i massimi esperti del settore, che si sono incontrati in occasione del secondo Most Powerful Women Talk di Fortune Italia, a Palazzo Naiadi, nel cuore di Roma.
Cosa significa introdurre dei pregiudizi nel processo di machine learning? Ipotizziamo che il programmatore del software per i mutui inserisca sul sistema ‘esempi’ in cui, il caso vuole, l’80% delle richieste viene concesso a persone di sesso maschile, in questo caso la macchina potrebbe incamerare l’informazione relativa al sesso e considerarla una variabile rilevante ai fini del processo decisionale. Anche se non lo è. E nel momento in cui una donna presenta richiesta, il software potrebbe interpretare il sesso femminile come una variabile che impatta negativamente ai fini della concessione del mutuo. “La macchina generalizza e crea una risposta discriminatoria”, spiega Francesca Rossi, A.I. Ethic global leader di Ibm. Ricercatrice nata in Italia, di adozione americana oramai da quasi 10 anni, negli ultimi cinque Rossi si occupa dei temi etici per il colosso del tech basato a New York.
Sono cinque le principali criticità che le Big del Tech, così come i governi, le società scientifiche e non solo, stanno cercando di fronteggiare a livello globale. Oltre al tema dei ‘pregiudizi’, “c’è il problema della cosiddetta ‘scatola nera’ – spiega Rossi – bisogna fornire a queste macchine la capacità di spiegare il perché delle decisioni prese. Altrimenti potrebbero esserci due reazioni estreme in senso opposto: potremmo non fidarci di queste macchine e quindi non usarle, oppure avere eccessiva fiducia, e anche quello sarebbe sbagliato”. Esiste poi un tema di ‘responsabilità’ nel mondo lavorativo: “non è ancora chiaro chi deve assumersi l’onere di eventuali decisioni sbagliate prese dalle macchine, scelte che possono impattare negativamente sulla vita delle persone”. Un altro punto sul quale serve chiarezza è “la differenza tra quello che si può fare e quello che, pur potendolo fare, decidiamo che è meglio non fare”. Infine, c’è la delicata questione della gestione dei dati personali, “visto che la maggior parte di queste tecnologie A.I. based si forma grazie a questi dati”.
Il gender gap, dunque, è solo uno dei terreni sui quali lo sviluppo tecnologico si scontra con temi di natura etica. Ma la sua portata è notevole. “Chi sta costruendo questo mondo digitale sono soprattutto uomini. Più dell’80%. E questo è un problema perché la diversità è ciò che permette di rappresentare le cose come sono”, spiega Tiziana Catarci, direttrice del Diag La Sapienza, Università di Roma. Catarci delinea un quadro a tinte rosa sbiadito per il settore Ict, in cui “crescono i posti di lavoro, ma non le donne che ci lavorano. E questo non solo in Italia ma in tutti i Paesi occidentali. Negli Stati Uniti le ragazze con una laurea bachelor in Ict nel 1995 erano il 28,1%, nel 2014 il 18%. Dieci punti percentuali persi in 20 anni. Mentre il settore è in crescita. In Italia e in Europa la percentuale si attesta intorno al 14%, anche qui non in crescita”.
Affinché il futuro mondo digitale sia ‘inclusivo’, dunque, è importante che ci sia diversità tra gli attori che creano questo mondo. Anche perché la tecnologia “ha una dinamica esponenziale”, afferma Padre Carlo Casalone, professore della Pontificia Accademia per la Vita. Con “sguardo positivo allo sviluppo tecnologico”, Casalone sottolinea l’importanza che “queste nuove tecnologie che trasformano non solo il modo di agire su obiettivi specifici, ma anche la comprensione che una persona ha di se stessa e le relazioni sociali, siano progettate, realizzate e messe in opera secondo criteri che rispettino l’uguaglianza tra tutti, i diritti fondamentali che caratterizzano ogni persona e che vanno non solo tutelati ma anche promossi”.
La creazione di algoritmi non ‘discriminanti’ è proprio uno degli obiettivi della ricerca di Giulia Baccarin. Ingegnere biomedico di 37 anni, dieci anni fa fonda la branch italiana di I-Care, azienda proprietaria del brevetto Wicare, oggi leader in Europa. Nel 2012 fonda Mipu, acceleratore di imprese innovative. L’inclusività non riguarda solo la questione di genere, spiega Baccarin. “Il divario e la mancanza di varietà nell’intelligenza artificiale non coinvolge solo il maschile e il femminile, ma tutte le varietà: giovani e anziani, persone di diversa nazionalità, persone diversamente abili”. Per Baccarin, un approccio valido per ridurre la mancanza di varietà nell’intelligenza artificiale è quello di “cercare di incrementare la partecipazione di tutti” nel processo di apprendimento della macchina, invece di “delegare le singole richieste a un gruppo di data scientist che resta chiuso nella sua torre di avorio”. Questo significa che chi progetta una tecnologia destinata a una persona che soffre di una disabilità, “come la configurazione di un pc per una persona che non può utilizzare appieno una tastiera”, dovrà coinvolgere direttamente la persona che soffre di questa disabilità per ‘allenare l’intelligenza artificiale Ad esempio, “nel campo della diagnostica per immagini abbiamo lavorato con persone affette da disturbi dello spettro autistico, che riescono ad allenare l’A.I. molto meglio di quanto non farebbero i cosiddetti normodotati”.
Ma le potenzialità dell’Ict sono infinite: “l’informatico non è una persona che sta seduta al suo computer e scrive codici e basta, ma lavora nell’ambiente, nell’eHealth, nell’economia”, afferma Catarci, decisa a far conoscere tutte le possibilità che questo mondo offre. “Il punto fondamentale dell’informatica è trovare la soluzione ai problemi, e i problemi sono i grandi problemi del mondo: riscaldamento globale, la fame nel mondo, l’invecchiamento della popolazione. La rivoluzione digitale ci aiuterà a risolvere questi dilemmi se utilizzata correttamente. E per questo serve che ci siano anche le donne”, sottolinea.
A livello globale, sono numerose le iniziative volte a risolvere le questioni etiche del tech, come la ‘Partnership on A.I.’ che Ibm ha fondato insieme ad altri 5 colossi tech: Apple, Facebook, Google, Amazon e Microsoft. “Sei aziende partite con l’idea di condividere best practices per gestire la tecnologia”, spiega Rossi. “Da sei siamo diventati 100 partner, dei quali solo la metà sono imprese, poi ci sono associazioni professionali o scientifiche, università, centri di ricerca, agenzie delle nazioni unite, associazioni per i diritti dei consumatori, quindi tutti quelli che sono coinvolti e che bisogna coinvolgere per capire quali sono i problemi da affrontare e come trovare insieme le soluzioni”. Anche la Chiesa si sta muovendo in questa direzione: “vogliamo coinvolgere tutti coloro che sono attivi in questo campo a impegnarsi secondo logiche che siano corrispondenti ai diritti umani – afferma Casalone – Per esempio, stiamo cercando di interloquire con Microsoft e con Ibm, per vedere se riusciamo a fare una dichiarazione condivisa che metta a fuoco, tematizzi, questi snodi critici e progressivamente impegni chi lavora in questo campo, nel rispetto dei valori fondamentali”.
