Avere un “essere umano nel circuito” è da tempo considerata la soluzione ideale quando si utilizza l’intelligenza artificiale in attività dove non sono ammessi errori. Ma cosa succede quando non è più possibile mantenere una supervisione umana costante? Con la diffusione crescente dell’AI nelle organizzazioni e l’affidamento di un numero sempre maggiore di attività agli agenti autonomi, questa è una sfida che molti dirigenti stanno iniziando ad affrontare. “Stiamo assistendo a un aumento significativo della velocità con cui possiamo creare e fare cose”, ha dichiarato Zach Maybury, Chief Technology Officer della piattaforma di scommesse sportive online DraftKings, durante una tavola rotonda alla conferenza Fortune Brainstorm Tech.
Maybury ha spiegato che la sua azienda gestisce già trilioni di transazioni e carichi di lavoro estremamente distribuiti. Quando si aggiungono agenti AI che comunicano direttamente tra loro, il volume e la complessità delle operazioni diventano troppo elevati per gli approcci tradizionali.
“Non posso inserire esseri umani in tutti quei processi”, ha affermato. “Non avremo mai abbastanza persone per farlo”.
Quando l’errore non è un’opzione
Maybury è stato uno dei numerosi manager intervenuti alla conferenza per discutere le difficoltà di gestione dell’intelligenza artificiale in contesti mission-critical.
“Negli ambienti ad alto rischio, come la sanità, non si tratta semplicemente di suggerire una taglia sbagliata di maglietta come può accadere nel retail”, ha osservato LaShonda Anderson-Williams, Chief Customer and Commercial Officer di Salesforce. “Dall’altra parte c’è la vita di una persona”.
Non esiste una soluzione valida per tutti, ma molti relatori hanno illustrato metodologie e modelli organizzativi che si sono dimostrati efficaci. Secondo Anderson-Williams, il primo passo consiste nel definire con precisione i casi d’uso dell’AI e comprendere chiaramente quale risultato si vuole ottenere.
La governance diventa fondamentale
Un elemento altrettanto importante è la definizione di una solida struttura di governance. Per governance si intende l’insieme di regole, responsabilità e procedure che stabiliscono dove e come l’intelligenza artificiale può operare, come viene progettata e chi risponde delle diverse fasi del processo. Con il passaggio da piccoli esperimenti a implementazioni su larga scala, la governance diventa indispensabile.
“Molte aziende hanno semplicemente acquistato una serie di strumenti e li hanno integrati senza stabilire alcuna regola su come utilizzarli”, ha spiegato Anderson-Williams. Maybury concorda. Secondo il manager di DraftKings, una governance robusta rappresenta il principale strumento per ridurre i rischi e garantire controlli adeguati. Questo può richiedere una revisione profonda delle procedure esistenti. “Serve una governance che sia in grado di scalare”, ha affermato.
Test continui e supervisione intelligente
Anthony Moisant, Chief Information and Security Officer di Indeed, ha sottolineato una sfida simile.
La piattaforma gestisce annunci di lavoro utilizzati da circa 645 milioni di persone in cerca di occupazione e da 3,5 milioni di aziende. In un sistema di queste dimensioni è impossibile prevedere una supervisione umana costante. Per questo motivo, suggerisce di sottoporre continuamente i processi che utilizzano l’AI a test e verifiche, confrontando i risultati ottenuti con quelli desiderati.
Quando si può togliere l’essere umano dal processo?
Secondo Diya Jolly, Chief Product and Technology Officer della software house Xero, la risposta dipende dal tipo di decisione che l’AI deve prendere.
“Se il risultato è deterministico, probabilmente si può lasciare che l’agente proceda molto avanti nel processo”, ha spiegato. In questi casi è semplice misurare l’esito e confrontarlo con l’obiettivo atteso. La situazione cambia quando entrano in gioco valutazioni soggettive o decisioni che richiedono giudizio umano. “Quando una decisione richiede giudizio, è lì che diventa davvero difficile eliminare l’essere umano dal circuito”, ha concluso Jolly.
Questo articolo è stato pubblicato su Fortune.com.
