Errare è umano, perdonare è divino. Ma quando si tratta di “agenti” di intelligenza artificiale autonomi che stanno assumendo compiti precedentemente gestiti dagli esseri umani, qual è il margine di errore?
Al recente evento Brainstorm AI di Fortune a San Francisco, una tavola rotonda di esperti ha affrontato questa domanda mentre gli addetti ai lavori hanno condiviso il modo in cui le loro aziende stanno affrontando la sicurezza e la governance, una questione che sta superando sfide ancora più pratiche come i dati e la potenza di calcolo. Le aziende sono impegnate in una corsa agli armamenti per inserire nei loro flussi di lavoro agenti di IA in grado di svolgere compiti in modo autonomo e con poca supervisione umana. Ma molte si trovano ad affrontare un paradosso fondamentale che sta rallentando l’adozione: muoversi rapidamente richiede fiducia, eppure costruire la fiducia richiede molto tempo.
Dev Rishi, direttore generale per l’AI presso Rubrik, è entrato a far parte dell’azienda di sicurezza la scorsa estate, in seguito all’acquisizione della sua startup di AI basata sul deep learning, Predibase. Successivamente, ha trascorso i quattro mesi successivi incontrando i dirigenti di 180 aziende. Ha utilizzato queste informazioni per dividere l’adozione dell’AI agentica in quattro fasi, come ha spiegato al pubblico di Brainstorm AI (per chiarire, l’adozione agentica si riferisce alle aziende che implementano sistemi di IA che funzionano in modo autonomo, piuttosto che rispondere a comandi).
Secondo quanto appreso da Rishi, le quattro fasi che ha individuato includono la fase di sperimentazione iniziale, in cui le aziende lavorano alacremente alla prototipazione dei loro agenti e alla mappatura degli obiettivi che ritengono possano essere integrati nei loro flussi di lavoro. La seconda fase, ha affermato Rishi, è la più complessa. È quella in cui le aziende passano dai prototipi alla produzione formale. La terza fase prevede il ridimensionamento di tali agenti autonomi all’interno dell’intera azienda. La quarta e ultima fase, che nessuno dei suoi interlocutori aveva ancora raggiunto, è l’IA autonoma.
Rishi ha scoperto che circa la metà delle 180 aziende era nella fase di sperimentazione e prototipazione, mentre il 25% era impegnato a formalizzare i propri prototipi. Un altro 13% era in fase di scalabilità e il restante 12% non aveva avviato alcun progetto di IA. Tuttavia, Rishi prevede un cambiamento radicale: Nei prossimi due anni, secondo le loro roadmap, il 50% delle aziende prevede di passare alla fase due.
“Penso che assisteremo a una rapida diffusione”, ha detto Rishi al pubblico. Tuttavia, ha osservato, esiste un rischio importante che impedisce alle aziende di procedere “in modo rapido e deciso” quando si tratta di accelerare l’implementazione degli agenti di IA nella forza lavoro. Tale rischio, nonché il principale ostacolo a una più ampia diffusione degli agenti, è rappresentato dalla sicurezza e dalla governance, ha affermato. Per questo motivo, le aziende stanno faticando a passare da agenti utilizzati per il recupero di conoscenze ad agenti orientati all’azione. “Il nostro obiettivo è in realtà quello di accelerare la trasformazione dell’IA”, ha affermato Rishi. “Penso che il fattore di rischio numero uno, il principale ostacolo a tale trasformazione, sia il rischio [stesso]”.
Integrazione degli agenti nella forza lavoro
Kathleen Peters, chief innovation officer di Experian e responsabile della strategia di prodotto, ha affermato che il rallentamento è dovuto alla mancata comprensione dei rischi che si corrono quando gli agenti di IA oltrepassano i limiti imposti dalle aziende e dei sistemi di sicurezza necessari in tali casi.
“Se qualcosa va storto, se c’è un’allucinazione, se c’è un’interruzione di corrente, su cosa possiamo ripiegare?”, ha chiesto. “È una di quelle cose che alcuni dirigenti, a seconda del settore, vogliono capire: ‘Come possiamo sentirci al sicuro?’”
Capire questo aspetto sarà diverso per ogni azienda e probabilmente sarà particolarmente spinoso per le aziende che operano in settori altamente regolamentati, ha osservato. Chandhu Nair, vicepresidente senior per i dati, l’intelligenza artificiale e l’innovazione presso il rivenditore di articoli per la casa Lowe’s, ha osservato che è “abbastanza facile” creare agenti, ma le persone non capiscono cosa sono: sono dipendenti digitali? Sono forza lavoro? Come saranno integrati nel tessuto organizzativo?
“È quasi come assumere un sacco di persone senza una funzione HR”, ha detto Nair. “Quindi abbiamo molti agenti, senza alcun modo per mapparli correttamente, e questo è stato il punto focale”.
L’azienda ha lavorato su alcune di queste domande, tra cui chi potrebbe essere responsabile se qualcosa va storto. “È difficile risalire alla fonte”, ha detto Nair.
Peters di Experian ha previsto che nei prossimi anni molte di queste domande saranno discusse pubblicamente, anche se le conversazioni avverranno contemporaneamente a porte chiuse nelle sale riunioni e tra i comitati senior di conformità e strategia. “In realtà penso che succederà qualcosa di brutto”, ha detto Peters. “Ci saranno violazioni. Ci saranno agenti che agiranno in modo inaspettato. E questo darà vita a titoli molto interessanti nei notiziari”.
I grandi scandali attireranno molta attenzione, ha continuato Peters, e la reputazione sarà a rischio. Ciò costringerà ad affrontare conversazioni scomode su chi sia responsabile per il software e gli agenti, e probabilmente porterà a un aumento della regolamentazione, ha affermato.
“Penso che questo farà parte della gestione complessiva del cambiamento sociale nel modo di pensare a questi nuovi modi di lavorare”, ha affermato Peters.
Tuttavia, ci sono esempi concreti di come l’IA possa avvantaggiare le aziende quando viene implementata in modi che risuonano con i dipendenti e i clienti.
Nair ha affermato che Lowe’s ha visto una forte adozione e un ritorno sull’investimento “tangibile” dall’IA che ha incorporato nelle operazioni dell’azienda fino ad ora. Ad esempio, tra i suoi 250.000 dipendenti nei negozi, ognuno ha un agente di supporto con una vasta conoscenza dei prodotti nei suoi negozi di 100.000 piedi quadrati che vendono di tutto, dalle apparecchiature elettriche alle vernici, alle forniture idrauliche. Molti dei nuovi assunti di Lowe’s non sono commercianti, ha affermato Nair, e gli agenti di supporto sono diventati la “tecnologia più rapidamente adottata” finora.
“Era importante individuare i casi d’uso giusti che risuonassero davvero con il cliente”, ha affermato. In termini di gestione del cambiamento nei negozi, “se il prodotto è buono e può aggiungere valore, l’adozione va alle stelle”.
Chi controlla l’agente?
Ma per chi lavora nella sede centrale, le tecniche di gestione del cambiamento devono essere diverse, ha aggiunto, il che aumenta la complessità.
E molte aziende sono bloccate su un’altra questione iniziale, ovvero se dovrebbero creare i propri agenti o affidarsi alle capacità di intelligenza artificiale sviluppate dai principali fornitori di software.
Rakesh Jain, direttore esecutivo per il cloud e l’ingegneria dell’intelligenza artificiale presso il sistema sanitario Mass General Brigham, ha affermato che la sua organizzazione sta adottando un approccio attendista. Con piattaforme importanti come Salesforce, Workday e ServiceNow che stanno creando i propri agenti, se la sua organizzazione creasse i propri agenti contemporaneamente, si potrebbero creare ridondanze.
“Se ci sono lacune, allora vogliamo creare i nostri agenti”, ha affermato Jain. “Altrimenti, ci affideremmo all’acquisto degli agenti che i fornitori di prodotti stanno creando”.
Nel settore sanitario, Jain ha affermato che c’è un bisogno fondamentale di supervisione umana, data l’alta posta in gioco.
“La complessità del paziente non può essere determinata attraverso algoritmi”, ha affermato. “Deve esserci un essere umano coinvolto”. Secondo la sua esperienza, gli agenti possono accelerare il processo decisionale, ma sono gli esseri umani a dover prendere la decisione finale, con i medici che convalidano tutto prima che venga intrapresa qualsiasi azione.
Tuttavia, Jain vede anche un enorme potenziale di crescita man mano che la tecnologia matura. In radiologia, ad esempio, un agente addestrato sulle competenze di più medici potrebbe individuare tumori in tessuti densi che un singolo radiologo potrebbe non vedere. Ma anche con agenti addestrati su più medici, “è comunque necessario il giudizio umano”, ha affermato Jain.
E la minaccia di un eccesso di potere da parte di un agente che dovrebbe essere un’entità affidabile è sempre presente. Ha paragonato un agente disonesto a una malattia autoimmune, che è una delle condizioni più difficili da diagnosticare e trattare per i medici perché la minaccia è interna. Se un agente all’interno di un sistema “diventa corrotto”, ha affermato, “causerà danni enormi che le persone non sono state in grado di quantificare realmente”.
Nonostante le questioni aperte e le sfide incombenti, Rishi ha affermato che c’è una strada da seguire. Ha identificato due requisiti per costruire la fiducia negli agenti. In primo luogo, le aziende hanno bisogno di sistemi che garantiscano che gli agenti operino nel rispetto delle linee guida aziendali. In secondo luogo, hanno bisogno di politiche e procedure chiare per quando le cose inevitabilmente andranno male: una politica con dei denti. Nair ha inoltre aggiunto tre fattori per costruire la fiducia e andare avanti in modo intelligente: identità e responsabilità e conoscenza dell’identità dell’agente; valutazione della coerenza della qualità del lavoro di ciascun agente; revisione della traccia post mortem che può spiegare perché e quando si sono verificati gli errori.
“I sistemi possono commettere errori, proprio come gli esseri umani”, ha affermato Nair. “Ma essere in grado di spiegare e recuperare è altrettanto importante”.
L’articolo originale è stato pubblicato su Fortune.com
