I quadri di governance che i dirigenti hanno costruito nel corso di decenni sono stati progettati per le persone. Gli agenti di AI non sono persone, e proprio nel divario tra questi due aspetti si sta attualmente accumulando il rischio aziendale con la massima rapidità.
Nell’ultimo anno, le organizzazioni sono state costrette a confrontarsi con il fatto che l’AI viene implementata più rapidamente di quanto possa essere governata. Il crescente utilizzo dell’AI ombra sta mettendo in luce lacune riguardo a chi, o cosa, sia autorizzato ad agire. La nostra ultima ricerca mostra che il 91% delle organizzazioni sta già utilizzando agenti di AI, ma solo il 10% dispone di una strategia chiara per gestirli.
Gli agenti di AI sono ormai diventati operatori autonomi, che agiscono di propria iniziativa senza bisogno che un responsabile umano li guidi.
Questi attori digitali autonomi sono in grado di analizzare dati, avviare flussi di lavoro e agire all’interno delle aziende. Ma mentre è facile cogliere i vantaggi in termini di velocità, scalabilità e produttività, il trasferimento di autorità è meno evidente.
La vera minaccia nell’adozione dell’AI nelle imprese non è quanto siano intelligenti gli agenti, ma quanta autorità i dirigenti deleghino loro. Si tratta dei diritti decisionali e di ciò che accade quando l’autorità viene delegata a sistemi che le organizzazioni non possono vedere completamente, figuriamoci controllare.
In definitiva, il rischio non è che gli agenti AI si comportino in modo malevolo. È invece che si comportino esattamente come sono stati configurati, in sistemi che non sono mai stati progettati per tenere conto di identità non umane.
Per anni, le aziende hanno sviluppato modelli di sicurezza incentrati sui lavoratori umani. I dipendenti vengono assunti, accreditati, monitorati e, infine, cancellati dal sistema quando lasciano l’azienda. La gestione delle identità rende tutto questo possibile: è il modo in cui le organizzazioni verificano l’identità dei dipendenti, a quali risorse possono accedere e quali azioni sono autorizzati a compiere.
Gli agenti di AI rompono questo modello. Non effettuano l’accesso alle 9:00 e non escono dal sistema alle 17:00. Operano continuamente su più sistemi e ambienti cloud. Possono recuperare dati sensibili, attivare processi finanziari o prendere decisioni rivolte ai clienti in pochi secondi.
Eppure le aziende trattano ancora gli agenti come software di background piuttosto che come attori operativi con reale autorità.
Una recente ricerca di Gravitee, una piattaforma di gestione delle API, rileva che solo il 22% delle organizzazioni tratta gli agenti di AI come identità indipendenti, anche se quasi il 90% delle aziende segnala incidenti di sicurezza sospetti o confermati che coinvolgono agenti di AI.
Immaginiamo uno scenario comune: un’azienda introduce un agente AI interno per semplificare la gestione del personale. Un dipendente chiede all’agente di presentare una richiesta di ferie, aggiornare i dati relativi alla busta paga e avvisare il proprio responsabile. L’agente si collega automaticamente ai sistemi delle risorse umane, alle piattaforme finanziarie e agli strumenti di collaborazione per evadere la richiesta.
Pensate a quanti sistemi l’agente deve accedere per completare la richiesta. Di quali autorizzazioni dispone? Quali punti di accesso sta utilizzando o, potenzialmente, lasciando aperti? Cosa succede se qualcosa va storto?
Il guadagno in termini di efficienza è reale. Ma a meno che ogni fase non sia regolata da chiari controlli di identità, l’azienda potrebbe non sapere esattamente quale autorità sia stata delegata e come intervenire in caso di problemi.
Ecco perché il divario di identità è un problema di leadership, non solo tecnico.
I modelli di accesso tradizionali presuppongono ruoli relativamente stabili e un comportamento umano prevedibile. Gli agenti basati sull’AI operano attraverso attività dinamiche e autorità delegate. Potrebbero richiedere autorizzazioni temporanee e altamente specifiche per eseguire una singola azione, per poi passare immediatamente al flusso di lavoro successivo.
Senza la capacità di verificare e autorizzare continuamente ogni singola fase, le organizzazioni rischiano di vedersi invase da un numero crescente di attori non umani dotati di un accesso ampio e persistente – che, in molti casi, non è mai stato concesso intenzionalmente – ai sistemi critici.
Stiamo già assistendo a questo fenomeno, poiché le organizzazioni iniziano a introdurre codice generato dall’AI e azioni automatizzate in ambienti live, spesso più rapidamente di quanto i modelli di governance riescano a stare al passo. Incidenti recenti, come la violazione del chatbot di McDonald’s in cui controlli deboli hanno esposto milioni di record di candidati, o quando un agente di codifica AI presso Replit ha cancellato un database di produzione live, mostrano quanto velocemente queste lacune possano trasformarsi in disastri nel mondo reale.
Un agente di AI configurato per ottimizzare le decisioni relative alla catena di approvvigionamento potrebbe innescare impegni di acquisto su larga scala. Un agente del servizio clienti potrebbe esporre informazioni sensibili relative agli account. Un agente di rendicontazione finanziaria potrebbe distribuire informazioni sensibili provenienti da più fonti a un ampio pubblico.
Tutti questi casi deriverebbero da un’autonomia mal gestita.
Le autorità di regolamentazione stanno iniziando ad agire. In diversi mercati, come Singapore e l’Australia, i responsabili politici stanno sottolineando che le organizzazioni sono responsabili dei propri sistemi automatizzati.
Ciò rappresenta una sfida in termini di conformità per i dirigenti aziendali. Come si fa a dimostrare quale sistema abbia dato origine a una decisione? Come si fa a dimostrare che l’accesso fosse appropriato nel momento in cui è stata intrapresa un’azione? Come si fa a sospendere o revocare l’autorizzazione se un agente si comporta in modo imprevisto?
Per proteggere gli agenti di AI, le organizzazioni devono essere in grado di rispondere a tre domande fondamentali: dove si trovano i miei agenti, a cosa possono connettersi e cosa sono autorizzati a fare?
Fortunatamente, le aziende non devono reinventare la ruota. Dispongono già delle pratiche necessarie per gestire gli agenti di AI: i dirigenti devono semplicemente trattarli più o meno allo stesso modo in cui trattano i dipendenti umani.
In pratica, ciò significa applicare le discipline consolidate in materia di sicurezza della forza lavoro a un nuovo contesto operativo. Le organizzazioni necessitano di una gestione del ciclo di vita degli agenti. Devono definire l’ambito e la durata delle loro autorizzazioni, monitorare continuamente l’attività e richiedere un’autorizzazione di livello superiore per le azioni ad alto rischio. Anziché un accesso ampio e di lunga durata, gli agenti dovrebbero operare con credenziali just-in-time legate a compiti specifici.
Le organizzazioni che avranno successo nell’adozione dell’AI non saranno quelle che la implementeranno in misura maggiore, né tantomeno quelle che utilizzeranno l’AI più intelligente. Saranno invece quelle che la implementeranno con chiarezza riguardo a chi è autorizzato ad agire e con un metodo affidabile per dimostrarlo. È così che si trasforma l’AI da esperimento – o da rischio – a vera risorsa.
Le opinioni espresse sono esclusivamente quelle dell’autore e non riflettono necessariamente le convinzioni di Fortune.
Questo articolo è stato originariamente pubblicato su Fortune.com.
