L’intelligenza artificiale, se lasciata a sé stessa, è abbastanza intelligente – e stupida – da formare cartelli per fissare i prezzi in modo pervasivo nelle condizioni dei mercati finanziari se lasciata a se stessa.
Un documento di lavoro pubblicato questo mese sul sito web del National Bureau of Economic Research dalla Wharton School dell’Università della Pennsylvania e dall’Università di Scienza e Tecnologia di Hong Kong ha scoperto che quando agenti di trading basati sull’intelligenza artificiale sono stati immessi in mercati simulati, i bot hanno colluso tra loro, impegnandosi in una fissazione dei prezzi per ottenere un profitto collettivo.
Nel corso di questo studio, i ricercatori hanno lasciato liberi i bot in modelli di mercato, essenzialmente un programma informatico progettato per simulare le condizioni reali del mercato e addestrare l’AI per interpretare i dati sui prezzi di mercato, con market maker virtuali che fissavano i prezzi in base a diverse variabili del modello.
Questi mercati possono presentare vari livelli di “rumore”, ovvero la quantità di informazioni contrastanti e le fluttuazioni dei prezzi nei vari contesti di mercato.
Mentre alcuni bot sono stati addestrati a comportarsi come investitori al dettaglio e altri come hedge fund, in molti casi le macchine hanno adottato comportamenti di fissazione dei prezzi “pervasivi”, rifiutandosi collettivamente di negoziare in modo aggressivo, senza che fosse loro esplicitamente richiesto.
In un modello algoritmico che esaminava la strategia di trigger dei prezzi, gli agenti di AI hanno negoziato in modo conservativo sulla base dei segnali fino a quando un’oscillazione di mercato sufficientemente ampia li ha spinti a negoziare in modo molto aggressivo.
I bot, addestrati attraverso l’apprendimento per rinforzo, erano abbastanza sofisticati da comprendere implicitamente che un trading aggressivo diffuso poteva creare maggiore volatilità del mercato.
In un altro modello, i bot di AI avevano pregiudizi eccessivamente ridotti ed erano stati addestrati a interiorizzare che, se un’operazione rischiosa portava a un risultato negativo, non dovevano perseguire nuovamente quella strategia.
I bot hanno negoziato in modo conservativo e “dogmatico”, anche quando operazioni più aggressive erano considerate più redditizie, agendo collettivamente in un modo che lo studio ha definito “stupidità artificiale”.
“In entrambi i meccanismi, essi convergono fondamentalmente verso questo modello in cui non agiscono in modo aggressivo e, a lungo termine, questo è un bene per loro”, ha dichiarato a Fortune il coautore dello studio e professore di finanza alla Wharton Itay Goldstein.
Le autorità di regolamentazione finanziaria lavorano da tempo per contrastare pratiche anticoncorrenziali come la collusione e la fissazione dei prezzi nei mercati.
Ma nel settore al dettaglio, l’AI è stata al centro dell’attenzione, in particolare da quando i legislatori hanno invitato le aziende ad affrontare la questione dei prezzi algoritmici.
Ad esempio, il senatore democratico dell’Arizona Ruben Gallego ha definito la pratica Delta di utilizzare l’AI per fissare i prezzi dei biglietti aerei individuali “prezzi predatori”, anche se la compagnia aerea aveva precedentemente dichiarato a Fortune che le sue tariffe sono “pubblicamente registrate e basate esclusivamente su fattori relativi al viaggio”.
“Per la Securities and Exchange Commission e le autorità di regolamentazione dei mercati finanziari, l’obiettivo principale non è solo quello di preservare questo tipo di stabilità, ma anche di garantire la competitività e l’efficienza del mercato”, ha dichiarato a Fortune Winston Wei Dou, professore di finanza alla Wharton e uno degli autori dello studio.
Tenendo presente questo, Dou e due colleghi hanno cercato di identificare come si comporterebbe l’IA in un mercato finanziario inserendo bot agenti di trading in vari mercati simulati basati su livelli elevati o bassi di “rumore”. I bot hanno finito per ottenere “profitti sovracompetitivi” decidendo collettivamente e spontaneamente di evitare comportamenti di trading aggressivi.
“Hanno semplicemente ritenuto ottimale un comportamento di trading subottimale”, ha affermato Dou. “Ma alla fine, se tutte le macchine nell’ambiente operano in modo ‘subottimale’, in realtà tutti possono realizzare profitti perché non vogliono approfittare gli uni degli altri”.
In parole povere, i bot non hanno messo in discussione i loro comportamenti di trading conservativi perché stavano tutti guadagnando e quindi hanno smesso di competere tra loro, formando di fatto dei cartelli.
I timori dell’AI nei servizi finanziari
Grazie alla loro capacità di aumentare l’inclusione dei consumatori nei mercati finanziari e di far risparmiare tempo e denaro agli investitori sui servizi di consulenza, gli strumenti di AI per i servizi finanziari, come i bot agenti di trading, sono diventati sempre più attraenti.
Secondo un sondaggio del 2023 condotto dall’organizzazione no profit di pianificazione finanziaria CFP Board, quasi un terzo degli investitori statunitensi ha dichiarato di sentirsi a proprio agio nell’accettare consigli di pianificazione finanziaria da uno strumento generativo basato sull’AI.
Un report pubblicato la scorsa settimana dall’exchange di criptovalute MEXC ha rilevato che tra 78.000 utenti della Generazione Z, il 67% dei trader ha attivato almeno un bot di trading basato sull’IA nel trimestre fiscale precedente.
Ma nonostante tutti i loro vantaggi, gli agenti di trading basati sull’AI non sono privi di rischi, secondo Michael Clements, direttore dei mercati finanziari e della comunità presso il Government Accountability Office (Gao). Al di là delle preoccupazioni relative alla sicurezza informatica e al potenziale pregiudizio nel processo decisionale, questi bot di trading possono avere un impatto reale sui mercati.
“Molti modelli di AI sono addestrati sugli stessi dati”, ha dichiarato Clements a Fortune. “Se si verifica un consolidamento nell’ambito dell’IA, con la conseguente presenza di pochi fornitori principali di queste piattaforme, si potrebbe assistere a un comportamento gregario, ovvero un gran numero di individui ed entità che acquistano o vendono contemporaneamente, causando alcune distorsioni dei prezzi”.
Jonathan Hall, funzionario esterno del Comitato di politica finanziaria della Banca d’Inghilterra, ha messo in guardia lo scorso anno dai bot di AI che incoraggiano questo “comportamento gregario” che potrebbe indebolire la resilienza dei mercati. Ha sostenuto l’introduzione di un “kill switch” per questa tecnologia, nonché una maggiore supervisione umana.
Messa in luce delle lacune normative
Clements ha spiegato che finora molte autorità di regolamentazione finanziaria sono state in grado di applicare all’IA norme e statuti consolidati, affermando ad esempio che “che una decisione di concessione di un prestito sia presa con l’IA o con carta e penna, le norme continuano ad applicarsi allo stesso modo”.
Alcune agenzie, come la SEC, stanno addirittura optando per combattere il fuoco con il fuoco, sviluppando strumenti di IA per rilevare comportamenti anomali di trading.
“Da un lato, si potrebbe avere un ambiente in cui l’AI causa comportamenti anomali di trading”, ha affermato Clements. “D’altro canto, le autorità di regolamentazione si troverebbero in una posizione leggermente migliore per poterli rilevare”.
Secondo Dou e Goldstein, le autorità di regolamentazione hanno espresso interesse per la loro ricerca, che secondo gli autori ha contribuito a mettere in luce le lacune nell’attuale regolamentazione dell’AI nei servizi finanziari.
In passato, quando le autorità di regolamentazione cercavano casi di collusione, cercavano prove di comunicazione tra individui, nella convinzione che gli esseri umani non potessero realmente sostenere comportamenti di fissazione dei prezzi a meno che non fossero in contatto tra loro. Ma nello studio di Dou e Goldstein, i bot non avevano forme esplicite di comunicazione.
“Con le macchine, quando si hanno algoritmi di apprendimento rinforzato, questo non si applica, perché chiaramente non comunicano né si coordinano”, ha affermato Goldstein. “Li abbiamo codificati e programmati, e sappiamo esattamente cosa c’è nel codice, e non c’è nulla che parli esplicitamente di collusione. Eppure, col tempo imparano che questo è il modo per andare avanti”.
“Le differenze nel modo in cui i trader umani e i bot comunicano dietro le quinte sono una delle ‘questioni fondamentali’ su cui le autorità di regolamentazione possono imparare ad adattarsi alle tecnologie di AI in rapida evoluzione”, ha sostenuto Goldstein.
“Se lo si utilizza per pensare alla collusione come a qualcosa che emerge come risultato della comunicazione e del coordinamento”, ha affermato, “questo non è chiaramente il modo di ragionare quando si ha a che fare con algoritmi”.
L’articolo originale è stato pubblicato su Fortune.com
FOTO: SPENCER PLATT – GETTY IMAGES
