Un rapporto sul sistema sanitario canadese, commissionato a Deloitte e costato quasi 1,6 milioni di dollari, contiene errori forse generati dall’intelligenza artificiale. Si tratterebbe del secondo caso, quest’anno, in cui uno Stato subisce le conseguenze delle carenze di verifica delle informazioni da parte della società di consulenza. A rilevarli un’inchiesta pubblicata da The Independent.
L’uso ‘mirato’ dell’AI per supportare il rapporto di Deloitte
Il rapporto avrebbe fornito raccomandazioni al dipartimento della Salute e dei servizi alla comunità, allora guidato dai liberali, su temi quali l’assistenza virtuale, gli incentivi per trattenere il personale e gli effetti della pandemia di Covid-19 sugli operatori sanitari. Tutto questo in un contesto di forte carenza di medici e infermieri nella provincia.
Secondo The Independent, il rapporto di Deloitte include citazioni false, tratte da articoli accademici inesistenti, per sostenere analisi di costi e benefici. Cita inoltre ricercatori reali attribuendo loro lavori ai quali non hanno mai partecipato e riporta persino studi fittizi cofirmati da autori che non hanno mai collaborato tra loro. “Deloitte Canada sostiene pienamente le raccomandazioni contenute nel nostro rapporto”, ha dichiarato un portavoce della società.
“Stiamo apportando un piccolo numero di correzioni alle citazioni, che non incidono sulle conclusioni del documento. L’AI non è stata utilizzata per scrivere il rapporto; è stata impiegata in modo mirato solo per supportare un numero limitato di citazioni”.
Il rapporto cita anche un articolo del Canadian Journal of Respiratory Therapy, che però non risulta reperibile nel suo stesso archivio. “Se si arriva a produrre errori del genere, è probabile che si stia usando in modo piuttosto pesante l’AI”, ha dichiarato Gail Tomblin Murphy, professoressa associata alla School of Nursing della Dalhousie University in Nuova Scozia. La studiosa è stata infatti citata in un articolo che “non esiste”. Ha aggiunto inoltre di aver collaborato solo con tre dei sei coautori indicati nella falsa citazione.
Un documento da quasi 1,6 milioni di dollari
A oggi il rapporto risulta essere ancora disponibile sul sito del governo canadese, che ha speso poco meno di 1,6 milioni di dollari per il documento, pagando l’incarico in otto rate, secondo una richiesta di accesso agli atti. Tony Wakeham, leader del partito conservatore progressista della provincia e nuovo premier, ha giurato in carica a fine ottobre. Né l’ufficio del premier né il dipartimento della Salute e dei servizi alla comunità hanno risposto alla richiesta di commento né hanno affrontato pubblicamente la questione.
Già il mese scorso Deloitte aveva utilizzato l’AI per un rapporto da 290mila dollari pubblicato a luglio per aiutare il governo australiano a combattere le frodi nel sistema di welfare. Un ricercatore aveva però identificato “allucinazioni” nel documento di 237 pagine, tra cui riferimenti a studi inesistenti e una citazione inventata attribuita a una sentenza della corte federale. Nella versione aggiornata del rapporto, caricata senza annunci sul sito del governo australiano, la società di consulenza ha ammesso di aver utilizzato il sistema generativo Azure OpenAI.
“Gli aggiornamenti non modificano in alcun modo i contenuti sostanziali, i risultati o le raccomandazioni”, ha scritto la società nella nuova versione dello studio. La filiale australiana di Deloitte è stata obbligata a rimborsare parzialmente il governo. Per quanto riguarda il rapporto canadese, non sono ancora state diffuse informazioni su un eventuale rimborso.
L’articolo originale è disponibile su Fortune.com.
