C’è una strana ironia nel modo in cui valutiamo l’intelligenza artificiale: abbiamo creato sistemi per imitare e migliorare le capacità umane, eppure ne misuriamo il successo utilizzando metriche che considerano tutto tranne ciò che li rende veramente preziosi per gli esseri umani.

Le dashboard del settore tecnologico traboccano di numeri impressionanti sull’intelligenza artificiale: velocità di elaborazione, conteggio dei parametri, punteggi benchmark, tassi di crescita degli utenti. Le menti più brillanti della Silicon Valley modificano continuamente gli algoritmi per migliorarli, ma in questo labirinto di misurazioni, abbiamo perso di vista una verità fondamentale: l’intelligenza artificiale più sofisticata al mondo è inutile se non migliora significativamente la vita delle persone.

Si consideri la storia dei primi motori di ricerca. Prima di Google, le aziende competevano ferocemente sul numero di pagine web indicizzate. Eppure Google ha prevalso non perché avesse il database più grande, ma perché aveva compreso qualcosa di più profondo sul comportamento umano: che la pertinenza e l’affidabilità contano più della pura quantità.

L’intelligenza artificiale che crea fiducia

L’attuale panorama dell’AI appare sorprendentemente simile, con le aziende che si affrettano a costruire modelli più grandi, perdendo potenzialmente di vista gli elementi più sfumati della progettazione incentrata sull’uomo.

Il percorso verso una migliore valutazione dell’AI inizia con la fiducia. Alcune ricerche dimostrano che gli utenti interagiscono in modo più profondo e persistente con i sistemi di AI che spiegano chiaramente il loro ragionamento, anche quando occasionalmente questi sistemi vacillano. Questo è intuitivamente sensato: la fiducia, sia nella tecnologia che negli esseri umani, nasce dalla trasparenza e dall’affidabilità piuttosto che da pure metriche di performance.

Eppure la fiducia è solo il fondamento. I sistemi di AI più efficaci creano autentiche connessioni emotive con gli utenti dimostrando una vera comprensione della psicologia umana. La ricerca rivela un modello convincente: quando i sistemi di AI si adattano ai bisogni psicologici degli utenti, anziché limitarsi a eseguire compiti, diventano parte integrante della vita quotidiana delle persone. Non si tratta di programmare una cordialità superficiale, ma di creare sistemi che comprendano e rispondano realmente all’esperienza umana.

La fiducia è più importante delle capacità tecniche quando si tratta di adozione dell’AI. Uno studio rivoluzionario condotto su circa 1.100 utenti di chatbot AI ha scoperto che le persone sono disposte a perdonare i malfunzionamenti dei servizi e a mantenere la fedeltà al marchio non in base alla rapidità con cui l’AI risolve il loro problema, ma in base alla fiducia che ripongono nel sistema che cerca di aiutarle.

Un’AI che ti capisce

I ricercatori hanno scoperto tre elementi chiave che costruiscono questa fiducia: in primo luogo, l’AI deve dimostrare una reale capacità di comprendere e affrontare il problema. In secondo luogo, deve mostrare benevolenza, un sincero desiderio di aiutare. In terzo luogo, deve mantenere l’integrità attraverso interazioni coerenti e oneste. Quando i chatbot basati sull’AI incarnavano queste qualità, i clienti erano significativamente più propensi a perdonare i problemi di servizio e meno propensi a lamentarsi con altri della loro esperienza.

Come si rende affidabile un sistema di AI? Lo studio ha scoperto che le cose semplici fanno una grande differenza: antropomorfizzare l’AI, programmarla per esprimere empatia attraverso le sue risposte (ad esempio “Capisco quanto possa essere frustrante”) ed renderla trasparente sulla privacy dei dati.

Questa intuizione mette in discussione il presupposto comune secondo cui l’AI debba essere solo veloce e precisa. Nell’assistenza sanitaria, nei servizi finanziari e nell’assistenza clienti, i sistemi di intelligenza artificiale generativa di maggior successo non sono necessariamente i più sofisticati: sono quelli che instaurano un rapporto autentico con gli utenti.

Eppure le metriche tradizionali non sempre catturano queste dimensioni, cruciali, delle prestazioni. Abbiamo bisogno di framework che valutino i sistemi di intelligenza artificiale non solo in base alla loro competenza tecnica, ma anche in base alla loro capacità di creare sicurezza psicologica, instaurare un rapporto autentico e, soprattutto, aiutare gli utenti a raggiungere i propri obiettivi.

Le opinioni espresse negli articoli di commento sono esclusivamente quelle dei rispettivi autori e non riflettono necessariamente le opinioni e le convinzioni della testata. L’articolo completo è stato pubblicato su Fortune.com

Foto Getty Images