Migliaia di chat degli utenti con Grok, il chatbot AI di Elon Musk, sono ora disponibili pubblicamente su Google.
Più di 370.000 conversazioni di Grok sono state indicizzate dai motori di ricerca, esponendo centinaia di prompt sensibili che includono domande di natura medica e psicologica, dettagli aziendali e persino almeno una password.
L’esposizione è dovuta alla funzione di “condivisione” di Grok, pensata per inviare una copia di una conversazione ad altri o a sé stessi via email. Questa funzione genera un URL univoco per la chat, che viene pubblicato automaticamente sul sito di Grok e lasciato accessibile ai motori di ricerca, apparentemente senza che gli utenti ne fossero consapevoli.
La notizia è stata riportata per la prima volta da Forbes.
Alcune delle trascrizioni disponibili su Google Search, esaminate da Fortune, contenevano conversazioni che violavano i termini di servizio di Grok. In un caso il chatbot spiegava come produrre una droga di Classe A, in un altro forniva istruzioni dettagliate su come assassinare Elon Musk. Secondo i termini di xAI, Grok non può essere usato per attività che “danneggiano in modo critico la vita umana”.
Non è la prima volta che conversazioni con chatbot AI che gli utenti credevano private finiscono online. OpenAI aveva sperimentato una funzione simile per ChatGPT, che permetteva di condividere le chat tramite link. Anche quelle conversazioni venivano indicizzate da Google, nonostante la funzione fosse opzionale e accompagnata da un avviso. In totale, oltre 4.500 chat condivise finirono nei risultati di ricerca, alcune contenenti informazioni altamente personali o sensibili. Dopo la polemica, OpenAI ritirò rapidamente la funzione, definendola un esperimento di breve durata e riconoscendo che creava “troppe opportunità per condividere accidentalmente contenuti non voluti”.
In quell’occasione, Musk aveva colto l’occasione per promuovere Grok come alternativa a ChatGPT, scrivendo su X: “Grok FTW”. A differenza di OpenAI, però, Grok non avverte gli utenti che le chat condivise possano diventare pubbliche.
Anche Meta offre una funzione simile, che pubblica direttamente le conversazioni sul feed Discover dell’app: molte di esse, contenenti dati sensibili, sono state indicizzate da Google. Meta consente tuttora l’indicizzazione di queste chat, secondo Business Insider. Google, invece, aveva permesso ai risultati di ricerca di mostrare chat condivise con il suo chatbot Bard, ma ha rimosso la funzione nel 2023.
Gli esperti di privacy avvertono che le chat con i chatbot AI non sono così private come sembrano. Luc Rocher, dell’Oxford Internet Institute, ha dichiarato alla BBC che i chatbot sono “un disastro della privacy in corso”. Una volta online, le conversazioni sono difficili da eliminare del tutto. Molti utenti non comprendono appieno come i loro dati vengano memorizzati, condivisi o utilizzati. Forbes, ad esempio, ha rintracciato due persone le cui chat con Grok erano state indicizzate, e nessuna delle due sapeva che fossero diventate pubbliche.
Nell’Unione Europea, una simile gestione dei dati potrebbe violare il GDPR, che impone principi come la minimizzazione dei dati, il consenso informato e il diritto all’oblio.
Sempre più spesso gli utenti trattano i chatbot come confidenti, affidando loro informazioni delicate su salute, finanze o relazioni. Anche se le chat risultano anonime, spesso i prompt contengono dettagli che possono ricondurre facilmente all’identità dell’utente o essere sfruttati da hacker, data broker o attori malevoli per campagne mirate.
C’è già chi intravede un’opportunità di business nelle chat pubbliche di Grok. Secondo Forbes, alcuni professionisti del marketing stanno valutando come sfruttare le conversazioni condivise per aumentare la visibilità dei brand. Poiché ogni chat viene pubblicata come una pagina web con un proprio URL, si potrebbe ipotizzare di “scrivere” conversazioni che citano prodotti e keyword per influenzare i risultati di ricerca o creare backlink. Non è chiaro quanto la tattica possa funzionare: potrebbe trasmettere un certo valore SEO, ma rischia anche di essere classificata come spam da Google e penalizzare la visibilità.
xAI non ha rilasciato commenti immediati a Fortune.
L’articolo originale è disponibile qui.
