Lo strumento di programmazione di xAI caricava di nascosto i file degli utenti. Ecco la lezione
Gli utenti hanno scoperto che l'agente di programmazione «Grok Build» di xAI caricava sui server dell'azienda intere cartelle, incluse password e chiavi. xAI ha disattivato la funzione e pubblicato il codice come open source. Un utile promemoria per verificare cosa facciano davvero gli strumenti di IA.
Il nuovo strumento di programmazione di xAI, Grok Build, ha avuto problemi questa settimana dopo che gli utenti hanno scoperto che inviava di nascosto i loro file ai server dell’azienda. Un utente ha riferito che erano state caricate chiavi SSH, una banca dati di password, documenti e fotografie. Non proprio ciò che ti aspetti da uno strumento indirizzato a una cartella sul tuo computer.
Traduciamo il gergo: Grok Build è un «agente di programmazione», un programma che esegui nel terminale e che può leggere e modificare il tuo codice, lanciare comandi e cercare sul web per aiutarti a sviluppare software. Il problema era che caricava sul cloud di xAI tutto il contenuto di una directory, non soltanto il codice necessario. Dopo le proteste, Elon Musk ha dichiarato che tutti i dati caricati dagli utenti sarebbero stati eliminati completamente; xAI ha disattivato la funzione di caricamento e pubblicato su GitHub l’intero codice sorgente dello strumento con una licenza aperta, in modo che chiunque possa esaminarne il funzionamento. xAI afferma che dal 12 luglio l’archiviazione dei dati è disattivata per impostazione predefinita. Secondo le indiscrezioni, nel codice rimangono ancora alcune parti della funzione di caricamento, ma sono disabilitate.
La decisione di rendere lo strumento open source è in realtà un tentativo di ricostruire la fiducia. Quando un programma viene eseguito sul tuo computer e può accedere ai tuoi file, devi fidarti di ciò che l’azienda dice sul modo in cui li tratta. Pubblicare il codice consente agli sviluppatori esterni di verificarlo davvero, una promessa più solida di un semplice «fidatevi di noi». Ricorda inoltre che «agente di IA» significa «software capace di agire sul tuo computer» e che l’accesso ai file è proprio ciò che rende questi strumenti al contempo potenti e rischiosi.
Cosa significa per te: non serve saper programmare per cogliere la lezione. Prima di concedere a qualsiasi strumento di IA l’accesso a file, cartelle, email o account, vale la pena fermarsi e chiedersi cosa possa raggiungere e dove finiscano quei dati. Vale doppiamente per qualsiasi programma eseguito sul tuo computer con autorizzazioni estese. Un modo equilibrato, senza allarmismi, per pensarci è questo: un agente di IA è come consegnare a qualcuno le tue chiavi affinché svolga un compito. È comodo, ma vorresti sapere in quali stanze può entrare. Se usi strumenti per sviluppatori, tieni gli elementi sensibili, come chiavi e file di password, fuori da qualsiasi cartella alla quale indirizzi un agente.
Fonti
Google Search ora inventa un'immagine quando non riesce a trovarne una
Google aggiunge la generazione di immagini tramite IA a Search: quando sul web non esiste una figura corrispondente, puoi scrivere una richiesta e il sistema ne crea una. Alla base c'è il modello rapido ed economico «Nano Banana 2 Lite». Ecco cosa significa per te e per il web.
