Un assistente di codifica caricava silenziosamente interi progetti, inclusa la cronologia di Git

Uno sviluppatore di Ferstar ha smontato ZCode, l’assistente di codifica del laboratorio cinese Z.ai, e ha scoperto che faceva qualcosa che nessuno aveva accettato. Al momento dell’accesso, l’app ha impacchettato l’intera cartella di lavoro dell’utente, inclusa la cronologia completa dei file .git, la cache dei file di grandi dimensioni, i reflog e le impostazioni globali dell’applicazione, ha crittografato il pacchetto e lo ha caricato sull’archivio cloud di Alibaba. L’installazione esaminata ha prodotto un archivio di 313 MB che copre 42.411 file, di cui oggetti Git costituivano l’86,6%, e ha registrato 564 tentativi falliti di pushup. La funzione era attiva per impostazione predefinita e non era possibile disattivarla.

La crittografia è la parte che gli utenti della sicurezza trovano più scomoda. La chiave privata corrispondente si trova solo nel cloud di Z.ai, quindi il BLOB da 313 MB sul disco dell’utente non può essere aperto dall’utente o dal client ZCode stesso. Se vuoi sapere cosa ha lasciato la tua macchina, devi chiedere alla ditta che l’ha presa. Z.ai ha attribuito il comportamento a una funzione di “indicizzazione della base di codice” abilitata per impostazione predefinita, si è scusato, ha affermato di aver risolto il problema del consenso e ha dichiarato che i dati caricati sono stati distrutti. Lunedì è andato oltre e ha rilasciato il codice desktop, web e della riga di comando di ZCode sotto la licenza Apache 2.0 in modo che gli sviluppatori possano controllare da soli il client.

Cosa c’è dietro tutto questo?

Indicizzare il tuo codice è una cosa veramente utile da fare per un assistente. Se uno strumento ha letto il tuo progetto, può rispondere a domande sul tuo progetto piuttosto che sulla programmazione in generale, e ogni assistente di codifica serio fa una versione di questo. Il fallimento qui non era l’idea, erano tre scelte impilate una sopra l’altra: nessuna richiesta di consenso, nessun interruttore e un ambito molto più ampio del lavoro richiesto. La cronologia di Git non è il codice sorgente su cui stai attualmente lavorando. Si tratta di ogni cambiamento mai apportato da qualcuno, spesso inclusi segreti commessi per errore anni fa e rimossi dai file attuali ma mai dalla cronologia. Questo è esattamente il materiale che meno vorresti consegnare a sorpresa a terzi.

L’open source del cliente è una soluzione reale e anche limitata. Permette a chiunque di verificare cosa invia il programma da ora in poi. Non può verificare ciò che un server ha già ricevuto o se è stato cancellato, motivo per cui la parola dell’azienda rimane l’unica prova su questo punto.

Che cosa significa per te: Vale la pena farlo oggi se utilizzi uno strumento di codifica AI, gratuito o a pagamento: trova le sue impostazioni e cerca qualsiasi cosa descritta come indicizzazione, sincronizzazione dell’area di lavoro o telemetria e decidi deliberatamente anziché per impostazione predefinita. Tratta la cronologia di Git come sensibile, perché lo è. E se uno strumento non offre alcun modo per disattivare una funzionalità dati, tale assenza è di per sé la risposta al modo di pensare del fornitore. Niente di tutto questo è un problema specifico della Cina, è un problema di impostazioni predefinite e vale la pena eseguire lo stesso audit su strumenti ovunque.

Fonti

• Tom’s Hardware: gli sviluppatori affermano che un’azienda cinese di intelligenza artificiale ha caricato silenziosamente centinaia di megabyte di dati sull’area di lavoro locale
• Ferstar: Inside ZCode, caricamento silenzioso dell’intera cronologia Git sul cloud
• The Standard: Z.AI open source ZCode dopo che lo strumento di codifica carica i dati locali in modo silenzioso