L’outil de programmation de xAI téléversait discrètement les fichiers de ses utilisateurs. Voici la leçon à en tirer
Des utilisateurs ont découvert que l’agent de programmation « Grok Build » de xAI téléversait des dossiers entiers, y compris des mots de passe et des clés, sur les serveurs de l’entreprise. xAI a désactivé cette fonction et publié le code en source ouverte. Un rappel utile : vérifiez ce que font réellement vos outils d’IA.
Le nouvel outil de programmation de xAI, Grok Build, s’est retrouvé en difficulté cette semaine après que des utilisateurs ont découvert qu’il envoyait discrètement leurs fichiers aux serveurs de l’entreprise. Un utilisateur a signalé que des clés SSH, une base de données de mots de passe, des documents et des photos avaient tous été téléversés. Ce n’est pas exactement ce que l’on attend d’un outil auquel on a simplement indiqué un dossier personnel.
Traduisons le jargon : Grok Build est un « agent de programmation », un programme que vous lancez dans votre terminal et qui peut lire et modifier votre code, exécuter des commandes et faire des recherches sur le Web pour vous aider à créer un logiciel. Le problème venait du fait qu’il téléversait tout le contenu d’un répertoire vers le cloud de xAI, pas seulement le code dont il avait besoin. Après les plaintes, Elon Musk a annoncé que toutes les données téléversées par les utilisateurs seraient intégralement supprimées. xAI a désactivé la fonction de téléversement et publié l’intégralité du code source de l’outil sur GitHub sous une licence ouverte, afin que tout le monde puisse examiner son fonctionnement. L’entreprise affirme que le stockage des données est désactivé par défaut depuis le 12 juillet. Certains éléments résiduels du code de téléversement seraient encore présents dans le code source, mais désactivés.
La publication du code en source ouverte vise surtout à rétablir la confiance. Lorsqu’un programme fonctionne sur votre ordinateur et a accès à vos fichiers, vous devez croire l’entreprise sur parole quant à ce qu’il en fait. Publier le code permet aux développeurs extérieurs de le vérifier réellement, ce qui constitue une promesse plus solide qu’un simple « faites-nous confiance ». C’est aussi un rappel : un « agent d’IA » est un « logiciel capable d’agir sur votre ordinateur », et l’accès à vos fichiers est précisément ce qui rend ces outils à la fois puissants et risqués.
Ce que cela signifie pour vous : vous n’avez pas besoin de savoir programmer pour retenir la leçon. Avant de donner à un outil d’IA l’accès à vos fichiers, dossiers, e-mails ou comptes, prenez le temps de vous demander ce qu’il peut atteindre et où ces données sont envoyées. Cela vaut doublement pour tout logiciel qui s’exécute sur votre propre ordinateur avec des autorisations étendues. Pour le voir de manière juste, sans être alarmiste : un agent d’IA revient à confier vos clés à quelqu’un pour qu’il accomplisse une tâche. C’est pratique, mais vous aimeriez savoir dans quelles pièces il peut entrer. Si vous utilisez des outils de développement, conservez les éléments sensibles, comme les clés et les fichiers de mots de passe, en dehors de tout dossier que vous confiez à un agent.
Sources
La recherche Google inventera désormais une image lorsqu’elle n’en trouve aucune
Google ajoute la génération d’images par IA à son moteur de recherche : lorsqu’aucune illustration correspondante n’existe sur le Web, vous pouvez saisir une consigne et il en crée une. Le tout grâce au modèle rapide et moins coûteux « Nano Banana 2 Lite ». Ce que cela change pour vous et pour le Web.
