La herramienta de programación de xAI subía archivos de los usuarios en silencio. Esta es la lección
Los usuarios descubrieron que el agente de programación «Grok Build» de xAI subía carpetas enteras a los servidores de la empresa, incluidas contraseñas y claves. xAI desactivó la función y publicó el código como software abierto. Es un recordatorio útil para comprobar qué hacen realmente tus herramientas de IA.
Grok Build, la nueva herramienta de programación de xAI, tuvo problemas esta semana después de que los usuarios descubrieran que enviaba silenciosamente sus archivos a los servidores de la empresa. Un usuario informó de que se habían subido claves SSH, una base de datos de contraseñas, documentos y fotos. No es precisamente lo que esperas de una herramienta a la que has dado acceso a una carpeta propia.
Traduzcamos la jerga: Grok Build es un «agente de programación», un programa que ejecutas en el terminal y que puede leer y editar tu código, ejecutar comandos y buscar en la web para ayudarte a crear software. El problema fue que subía a la nube de xAI todo lo que había en un directorio, no solo el código que necesitaba. Tras las quejas, Elon Musk afirmó que todos los datos de usuarios subidos se eliminarían por completo, xAI desactivó la función de carga y la empresa publicó en GitHub todo el código fuente de la herramienta bajo una licencia abierta para que cualquiera pudiera examinar qué hace. xAI afirma que el almacenamiento de datos está desactivado por defecto desde el 12 de julio. Según las informaciones, aún quedan en el código algunos componentes de la función de carga, pero están deshabilitados.
La decisión de publicar la herramienta como software abierto es, en realidad, un intento de recuperar la confianza. Cuando un programa se ejecuta en tu máquina con acceso a tus archivos, confías en la palabra de la empresa sobre lo que hace con ellos. Publicar el código permite que desarrolladores externos lo comprueben de verdad, lo que constituye una promesa más sólida que un «confía en nosotros». También recuerda que «agente de IA» significa «software que puede actuar en tu ordenador», y que el acceso a tus archivos es precisamente lo que hace que estas herramientas sean potentes y arriesgadas al mismo tiempo.
Qué significa esto para ti: no necesitas saber programar para entender la lección. Antes de dar a cualquier herramienta de IA acceso a tus archivos, carpetas, correo electrónico o cuentas, merece la pena detenerse y preguntar a qué puede llegar y adónde van esos datos. Esto es doblemente cierto para cualquier programa que funcione en tu propio ordenador con permisos amplios. Una forma razonable y nada alarmista de verlo es que un agente de IA se parece a entregar tus llaves a alguien para que realice una tarea: resulta práctico, pero querrías saber en qué habitaciones puede entrar. Si utilizas herramientas para desarrolladores, mantén los elementos sensibles, como las claves y los archivos de contraseñas, fuera de cualquier carpeta a la que des acceso a un agente.
Fuentes
El buscador de Google inventará una imagen cuando no pueda encontrarla
Google añade la generación de imágenes con IA al buscador: cuando no exista una imagen que coincida en la web, podrás escribir una descripción y el sistema creará una. Funciona con un modelo rápido y más barato llamado «Nano Banana 2 Lite». Qué supone para ti y para la web.
