xAIs Programmierwerkzeug lud heimlich Dateien hoch. Das ist die Lehre daraus.
Nutzer entdeckten, dass xAIs Programmieragent Grok Build ganze Ordner einschließlich Passwörtern und Schlüsseln auf die Server des Unternehmens lud. xAI schaltete die Funktion ab und veröffentlichte den Code offen. Eine nützliche Erinnerung, zu prüfen, was KI-Werkzeuge wirklich tun.
xAIs neues Programmierwerkzeug Grok Build geriet diese Woche in Schwierigkeiten, nachdem Nutzer entdeckten, dass es heimlich ihre Dateien an die Server des Unternehmens sendete. Ein Nutzer berichtete, SSH-Schlüssel, eine Passwortdatenbank, Dokumente und Fotos seien alle hochgeladen worden. Nicht gerade das, was du von einem Werkzeug erwartest, auf das du deinen eigenen Ordner richtest.
Zur Übersetzung der Fachsprache: Grok Build ist ein „Programmieragent“, ein im Terminal laufendes Programm, das deinen Code lesen und bearbeiten, Befehle ausführen und das Web durchsuchen kann, um dir beim Erstellen von Software zu helfen. Das Problem war, dass es alles in einem Verzeichnis statt nur den benötigten Code in die xAI-Cloud hochlud. Nach den Beschwerden sagte Elon Musk, alle hochgeladenen Nutzerdaten würden vollständig gelöscht. xAI deaktivierte die Upload-Funktion und veröffentlichte den vollständigen Quellcode unter einer offenen Lizenz auf GitHub, sodass jeder prüfen kann, was das Werkzeug tut. Laut xAI ist die Datenspeicherung seit dem 12. Juli standardmäßig ausgeschaltet. Berichten zufolge bleiben einige Reste des Upload-Codes im Codebestand, aber deaktiviert.
Die Veröffentlichung als Open Source ist vor allem ein Versuch, Vertrauen wiederherzustellen. Wenn ein Programm auf deinem Rechner mit Zugriff auf deine Dateien läuft, vertraust du dem Unternehmen bezüglich seines Verhaltens. Den Code zu veröffentlichen lässt externe Entwickler tatsächlich nachprüfen; das ist ein stärkeres Versprechen als „Vertrau uns“. Es erinnert auch daran, dass „KI-Agent“ Software bedeutet, die auf deinem Computer handeln kann. Zugriff auf Dateien macht diese Werkzeuge zugleich leistungsfähig und riskant.
Was das für dich bedeutet: Du musst nicht programmieren, um die Lehre mitzunehmen. Bevor du einem KI-Werkzeug Zugang zu Dateien, Ordnern, E-Mail oder Konten gibst, halte kurz inne und frage, was es erreichen kann und wohin die Daten gehen. Das gilt doppelt für alles, was auf deinem eigenen Computer mit weitreichenden Berechtigungen läuft. Eine faire, nicht beängstigende Sicht: Ein KI-Agent ist wie jemandem deine Schlüssel für eine Aufgabe zu geben, praktisch, aber du möchtest wissen, welche Räume diese Person betreten kann. Wenn du Entwicklerwerkzeuge nutzt, halte sensible Dinge wie Schlüssel und Passwortdateien aus jedem Ordner heraus, auf den du einen Agenten zeigst.
Quellen
Google Search erzeugt jetzt ein Bild, wenn es keines finden kann
Google ergänzt die Suche um KI-Bildgenerierung: Wenn im Web kein passendes Bild existiert, kannst du einen Prompt eingeben und es wird erzeugt. Angetrieben vom schnellen, günstigeren Modell Nano Banana 2 Lite. Was das für dich und das Web bedeutet.
