Google baute einen Bildgenerator in Google Earth ein, und zog ihn einen Tag später zurück
Nano Banana 2 erzeugte aus einem Prompt falsche Satellitenansichten realer Orte. Forschende ließen Flüchtlingslager und ein erfundenes Atomkraftwerk erscheinen; nach rund 24 Stunden nahm Google die Funktion zurück.
Am 30. Juli ergänzte Google Earth experimentell einen Bildgenerator: Ort auswählen, „Bild erstellen“ antippen, Wunsch eingeben und Nano Banana 2 erzeugte die Ansicht. Rund einen Tag später war die Funktion verschwunden. Google nahm sie nach Bildern zurück, die offenbar gegen seine Richtlinien verstießen, und will stärkere Schutzmaßnahmen entwickeln.
Das Problem zeigte sich sofort. Forscher Henk van Ess erzeugte angebliche Flüchtlingslager an der Grenze zwischen den USA und Mexiko sowie ein nicht existentes Atomkraftwerk im Iran, über realen Koordinaten in einer Anwendung, die Menschen für tatsächliche Ortsansichten öffnen. Besonders laut warnten Open-Source-Ermittler, die Kriegs- und Katastrophenaufnahmen verifizieren. Die Federation of American Scientists überschrieb ihren Beitrag trocken mit „Google führt Deepfake-Satellitenbilder ein: Es macht Spaß!“. Google räumte selbst ein, Nutzer vertrauten Google Earth in besonderer Weise als zuverlässigem Blick auf die Welt.
Was dahintersteckt. Satellitenbilder wirken wie Messungen und dienen deshalb als Belege für Konflikte, illegalen Bergbau, Abholzung oder Grenzpolitik. Ein generiertes Satellitenbild ist eine Fälschung in einem Format, das jahrzehntelang als neutral galt. Google dachte an Stadtplaner und Architekten, die neue Bebauung skizzieren. Zur künstlichen Kriegszone fehlte nur ein anderes Textfeld. Nano-Banana-Bilder tragen zwar normalerweise SynthID, doch ein Wasserzeichen hilft nur, wenn jemand es prüft, bei Screenshots in Gruppenchats geschieht das kaum.
Was das für dich bedeutet: Auch Luft- und Satellitenaufnahmen können heute aus einem Satz überzeugend gefälscht werden. Als Beleg zählt deshalb Herkunft und Herausgeber, nicht ein realistischer Eindruck. Für Entwickler zeigt der Fall, dass die wichtigste Startfrage nicht „Funktioniert es?“ lautet, sondern „Was ist der schlimmste Satz, den jemand eingeben kann?“. Google zog die Funktion immerhin nach etwa einem Tag zurück, statt sie zu verteidigen.
Quellen
Quellen: https://blog.google/products-and-platforms/products/earth/nano-banana-google-earth-image-generation/
An jedem vierten böswilligen Datendiebstahl ist inzwischen KI beteiligt, die Kosten liegen eine Million höher
IBMs jährlicher Bericht beziffert KI-gestützte Angriffe auf 25 Prozent aller böswilligen Vorfälle, 56 Prozent mehr als im Vorjahr. Im Schnitt kosten sie 6 Millionen US-Dollar, weltweit sind es 4,99 Millionen.
