Google Earth: KI-Tool nach Fake-Welle gestoppt
Das Experiment hielt nicht einmal 24 Stunden durch: Google hat eine erst am Donnerstag gestartete KI-Bildgenerierung in Google Earth mit sofortiger Wirkung wieder gekillt. Der Grund dafür liegt auf der Hand – eine gigantische Welle gefälschter Satellitenaufnahmen flutete innerhalb kürzester Zeit die sozialen Netzwerke.
Unter der Haube steckte das KI-Modell Nano Banana 2. Das Ziel? Nutzer sollten reale Geodaten per einfachem Textbefehl anpassen können. Gedacht als Werkzeug für Forschung und Geografie, lief die Sache jedoch blitzschnell komplett aus dem Ruder.
Fälschungen von Gaza bis zur US-Grenze im Umlauf
Wie naiv man bei Mountain View war, zeigten Sicherheitsforscher wie Henk van Ess im Stundentakt: Ohne große Hürden entstanden täuschend echte Fakes von Bombenkratern direkt neben Krankenhäusern im Gaza-Streifen, erfundene Flüchtlingslager an der US-Grenze oder brennende Bahnhöfe.
Das eigentliche Problem dabei: Für Laien sind solche KI-Infiltrationen auf den ersten Blick schlicht nicht zu durchschauen. Zwar hatte Google das digitale SynthID-Wasserzeichen integriert, doch das erwies sich in der Praxis als völlig zahnloser Tiger gegen einfache Screenshots.
„Wir wissen, dass die Menschen Google Earth einzigartig vertrauen, um eine zuverlässige Sicht auf die Welt zu erhalten […] Daher stellen wir diese Funktion zurück, während wir an stärkeren Schutzmaßnahmen arbeiten.“ – Google via X
Warum unsichtbare Wasserzeichen als Schutz versagen
Apropos Schutzmaßnahmen: Der Vorfall legt ein gewaltiges Problem moderner KI-Sicherheitsarchitekturen offen. Das SynthID-Wasserzeichen wird zwar tief in die Bilddaten gewebt, ist für das menschliche Auge auf einem geteilten Screenshot aber schlicht unsichtbar und damit wirkungslos.
- Keine In-App-Sperren: Prompts zu Krisen, Explosionen oder Militärgerät wurden vom System schlicht nicht blockiert.
- Erkennungs-Tools ausgetrickst: Selbst spezialisierte KI-Detektoren wie Hive fielen auf abgefilmte Clips der Earth-Karten herein.
- Massiver Vertrauensverlust: Da Google Earth seit der Übernahme 2004 als verlässliche Quelle für Journalisten gilt, steht hier ordentlich Reputation auf dem Spiel.
Ich bin wirklich gespannt, wie Google diese Kiste wieder einfangen will. Solange Prompt-Filter derart lachs agieren und Wasserzeichen nicht fälschungssicher auf dem Bildschirm zu sehen sind, bleibt das Ganze ein unkalkulierbares Risiko für gezielte Desinformation. Wann die Funktion zurückkehrt – wenn überhaupt –, lässt Google schlauereis vorerst komplett offen.
Schmidtis Blog zu Deiner bevorzugten Quelle bei Google hinzufügen
Links mit einem * sind Partner-Links. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalte ich eine kleine Provision. Für euch ändert sich am Preis nichts. Danke für eure Unterstützung!
