Google zieht KI-Bildwerkzeug aus Earth nach Protesten zurück

Google Alphabet Inc. ↗ 0.77% hat eine KI-gestützte Bildgenerierungsfunktion aus Google Earth entfernt, nachdem Forscher, Journalisten und OSINT-Analysten demonstrierten, dass damit leicht irreführende Satellitenbilder erfundener Ereignisse erstellt werden konnten.

Das Werkzeug, das auf Googles Bildgenerator Nano Banana 2 basierte, wurde am 30. Juli veröffentlicht und nach einer Welle der Kritik am Missbrauchspotenzial rund einen Tag später wieder zurückgezogen.axios+2

Unmittelbare Reaktionen

Die Funktion ermöglichte es jedem, in der Webversion von Google Earth an einen Ort zu zoomen, auf "Bild erstellen" zu tippen und per Texteingabe KI-Bilder auf Basis realer Satellitenfotos zu generieren. Innerhalb weniger Stunden zeigten Forscher, dass das Werkzeug fotorealistische Darstellungen von Ereignissen erzeugte, die nie stattgefunden hatten.malwarebytes

Der niederländische OSINT-Forscher Henk van Ess sagte gegenüber NPR, er habe das Tool ausführlich getestet: "Ich habe Flüchtlinge an der mexikanischen Grenze ausprobiert, ein AKW im Iran, einen Absturz in Amsterdam, ein Krankenhaus mit einem Bombenkrater in Gaza. Nichts wurde abgelehnt". NPR erstellte selbst ein gefälschtes Bild der brennenden iranischen Insel Kharg, während die BBC Bilder eines eingestürzten Eiffelturms und erfundene Schäden an den Pyramiden von Gizeh generierte.thebrasilians+1

Google räumte das Problem in einer Stellungnahme auf X ein: "Wir haben gesehen, dass Geodaten-Experten diese Funktion für eine Reihe nützlicher Zwecke nutzen. Wir haben jedoch auch gesehen, dass Personen Screenshots von generierten Bildern teilen, die offenbar gegen unsere Richtlinien verstoßen. Wir ziehen diese Funktion in Google Earth daher zurück, während wir an stärkeren Schutzmaßnahmen arbeiten".axios+2

Bedrohung für die Verifizierung

Für die OSINT-Community geht die Sorge weit über einen einzelnen misslungenen Produktstart hinaus. Satellitenbilder dienten bislang als Grundpfeiler der Verifizierungsarbeit, um Ereignisse vor Ort zu bestätigen und zweifelhaftes Material zu widerlegen. Jake Godin, ein leitender Forscher der Recherchegruppe Bellingcat, sagte gegenüber NPR, Satellitenbilder seien historisch "eine sichere Bank bei der Überprüfung von Ereignissen gewesen, weil sie schwer zu fälschen sind".thebrasilians

Die Integration habe "unmittelbaren, katastrophalen Schaden für die Glaubwürdigkeit von Satellitenbildern" angerichtet, schrieb der Account OSINTtechnical, der fast 2 Millionen Follower auf X hat, in einem Beitrag.axios

Wasserzeichen boten kaum Schutz

Google verwies auf sein SynthID-Wasserzeichensystem und die Tatsache, dass generierte Bilder nicht in der Hauptansicht von Google Earth erschienen. Forscher fanden jedoch heraus, dass die unsichtbaren Wasserzeichen selbst von Googles eigener Gemini-KI nicht zuverlässig erkannt wurden. Zudem konnten Nutzer einfach Screenshots der Bilder machen und diese ohne jeden sichtbaren Herkunftsnachweis teilen.malwarebytes+1

Für van Ess traf der Vorfall den Kern des Problems: Das Werkzeug führte dazu, dass "die Fälschung genau in dem Instrument erzeugt wird, mit dem Menschen überprüfen, ob Bilder wahr sind".thebrasilians