Deepfake Tepkileri Üzerine Google Earth’ün Yapay Zeka Aracı Kaldırıldı

Google Alphabet Inc. ↗ 0.77%, araştırmacıların, gazetecilerin ve açık kaynak istihbaratı analistlerinin kurgusal olaylara ait yanıltıcı uydu görüntülerini kolayca üretebildiğini göstermesinin ardından Google Earth'teki yapay zeka destekli görsel oluşturma özelliğini kaldırdı.

Google'ın Nano Banana 2 görsel oluşturucusunu kullanan araç, 30 Temmuz'da kullanıma sunulmuş ve kötüye kullanım potansiyeline yönelik yoğun eleştirilerin ardından yaklaşık bir gün sonra geri çekilmişti.axios+2

Tepkiler Gecikmedi

Özellik, Google Earth'ün web sürümünde herhangi bir konuma yakınlaşan herkesin "görsel oluştur" seçeneğine tıklayarak ve bir komut yazarak gerçek uydu fotoğraflarını temel alan yapay zeka görselleri üretmesine olanak tanıyordu. Birkaç saat içinde araştırmacılar, aracın hiç yaşanmamış olaylara ait fotoğraf gerçekçiliğinde görseller üretebildiğini ortaya koydu.malwarebytes

Hollandalı açık kaynak istihbarat araştırmacısı Henk van Ess, NPR'ye yaptığı açıklamada aracı kapsamlı bir şekilde test ettiğini belirterek, "Meksika sınırındaki mültecileri, İran'daki bir nükleer santralı, Amsterdam'daki bir kazayı, Gazze'de bomba krateri oluşan bir hastaneyi denedim. Hiçbir talep reddedilmedi" dedi. NPR, İran'ın Hark Adası'nı yanarken gösteren sahte bir görsel üretirken BBC de yıkılmış bir Eyfel Kulesi ve Keops Piramidi'nde sahte hasar görselleri oluşturdu.thebrasilians+1

Google, X platformunda yaptığı açıklamada sorunu kabul etti: "Coğrafi mekânsal verilerle çalışan uzmanların bu özelliği çeşitli yararlı amaçlar için kullandığını gördük, ancak oluşturulan görsellerin politikalarımızı ihlal eder şekilde ekran görüntülerinin paylaşıldığına da tanık olduk. Bu nedenle, daha güçlü önlemler uygulamak üzerinde çalışırken Google Earth'teki bu özelliği geri çekiyoruz".axios+2

Doğrulama Süreçlerine Tehdit

Açık kaynak istihbaratı topluluğu için endişe, başarısız bir ürün lansmanının ötesine geçiyor. Uydu görüntüleri, sahadaki olayları doğrulamak ve şüpheli görüntüleri çürütmek için kullanılan doğrulama çalışmalarının temelini oluşturuyor. Araştırmacı gazetecilik grubu Bellingcat'in kıdemli araştırmacısı Jake Godin, NPR'ye yaptığı açıklamada, uydu görüntülerinin geçmişten bu yana "sahtesini yapmak zor olduğu için bir olayı doğrulama konusunda güvenilir bir liman" olduğunu ifade etti.thebrasilians

X'te yaklaşık 2 milyon takipçisi bulunan OSINTtechnical hesabı yaptığı bir paylaşımda, bu entegrasyonun "uydu görüntülerinin güvenilirliğine anında ve felaket düzeyinde zarar verdiğini" belirtti.axios

Filigranlar Yetersiz Kaldı

Google, SynthID filigran sistemine ve üretilen görsellerin ana Google Earth deneyiminde görünmediğine dikkat çekti. Ancak araştırmacılar, görünmez filigranların Google'ın kendi Gemini yapay zekası tarafından bile güvenilir bir şekilde tespit edilemediğini ve kullanıcıların ekran görüntüsü alarak kaynak bilgisi olmadan görselleri kolayca paylaşabildiğini tespit etti.malwarebytes+1

Van Ess'e göre bu durum sorunun özünü ortaya koyuyor: Bu araç, "sahte içeriğin insanların fotoğrafların doğru olup olmadığını kontrol etmek için kullandığı sistemin içinde üretilmesi" anlamına geliyor.thebrasilians