Google, deepfake endişeleri nedeniyle Earth AI görsel aracını yayından kaldırdı

Google Alphabet Inc. ↗ 6.88%, Google Earth'teki yapay zeka görsel oluşturma özelliğini, gazetecilerin, güvenlik araştırmacılarının ve açık kaynak araştırmacılarının aracın jeouzamsal dezenformasyon için bir reçete olduğu yönündeki hızlı ve yaygın eleştirilerinin ardından, kullanıma sunulmasından sadece bir gün sonra geri çekti.

Kullanıcıların Gerçekliği Kurgulamasına İzin Veren Bir Özellik

Google'ın Nano Banana 2 yapay zeka modeliyle desteklenen özellik, Perşembe günü yayına girdi ve kullanıcıların metin komutları yazarak gerçek uydu haritaları üzerine yapay zeka tarafından oluşturulmuş görseller yerleştirmesine olanak tanıdı. Google bunu tarihi görselleştirmek, emlak projeleri planlamak veya konumları yeniden hayal etmek için yaratıcı bir araç olarak tanıttı.cnet+1

Ancak araştırmacılar, hassas olayların inandırıcı sahte uydu görüntülerini üretmenin ne kadar kolay olduğunu hemen gösterdiler. Açık kaynak araştırmacısı ve Digital Digging adlı araştırmacı yayının kurucusu Henk van Ess, Meksika sınırındaki mültecileri, İran'daki bir nükleer tesisi ve Gazze'de bomba krateri olan bir hastaneyi gösteren sahte görüntüler oluşturdu. Van Ess, NPR'ye verdiği demeçte, "Hiçbir şey reddedilmedi, hiçbir şey yumuşatılmadı ve hiçbir şey bana farklı bir komut denememi önermedi" dedi.npr+1

NPR, İran'ın Kharg Adası'nın yandığına ve ABD Kongre binası kompleksinin sular altında kaldığına dair bağımsız olarak görüntüler oluşturdu. Washington Post'ta görsel adli tıp araştırmacısı olan Evan Hill, X'te "bu fikrin dahili olarak nasıl test edildiğini veya test edilip edilmediğini çok merak ediyorum, çünkü kötüye kullanım ve dezenformasyon fırsatları kelimenin tam anlamıyla sınırsız" diye yazdı.npr

Google'ın Geri Adımı

Cuma günü Google, X'te sorunları kabul eden bir açıklama yayınladı. Şirket, "İnsanların dünyanın güvenilir bir görünümü için Google Earth'e benzersiz bir şekilde güvendiğini biliyoruz" dedi. "Jeouzamsal profesyonellerin bu özelliği çeşitli yararlı amaçlar için kullandığını gördük, ancak aynı zamanda insanların politikalarımızı ihlal ettiği görünen oluşturulmuş görsellerin ekran görüntülerini paylaştığını da gördük. Bu nedenle, daha güçlü koruma önlemleri uygulamak için çalışırken bu özelliği Google Earth'ten geri çekiyoruz."techcrunch+2

Google, oluşturulan görsellerin SynthID dijital filigranını içerdiğini ve diğer kullanıcılar için ana Google Earth deneyiminde görünmediğini belirtti. Ancak eleştirmenler bu korumaları yetersiz buldu. Van Ess, sahte görüntülerinin ekran kaydını üçüncü taraf yapay zeka tespit aracı Hive'dan geçirdi ve araç, görüntülerin %99.2 ihtimalle gerçek olduğunu değerlendirdi.theverge+1

Uydu Görüntüleri Neden Önemli

Tepkiler daha derin bir endişeyi yansıtıyordu: Uydu görüntüleri, uzun zamandır çatışma bölgelerinde ve ulaşılması zor alanlarda çalışan gazeteciler ve insan hakları araştırmacıları için güvenilir bir doğrulama aracı olarak hizmet veriyor. Bellingcat'te kıdemli araştırmacı olan Jake Godin, "Uydu görüntüleri, bir olayı doğrulamak söz konusu olduğunda sahtesinin yapılması zor olduğu için bir tür güvenli liman olmuştur" dedi.npr

Van Ess, temel gerilimi bültenindeki bir satırda şöyle özetledi: "Google, dünyanın referans aldığı veriyi oluşturmak için yirmi yıl harcadı. Bugün ise buna olmayan şeyleri uyduran bir düğme ekledi."cnet