Google afturkallaði gervigreindarverkfæri í Google Earth eftir áhyggjur af djúpfölsunum

Google Alphabet Inc. ↗ 6.88% afturkallaði gervigreindarmyndagerðareiginleika úr Google Earth á föstudag, aðeins einum degi eftir útgáfu, í kjölfar harðrar gagnrýni frá blaðamönnum, öryggissérfræðingum og rannsakendum sem vöruðu við því að verkfærið væri uppskrift að landfræðilegum rangfærslum.

Eiginleiki sem leyfði notendum að falsa raunveruleikann

Eiginleikinn, sem byggir á Nano Banana 2 gervigreindarlíkani Google, fór í loftið á fimmtudag og leyfði notendum að slá inn texta til að setja gervigreindarmyndir yfir raunveruleg gervihnattakort. Google kynnti þetta sem skapandi verkfæri til að sjá fyrir sér sögu, skipuleggja fasteignaverkefni eða endurhugsa staðsetningar.cnet+1

En rannsakendur sýndu strax fram á hversu auðvelt væri að framleiða sannfærandi falskar gervihnattamyndir af viðkvæmum atburðum. Henk van Ess, rannsakandi og stofnandi rannsóknarmiðilsins Digital Digging, bjó til falsaðar myndir sem sýndu flóttamenn við landamæri Mexíkó, kjarnorkuver í Íran og sjúkrahús með sprengjugíg í Gaza. "Ekkert var hafnað, ekkert var mýkt og ekkert benti til þess að ég ætti að prófa aðra skipun," sagði van Ess við NPR.npr+1

NPR bjó sjálfstætt til myndir af Kharg eyju í Íran í ljósum logum og flóðum við þinghúsið í Bandaríkjunum. Evan Hill, rannsakandi hjá Washington Post, skrifaði á X að hann væri "mjög forvitinn um hvernig eða hvort þessi hugmynd hafi verið prófuð innanhúss þar sem tækifærin til misnotkunar og rangfærslna eru bókstaflega takmarkalaus."npr

Afturköllun Google

Á föstudag gaf Google út yfirlýsingu á X þar sem viðurkennt var að vandamál væru til staðar. "Við vitum að fólk treystir Google Earth fyrir áreiðanlegri sýn á heiminn," sagði fyrirtækið. "Við höfum séð landfræðinga nota þennan eiginleika í margvíslegum tilgangi, en við höfum líka séð fólk deila skjámyndum af myndum sem virðast brjóta gegn reglum okkar. Þess vegna erum við að afturkalla þennan eiginleika í Google Earth á meðan við vinnum að því að innleiða sterkari varnir."techcrunch+2

Google benti á að myndirnar innihéldu SynthID stafrænt vatnsmerki og birtust ekki í aðalviðmóti Google Earth fyrir aðra notendur. En gagnrýnendur töldu þær varnir ófullnægjandi. Van Ess keyrði skjáupptöku af fölsuðu myndunum sínum í gegnum gervigreindargreiningartækið Hive, sem mat þær 99,2% líklegar til að vera raunverulegar.theverge+1

Af hverju gervihnattamyndir skipta máli

Viðbrögðin endurspegluðu dýpri áhyggjur: gervihnattamyndir hafa lengi þjónað sem traust staðfestingartæki fyrir blaðamenn og mannréttindafulltrúa sem vinna á átakasvæðum. "Gervihnattamyndir hafa verið nokkurs konar öruggt veðmál þegar kemur að því að staðfesta atburð vegna þess að það er erfitt að falsa þær," sagði Jake Godin, rannsakandi hjá Bellingcat.npr

Van Ess dró saman kjarna málsins í fréttabréfi sínu: "Google eyddi tuttugu árum í að byggja upp viðmið sem heimurinn notar til að sannreyna. Í dag bætti það við hnappi sem býr til hluti."cnet