Google fjarlægir gervigreindartól úr Google Earth eftir hörð viðbrögð

Google Alphabet Inc. ↗ 0.77% fjarlægði gervigreindardrifinn myndasmið úr Google Earth eftir að rannsakendur, blaðamenn og sérfræðingar í opnum heimildum sýndu fram á að auðvelt var að búa til afskræmdar gervihnattamyndir af uppspunnum atburðum.

Tólið, sem notaði Nano Banana 2 myndasmið Google, var kynnt 30. júlí en var tekið úr umferð um sólarhring síðar eftir mikla gagnrýni á mögulega misnotkun þess.axios+2

Hörð viðbrögð

Eiginleikinn gerði öllum kleift að þysja inn á staðsetningu í vefútgáfu Google Earth, smella á „búa til mynd“ og slá inn texta til að búa til gervigreindarmyndir með raunverulegum gervihnattamyndum sem grunn. Innan fárra klukkustunda sýndu rannsakendur fram á að tólið gæti búið til ljósmyndaraunverulegar myndir af atburðum sem gerðust aldrei.malwarebytes

Hollenski rannsakandinn Henk van Ess, sem sérhæfir sig í opnum heimildum, sagði í samtali við NPR að hann hefði prófað tólið mikið: „Ég prófaði flóttamenn við landamæri Mexíkó, kjarnorkuver í Íran, slys í Amsterdam, sjúkrahús með sprengjugíg í Gasa. Engu var hafnað“. NPR bjó sjálft til gervimynd af Kharg-eyju Írans á bloomslogum, á meðan BBC bjó til myndir af hrunnum Eiffel-turni og skemmdum á Pýramídanum mikla í Gíza.thebrasilians+1

Google viðurkenndi vandamálið í yfirlýsingu á X: „Við höfum séð sérfræðinga á landupplýsingasviði nota þennan eiginleika í margs konar gagnlegum tilgangi, en við höfum líka séð fólk deila skjáskotum af búnum myndum sem virðast brot á reglum okkar. Við erum því að afturkalla þennan eiginleika í Google Earth á meðan við vinnum að því að koma á sterkari öryggisráðstöfunum“.axios+2

Ógn við staðfestingu frétta

Hjá þeim sem vinna með opnar heimildir ristir áhyggjuefnið dýpra en ein mistekin vörukynning. Gervihnattamyndir hafa verið grunnurinn að staðfestingarvinnu, notaðar til að staðfesta atburði á vettvangi og hrekja grunsamlegt myndefni. Jake Godin, sérfræðingur hjá rannsóknarhópnum Bellingcat, sagði í samtali við NPR að gervihnattamyndir hefðu sögulega verið „öruggur valkostur þegar kemur að því að staðfesta atburði vegna þess að erfitt er að falsa þær“.thebrasilians

Tengingin olli „takarlausum og skelfilegum skaða á trúverðugleika gervihnattamynda,“ sagði í færslu frá aðganginum OSINTtechnical, sem er með tæplega 2 milljónir fylgjenda á X.axios

Vatnsmerki veittu litla vernd

Google benti á SynthID vatnsmerkjakerfi sitt og þá staðreynd að búnar myndir birtust ekki í aðalviðmóti Google Earth. En rannsakendur komust að því að ósýnilegu vatnsmerkin voru ekki nægilega greinanleg, ekki einu sinni af Gemini gervigreind Google sjálfs, auk þess sem notendur gátu einfaldlega tekið skjáskot af myndunum og deilt þeim án sýnilegra ummerkja um uppruna.malwarebytes+1

Að mati van Ess hitti atvikið beint í hjarta vandans: tólið þýddi að „fölsunin er búin til inni í tækinu sem fólk notar til að athuga hvort myndir séu sannar“.thebrasilians