„Google“ atšaukė „Earth“ dirbtinio intelekto vaizdų įrankį dėl „deepfake“ grėsmės

„Google Alphabet Inc.“ ↗ 0.96% penktadienį, praėjus vos dienai po pristatymo, atšaukė dirbtinio intelekto vaizdų generavimo funkciją iš „Google Earth“. Tai įvyko po greitos ir plačios žurnalistų, saugumo ekspertų bei atvirojo kodo tyrėjų kritikos, kurie įspėjo, kad šis įrankis yra tiesiausias kelias į geografinę dezinformaciją.

Funkcija, leidusi vartotojams klastoti tikrovę

Funkcija, pagrįsta „Google“ „Nano Banana 2“ dirbtinio intelekto modeliu, pradėjo veikti ketvirtadienį ir leido vartotojams įvesti tekstines užklausas, kad ant tikrų palydovinių žemėlapių būtų uždėti dirbtinio intelekto sugeneruoti vaizdai. „Google“ tai pristatė kaip kūrybinį įrankį istorijos vizualizavimui, nekilnojamojo turto projektų planavimui ar vietovių pergalvojimui.cnet+1

Tačiau tyrėjai iškart pademonstravo, kaip lengvai galima sukurti įtikinamus suklastotus palydovinius jautrių įvykių vaizdus. Henk van Ess, atvirojo kodo tyrėjas ir tyrimų leidinio „Digital Digging“ įkūrėjas, sugeneravo suklastotus vaizdus, kuriuose matyti pabėgėliai prie Meksikos sienos, branduolinė jėgainė Irane ir ligoninė su bombos krateriu Gazoje. „Nieko nebuvo atsisakyta, niekas nebuvo sušvelninta ir nebuvo pasiūlyta išbandyti kitokią užklausą“, – NPR sakė van Ess.npr+1

NPR nepriklausomai sugeneravo vaizdus, kuriuose matyti deganti Irano Kharg sala ir užtvindytas JAV Kapitolijaus kompleksas. Evan Hill, „Washington Post“ vizualinės kriminalistikos tyrėjas, socialiniame tinkle X rašė, kad jam „labai įdomu, kaip ar ar ši idėja buvo tikrinama viduje, nes piktnaudžiavimo ir dezinformacijos galimybės yra tiesiog beribės“.npr

„Google“ atsitraukimas

Penktadienį „Google“ išplatino pranešimą X tinkle, pripažindama problemas. „Žinome, kad žmonės pasitiki „Google Earth“ kaip patikimu pasaulio vaizdu“, – teigė bendrovė. „Matėme, kad geografijos profesionalai naudoja šią funkciją įvairiems naudingiems tikslams, tačiau taip pat matėme žmones, besidalijančius sugeneruotų vaizdų ekrano kopijomis, kurios, atrodo, pažeidžia mūsų taisykles. Todėl atšaukiame šią funkciją „Google Earth“, kol dirbame prie griežtesnių apsaugos priemonių įdiegimo.“techcrunch+2

„Google“ pažymėjo, kad sugeneruoti vaizdai turėjo „SynthID“ skaitmeninį vandens ženklą ir nebuvo rodomi pagrindinėje „Google Earth“ patirtyje kitiems vartotojams. Tačiau kritikai šias apsaugos priemones įvertino kaip nepakankamas. Van Ess paleido savo suklastotų vaizdų ekrano įrašą per trečiosios šalies dirbtinio intelekto aptikimo įrankį „Hive“, kuris įvertino, kad jie 99,2% tikėtinai yra tikri.theverge+1

Kodėl palydoviniai vaizdai yra svarbūs

Ši reakcija atspindėjo gilesnį susirūpinimą: palydoviniai vaizdai ilgą laiką tarnavo kaip patikimas tikrinimo įrankis žurnalistams ir žmogaus teisių tyrėjams, dirbantiems konfliktų zonose ir sunkiai pasiekiamose vietose. „Palydoviniai vaizdai buvo tarsi saugus pasirinkimas tikrinant įvykius, nes juos sunku suklastoti“, – sakė „Bellingcat“ vyresnysis tyrėjas Jake Godin.npr

Van Ess esminę įtampą apibendrino savo naujienlaiškyje: „Google“ dvidešimt metų kūrė atskaitos tašką, kuriuo pasaulis tikrina tikrovę. Šiandien ji pridėjo mygtuką, kuris kuria dalykus.“cnet