Kilus pasipiktinimui dėl suklastotų vaizdų, „Google“ pašalino DI įrankį iš „Google Earth“

„Google“ patronuojančioji bendrovė „Alphabet Inc.“ ↘ 3.08% pašalino dirbtinio intelekto valdomą vaizdų generavimo funkciją iš „Google Earth“, kai tyrėjai, žurnalistai ir atvirojo kodo žvalgybos analitikai įrodė, kad ja galima lengvai sukurti klaidinančias išgalvotų įvykių palydovines nuotraukas.

Įrankis, kuriame buvo naudojamas „Google“ vaizdų generatorius „Nano Banana 2“, buvo pristatytas liepos 30 d. ir atšauktas maždaug po paros, kilus kritikos bangai dėl galimo piktnaudžiavimo.axios+2

Tiesioginė reakcija

Ši funkcija leido bet kam priartinti vietovę „Google Earth“ žiniatinklio versijoje, spustelėti „kurti vaizdą“ ir įvesti užklausą, kad būtų sugeneruotas DI vaizdas, paremtas tikromis palydovinėmis nuotraukomis. Per kelias valandas tyrėjai parodė, kad įrankis gali sukurti fotorealistiškus nebūtų įvykių vaizdus.malwarebytes

Olandų atvirojo kodo žvalgybos tyrėjas Henkas van Essas stoties NPR žurnalistams teigė išsamiai išbandęs šį įrankį: „Bandžiau kurti pabėgėlius prie Meksikos sienos, branduolinę jėgainę Irane, avariją Amsterdame, ligoninę su bombos krateriu Gazoje. Nieko nebuvo atsisakyta kurti“. Pačiam NPR pavyko sukurti liepsnojančios Chargo salos Irane vaizdą, o BBC sugeneravo sugriuvusio Eifelio bokšto bei tariamai apgadintos Didžiosios Gizos piramidės nuotraukas.thebrasilians+1

Bendrovė „Google“ pripažino problemą pareiškime platformoje X: „Matėme, kad geopriskirties specialistai naudoja šią funkciją įvairiems naudingiems tikslams, tačiau taip pat pastebėjome, kad žmonės dalijasi sugeneruotų vaizdų ekrano nuotraukomis, kurios, atrodo, pažeidžia mūsų taisykles. Todėl atšaukiame šią funkciją iš „Google Earth“, kol dirbame ties griežtesnių apsaugos priemonių diegimu“.axios+2

Grėsmė informacijos tikrinimui

Atvirojo kodo žvalgybos bendruomenei susirūpinimas yra kur kas gilesnis nei vien tik nepavykęs produkto pristatymas. Palydovinės nuotraukos ilgą laiką buvo informacijos tikrinimo pagrindas, naudojamas įvykiams vietoje patvirtinti ir įtartinai medžiagai paneigti. Tyrimų grupės „Bellingcat“ vyresnysis tyrėjas Jake'as Godinas stoties NPR žurnalistams sakė, kad palydovinės nuotraukos istoriškai buvo „patikimas pasirinkimas tikrinant įvykį, nes jas sunku suklastoti“.thebrasilians

Integruota funkcija padarė „tiesioginę, katastrofišką žalą palydovinių nuotraukų patikimumui“, įraše teigė paskyra „OSINTtechnical“, turinti beveik 2 milijonus sekėjų platformoje X.axios

Vandens ženklai suteikė mažai apsaugos

„Google“ atkreipė dėmesį į savo „SynthID“ vandens ženklų sistemą ir faktą, kad sugeneruoti vaizdai nesirodė pagrindinėje „Google Earth“ aplinkoje. Tačiau tyrėjai nustatė, kad nematomų vandens ženklų patikimai neatpažįsta net pats „Google“ dirbtinis intelektas „Gemini“, o vartotojai galėjo tiesiog padaryti ekrano nuotraukas ir jomis dalytis be jokios matomos kilmės žymės.malwarebytes+1

H. van Essui šis epizodas palietė pačią problemos esmę: dėl šio įrankio „klastotė kuriama pačioje sistemoje, kurią žmonės naudoja tikrindami, ar nuotraukos yra tikros“.thebrasilians