Google-ը հեռացրել է Earth AI պատկերների գործիքը գործարկումից մեկ օր անց՝ deepfake-ի մտավախությունների պատճառով

Google Alphabet Inc. ↗ 6.88%-ը ուրբաթ օրը հեռացրել է AI պատկերների գեներացման գործառույթը Google Earth-ից՝ գործարկումից ընդամենը մեկ օր անց՝ լրագրողների, անվտանգության հետազոտողների և բաց կոդով հետազոտողների կողմից հնչած արագ և լայնածավալ քննադատությունից հետո, ովքեր զգուշացրել էին, որ գործիքը աշխարհատարածական ապատեղեկատվության բաղադրատոմս է:

Մի գործառույթ, որը թույլ էր տալիս օգտատերերին կեղծել իրականությունը

Google-ի Nano Banana 2 AI մոդելով աշխատող գործառույթը գործարկվել է հինգշաբթի օրը և թույլ է տվել օգտատերերին տեքստային հուշումներ մուտքագրել՝ AI-ի կողմից ստեղծված պատկերները իրական արբանյակային քարտեզների վրա վերադնելու համար: Google-ը այն ներկայացրել է որպես ստեղծագործական գործիք պատմությունը վիզուալիզացնելու, անշարժ գույքի նախագծեր պլանավորելու կամ վայրերը վերաիմաստավորելու համար:cnet+1

Սակայն հետազոտողները անմիջապես ցույց տվեցին, թե որքան հեշտությամբ այն կարող է արտադրել զգայուն իրադարձությունների համոզիչ կեղծ արբանյակային պատկերներ: Henk van Ess-ը՝ բաց կոդով հետազոտող և Digital Digging հետաքննական հրատարակության հիմնադիրը, ստեղծել է կեղծ պատկերներ, որոնք ցույց են տալիս փախստականներին Մեքսիկայի սահմանին, միջուկային կայան Իրանում և հիվանդանոց Գազայում ռումբի խառնարանով: "Ոչինչ չի մերժվել, ոչինչ չի մեղմվել, և ոչինչ չի հուշել, որ ես փորձեմ այլ հուշում", — ասել է van Ess-ը NPR-ին:npr+1

NPR-ը անկախաբար ստեղծել է Իրանի Խարգ կղզու հրդեհի և ԱՄՆ Կապիտոլիումի համալիրի ջրհեղեղի պատկերներ: Evan Hill-ը՝ Washington Post-ի վիզուալ դատաբժշկական հետազոտողը, X-ում գրել է, որ ինքը "շատ հետաքրքրված է, թե ինչպես կամ արդյոք այս գաղափարը ներքին կարգով ստուգվել է, քանի որ չարաշահման և ապատեղեկատվության հնարավորությունները բառացիորեն անսահման են":npr

Google-ի հետկանչը

Ուրբաթ օրը Google-ը հայտարարություն է տարածել X-ում՝ ընդունելով խնդիրները: "Մենք գիտենք, որ մարդիկ յուրահատուկ կերպով վստահում են Google Earth-ին աշխարհի հուսալի տեսքի համար", — ասել է ընկերությունը: "Մենք տեսել ենք աշխարհատարածական մասնագետների, որոնք օգտագործում են այս գործառույթը մի շարք օգտակար նպատակներով, սակայն մենք նաև տեսել ենք մարդկանց, որոնք կիսվում են գեներացված պատկերների սքրինշոթներով, որոնք կարծես թե խախտում են մեր քաղաքականությունը: Այսպիսով, մենք հեռացնում ենք այս գործառույթը Google Earth-ից, մինչ մենք աշխատում ենք ավելի ուժեղ պաշտպանիչ մեխանիզմներ ներդնելու ուղղությամբ":techcrunch+2

Google-ը նշել է, որ գեներացված պատկերները ներառում էին իր SynthID թվային ջրանիշը և չէին հայտնվում հիմնական Google Earth փորձառության մեջ այլ օգտատերերի համար: Սակայն քննադատները այդ պաշտպանությունը անբավարար են համարել: Van Ess-ը իր կեղծ պատկերների էկրանի ձայնագրությունը անցկացրել է երրորդ կողմի AI հայտնաբերման Hive գործիքի միջով, որը գնահատել է, որ 99.2% հավանականությամբ այն իրական է:theverge+1

Ինչու են արբանյակային պատկերները կարևոր

Հակազդեցությունը արտացոլում էր ավելի խորը մտահոգություն. արբանյակային պատկերները վաղուց ծառայում են որպես վստահելի ստուգման գործիք լրագրողների և մարդու իրավունքների հետազոտողների համար, որոնք աշխատում են հակամարտությունների գոտիներում և դժվար հասանելի վայրերում: "Արբանյակային պատկերները եղել են յուրօրինակ անվտանգ խաղադրույք, երբ խոսքը վերաբերում է իրադարձության ստուգմանը, քանի որ դժվար է կեղծել այն", — ասել է Bellingcat-ի ավագ հետազոտող Jake Godin-ը:npr

Van Ess-ը հիմնական լարվածությունը գրավել է իր տեղեկագրի մի տողում. "Google-ը քսան տարի ծախսել է այն հղումը կառուցելու համար, որի դեմ աշխարհը ստուգում է իրականությունը: Այսօր այն ավելացրել է մի կոճակ, որը հորինում է իրեր":cnet