Google-ը հեռացրել է Earth-ի AI պատկերաստեղծման գործիքը բողոքների ալիքից հետո

Google Alphabet Inc. ↗ 0.77%-ը հեռացրել է Google Earth-ից արհեստական բանականությամբ պատկերների գեներացման գործառույթը այն բանից հետո, երբ հետազոտողները, լրագրողները և բաց աղբյուրների հետախուզության (OSINT) վերլուծաբանները ցույց են տվել, որ այն կարող է հեշտությամբ ստեղծել կեղծված իրադարձությունների ապակողմնորոշիչ արբանյակային լուսանկարներ:

Գործիքը, որն օգտագործում էր Google-ի Nano Banana 2 պատկերների գեներատորը, թողարկվել էր հուլիսի 30-ին և հեռացվել մոտ մեկ օր անց՝ դրա հնարավոր չարաշահման շուրջ բարձրացված քննադատությունների ալիքից հետո:axios+2

Անմիջական արձագանք

Գործառույթը թույլ էր տալիս ցանկացած մարդու մեծացնել որևէ վայր Google Earth-ի վեբ տարբերակում, սեղմել «ստեղծել պատկեր» և մուտքագրել հրահանգ՝ իրական արբանյակային լուսանկարների հիման վրա ԱԲ պատկերներ ստեղծելու համար: Մի քանի ժամվա ընթացքում հետազոտողները ցույց տվեցին, որ գործիքը կարող է ստեղծել երբևէ չտեղի ունեցած իրադարձությունների ֆոտոռեալիստական պատկերումներ:malwarebytes

Բաց աղբյուրների հետախուզության հոլանդացի հետազոտող Հենկ վան Էսը NPR-ին հայտնել է, որ լայնորեն փորձարկել է գործիքը. «Փորձեցի ստեղծել փախստականներ Մեքսիկայի սահմանին, ատոմակայան Իրանում, ավտովթար Ամստերդամում, հիվանդանոց՝ ռումբի ձագարափոսով Գազայում: Ոչ մի հարցում չմերժվեց»: NPR-ն ինքը ստեղծել է այրվող Իրանի Խարգ կղզու կեղծ պատկեր, իսկ BBC-ն պատրաստել է փլուզված Էյֆելյան աշտարակի լուսանկարներ և Գիզայի Մեծ բուրգի կեղծ վնասվածքներ:thebrasilians+1

Google-ը ընդունել է խնդիրը X-ում արված հայտարարության մեջ. «Մենք տեսել ենք, որ աշխարհատարածական ոլորտի մասնագետներն օգտագործում են այս գործառույթը մի շարք օգտակար նպատակներով, սակայն նկատել ենք նաև, որ մարդիկ կիսվում են գեներացված պատկերների էկրանակադրերով, որոնք, կարծես թե, խախտում են մեր քաղաքականությունը: Ուստի մենք հետ ենք կանչում այս գործառույթը Google Earth-ում, քանի դեռ աշխատում ենք ավելի ամուր պաշտպանիչ մեխանիզմներ ներդնելու ուղղությամբ»:axios+2

Սպառնալիք ստուգման գործընթացին

Բաց աղբյուրների հետախուզության համայնքի համար մտահոգությունն ավելի խորն է, քան ձախողված արտադրանքի մեկ թողարկումը: Արբանյակային լուսանկարները ծառայել են որպես փաստերի ստուգման հիմնասյուն, որոնք օգտագործվում են տեղում իրադարձությունները հաստատելու և կասկածելի կադրերը հերքելու համար: Bellingcat հետաքննչական խմբի ավագ հետազոտող Ջեյք Գոդինը NPR-ին ասել է, որ արբանյակային լուսանկարները պատմականորեն «հուսալի տարբերակ են եղել իրադարձությունը ստուգելու համար, քանի որ դրանք կեղծելը դժվար է»:thebrasilians

Այս ինտեգրումը «անմիջական, աղետալի վնաս հասցրեց արբանյակային լուսանկարների հավաստիությանը», X-ում գրել է OSINTtechnical հաշիվը, որն ունի գրեթե 2 միլիոն հետևորդ:axios

Ջրանշանները քիչ պաշտպանություն ապահովեցին

Google-ը մատնանշել է իր SynthID ջրանշանների համակարգը և այն փաստը, որ գեներացված պատկերները չեն հայտնվել Google Earth-ի հիմնական միջավայրում: Սակայն հետազոտողները պարզել են, որ անտեսանելի ջրանշանները հուսալիորեն տեսանելի չեն եղել նույնիսկ Google-ի սեփական Gemini AI-ի համար, և օգտատերերը կարող էին պարզապես լուսանկարել էկրանը և տարածել պատկերները առանց որևէ տեսանելի ծագման ազդանշանի:malwarebytes+1

Վան Էսի համար այս միջադեպը հարվածեց բուն խնդրին. գործիքը նշանակում էր, որ «կեղծիքը ստեղծվում է հենց այն համակարգի ներսում, որն օգտագործվում է նկարների ճշմարտացիությունը ստուգելու համար»:thebrasilians