Google-მა Earth-ის AI ინსტრუმენტი დიფფეიკების სკანდალის გამო გაათიშა

Google-ის Alphabet Inc. ↘ 0.95% კომპანიამ Google Earth-იდან AI-ზე მომუშავე ფოტოგენერაციის ფუნქცია მას შემდეგ წაშალა, რაც მკვლევრებმა, ჟურნალისტებმა და ღია წყაროების დაზვერვის (OSINT) ანალიტიკოსებმა დაამტკიცეს, რომ მას ყალბი მოვლენების შეცდომაში შემყვანი თანამგზავრული ფოტოების მარტივად შექმნა შეეძლო.

ინსტრუმენტი, რომელიც Google-ის Nano Banana 2 გამოსახულების გენერატორს იყენებდა, 30 ივლისს ამოქმედდა და დაახლოებით 24 საათში გაითიშა, მას შემდეგ, რაც მისი ბოროტად გამოყენების საფრთხის გამო კრიტიკის ტალღა აგორდა.axios+2

მყისიერი უკუკავშირი

ფუნქცია ნებისმიერ მომხმარებელს აძლევდა საშუალებას, Google Earth-ის ვებ-ვერსიაში სასურველი ლოკაცია გაედიდებინა, დაეჭირა ღილაკისთვის "სურათის შექმნა" და ტექსტური მითითებით შეექმნა AI გამოსახულება, რომლის ბაზასაც რეალური თანამგზავრული ფოტოები შეადგენდა. რამდენიმე საათში მკვლევრებმა აჩვენეს, რომ ინსტრუმენტი არარსებული მოვლენების ფოტორეალისტურ გამოსახულებებს ქმნიდა.malwarebytes

ღია წყაროების დაზვერვის ნიდერლანდელმა მკვლევარმა ჰენკ ვან ესმა NPR-ს განუცხადა, რომ მან ინსტრუმენტი დეტალურად გამოსცადა: "ვცადე ლტოლვილები მექსიკის საზღვართან, ატომური ელექტროსადგური ირანში, ავიაკატასტროფა ამსტერდამში, საავადმყოფო ბომბის ძაბრით ღაზაში. უარი არაფერზე მიმიღია". თავად NPR-მა ირანის ხარგის კუნძულზე ხანძრის ყალბი ფოტო შექმნა, ხოლო BBC-მ დანგრეული ეიფელის კოშკისა და გიზის დიდ პირამიდაზე ყალბი დაზიანებების კადრები გენერირა.thebrasilians+1

Google-მა პრობლემა X-ზე გამოქვეყნებულ განცხადებაში აღიარა: "ჩვენ ვნახეთ, რომ გეოსივრცითი სფეროს პროფესიონალები ამ ფუნქციას სხვადასხვა სასარგებლო მიზნით იყენებენ, თუმცა ასევე დავაფიქსირეთ გენერირებული გამოსახულებების ისეთი სქრინშოტების გაზიარება, რომლებიც, სავარაუდოდ, ჩვენს წესებს არღვევს. ამიტომ, Google Earth-ში ამ ფუნქციას დროებით ვთიშავთ, სანამ უფრო მკაცრი დამცავი მექანიზმების დანერგვაზე ვმუშაობთ".axios+2

საფრთხე გადამოწმების პროცესისთვის

ღია წყაროების დაზვერვის საზოგადოებისთვის ეს პრობლემა გაცილებით უფრო ღრმაა, ვიდრე უბრალოდ ერთ-ერთი პროდუქტის წარუმატებელი გაშვება. თანამგზავრული ფოტოები ყოველთვის წარმოადგენდა გადამოწმების პროცესის ფუნდამენტურ საფუძველს ადგილზე მომხდარი მოვლენების დასადასტურებლად და საეჭვო კადრების უარყოფისთვის. საგამოძიებო ჯგუფ Bellingcat-ის უფროსმა მკვლევარმა ჯეიკ გოდინმა NPR-ს განუცხადა, რომ თანამგზავრული ფოტოები ისტორიულად "იმედისმომცემი წყარო იყო მოვლენის გადამოწმებისას, რადგან მათ გაყალბება რთულია".thebrasilians

ამ ფუნქციის ინტეგრაციამ "თანამგზავრული ფოტოების სანდოობას მყისიერი და კატასტროფული ზიანი მიაყენა", აღნიშნა ანგარიშმა OSINTtechnical, რომელსაც X-ზე თითქმის 2 მილიონი გამომწერი ჰყავს.axios

წყლის ნიშნებმა სუსტი დაცვა უზრუნველყო

Google-ი მიუთითებდა თავის SynthID წყლის ნიშნების სისტემაზე და იმ ფაქტზე, რომ გენერირებული ფოტოები Google Earth-ის ძირითად სივრცეში არ ჩნდებოდა. თუმცა მკვლევრებმა აღმოაჩინეს, რომ უხილავი წყლის ნიშნების დაფიქსირება საიმედოდ Google-ის საკუთარ Gemini AI-საც კი არ შეეძლო, ხოლო მომხმარებლებს უბრალოდ შეეძლოთ ფოტოებისთვის სქრინშოტი გადაეღოთ და ისე გაეზიარებინათ, რომ არანაირი ხილული წარმომავლობის ნიშანი არ გამოჩენილიყო.malwarebytes+1

ვან ესისთვის ეს ეპიზოდი პრობლემის არსს ეხებოდა: ინსტრუმენტი ნიშნავდა, რომ "ყალბი ფოტო იქმნება სწორედ იმ პლატფორმის შიგნით, რომელსაც ადამიანები ფოტოების ჭეშმარიტების გადასამოწმებლად იყენებენ".thebrasilians