Η Google απέσυρε εργαλείο τεχνητής νοημοσύνης στο Google Earth λόγω ανησυχιών για deepfakes

Η Google Alphabet Inc. ↘ 1.11% απέσυρε μια λειτουργία παραγωγής εικόνων τεχνητής νοημοσύνης από το Google Earth την Παρασκευή, μόλις μία ημέρα μετά την κυκλοφορία της, μετά από άμεση και ευρεία κριτική από δημοσιογράφους, ερευνητές ασφαλείας και ερευνητές ανοιχτού κώδικα που προειδοποίησαν ότι το εργαλείο αποτελούσε συνταγή για γεωχωρική παραπληροφόρηση.

Μια λειτουργία που επέτρεπε στους χρήστες να κατασκευάζουν την πραγματικότητα

Η λειτουργία, που βασίζεται στο μοντέλο τεχνητής νοημοσύνης Nano Banana 2 της Google, τέθηκε σε λειτουργία την Πέμπτη και επέτρεπε στους χρήστες να πληκτρολογούν κείμενο για να επικαλύπτουν εικόνες τεχνητής νοημοσύνης πάνω από πραγματικούς δορυφορικούς χάρτες. Η Google το παρουσίασε ως ένα δημιουργικό εργαλείο για την οπτικοποίηση της ιστορίας, τον σχεδιασμό έργων ακίνητης περιουσίας ή την αναπαράσταση τοποθεσιών.cnet+1

Ωστόσο, οι ερευνητές απέδειξαν αμέσως πόσο εύκολα θα μπορούσε να παράγει πειστικές ψεύτικες δορυφορικές εικόνες ευαίσθητων γεγονότων. Ο Henk van Ess, ερευνητής ανοιχτού κώδικα και ιδρυτής της ερευνητικής δημοσίευσης Digital Digging, δημιούργησε πλαστές εικόνες που έδειχναν πρόσφυγες στα σύνορα του Μεξικού, έναν πυρηνικό σταθμό στο Ιράν και ένα νοσοκομείο με κρατήρα από βόμβα στη Γάζα. "Τίποτα δεν απορρίφθηκε, τίποτα δεν μετριάστηκε και τίποτα δεν μου πρότεινε να δοκιμάσω ένα διαφορετικό prompt", δήλωσε ο van Ess στο NPR.npr+1

Το NPR δημιούργησε ανεξάρτητα εικόνες από το νησί Kharg του Ιράν να φλέγεται και από ένα πλημμυρισμένο συγκρότημα του Καπιτωλίου των ΗΠΑ. Ο Evan Hill, ερευνητής οπτικής εγκληματολογίας στην Washington Post, έγραψε στο X ότι ήταν "πολύ περίεργος για το πώς ή αν αυτή η ιδέα ελέγχθηκε εσωτερικά, καθώς οι ευκαιρίες για κατάχρηση και παραπληροφόρηση είναι κυριολεκτικά απεριόριστες".npr

Η υποχώρηση της Google

Την Παρασκευή, η Google εξέδωσε δήλωση στο X αναγνωρίζοντας τα προβλήματα. "Γνωρίζουμε ότι οι άνθρωποι εμπιστεύονται μοναδικά το Google Earth για μια αξιόπιστη εικόνα του κόσμου", ανέφερε η εταιρεία. "Έχουμε δει επαγγελματίες του γεωχωρικού τομέα να χρησιμοποιούν αυτή τη λειτουργία για μια σειρά χρήσιμων σκοπών, ωστόσο έχουμε δει επίσης ανθρώπους να μοιράζονται στιγμιότυπα οθόνης με παραγόμενες εικόνες που φαίνεται να παραβιάζουν τις πολιτικές μας. Επομένως, αποσύρουμε αυτή τη λειτουργία στο Google Earth ενώ εργαζόμαστε για την εφαρμογή ισχυρότερων δικλείδων ασφαλείας".techcrunch+2

Η Google σημείωσε ότι οι παραγόμενες εικόνες περιλάμβαναν το ψηφιακό υδατογράφημα SynthID και δεν εμφανίζονταν στην κύρια εμπειρία του Google Earth για άλλους χρήστες. Όμως οι επικριτές θεώρησαν αυτές τις προστασίες ανεπαρκείς. Ο Van Ess έτρεξε μια καταγραφή οθόνης των ψεύτικων εικόνων του μέσω του εργαλείου ανίχνευσης τεχνητής νοημοσύνης τρίτου μέρους Hive, το οποίο τις αξιολόγησε ως 99,2% πιθανό να είναι πραγματικές.theverge+1

Γιατί η δορυφορική απεικόνιση έχει σημασία

Η αντίδραση αντικατόπτριζε μια βαθύτερη ανησυχία: η δορυφορική απεικόνιση χρησιμεύει εδώ και καιρό ως αξιόπιστο εργαλείο επαλήθευσης για δημοσιογράφους και ερευνητές ανθρωπίνων δικαιωμάτων που εργάζονται σε εμπόλεμες ζώνες και δυσπρόσιτες περιοχές. "Η δορυφορική απεικόνιση ήταν ένα είδος ασφαλούς επιλογής όσον αφορά την επαλήθευση ενός γεγονότος, επειδή είναι δύσκολο να παραποιηθεί", δήλωσε ο Jake Godin, ανώτερος ερευνητής στο Bellingcat.npr

Ο Van Ess συνόψισε την κεντρική ένταση σε μια γραμμή από το ενημερωτικό του δελτίο: "Η Google πέρασε είκοσι χρόνια χτίζοντας την αναφορά με την οποία ο κόσμος διασταυρώνει τα δεδομένα. Σήμερα πρόσθεσε ένα κουμπί που επινοεί πράγματα".cnet