Η Google ενημερώνει την αναζήτηση AI μετά τις αντιδράσεις για ρατσιστικές απαντήσεις

Η Google Alphabet Inc. ↗ 1.05% βρίσκεται αντιμέτωπη με νέες επικρίσεις για τη λειτουργία αναζήτησης με τεχνητή νοημοσύνη, καθώς χρήστες ανακάλυψαν ότι τα ερωτήματα σχετικά με το να βρίσκεται κανείς μόνος με άτομα συγκεκριμένων εθνικοτήτων και θρησκειών προκαλούσαν έντονα διαφορετικές απαντήσεις, ορισμένες ουδέτερες και άλλες που άφηναν να εννοηθεί κίνδυνος.

Οι αντιτιθέμενες απαντήσεις προκαλούν οργή

Σε στιγμιότυπα οθόνης που κυκλοφόρησαν στο διαδίκτυο αυτή την εβδομάδα, το AI Overview της Google συμβούλευε τους χρήστες που αναζητούσαν «Είμαι μόνος με έναν μουσουλμάνο» να απομακρυνθούν από την περιοχή ή να καλέσουν τις υπηρεσίες έκτακτης ανάγκης εάν αισθάνονταν ανασφαλείς, ενώ παράλληλα τους έλεγε να συμπεριφέρονται στο άτομο με «βασικό ανθρώπινο σεβασμό». Αντίθετα, ένα παρόμοιο ερώτημα σχετικά με το να είναι κανείς μόνος με έναν Ισραηλινό προκάλεσε μια ουδέτερη απάντηση που ανέφερε ότι το άτομο «είναι ένα άτομο, όπως κάθε άλλο», ενθαρρύνοντας τους χρήστες να επικεντρωθούν στην κοινή ανθρωπιά.nypost+2

Η ανισότητα επισημάνθηκε για πρώτη φορά από έναν χρήστη του Reddit που δοκίμασε το σύστημα με διάφορες εθνικότητες. Όταν ο χρήστης εισήγαγε το «Είμαι μόνος με έναν Ουγκαντέζο», το AI Overview πρότεινε επίσης την επικοινωνία με τις υπηρεσίες έκτακτης ανάγκης. Ωστόσο, μια αναζήτηση για το να είναι κανείς μόνος με έναν Αμερικανό απέδωσε την αβλαβή συμβουλή να «συμμετέχει σε μια κανονική συζήτηση» και να «διατηρεί την ευγένεια».reddit+1

Το Futurism, το οποίο διεξήγαγε τη δική του έρευνα, επιβεβαίωσε παρόμοια αποτελέσματα και διαπίστωσε ότι το AI προσέφερε ανάλαφρα πολιτισμικά στερεότυπα για ορισμένες ομάδες, συμβουλεύοντας τους χρήστες που είναι μόνοι με έναν Βρετανό να προσφέρουν «ένα φλιτζάνι τσάι» και να «σχολιάσουν τον καιρό».futurism

Αντιδράσεις από ακτιβιστές και θρησκευτικούς ηγέτες

Ο Παλαιστινιοαμερικανός Ιμάμης Omar Suleiman ήταν μεταξύ εκείνων που επέκριναν τη Google για τις απαντήσεις που σχετίζονταν με τους μουσουλμάνους. «Δεν μάθατε το μάθημά σας από το πόσο τρομερή ήταν η αναζήτησή σας για το Ισλάμ; Τώρα το AI σας είναι απλώς ανεύθυνα ισλαμοφοβικό;» έγραψε.thecurrent

Μετά τις αντιδράσεις, η Google ενημέρωσε την απάντηση στο ερώτημα που σχετίζεται με τους μουσουλμάνους ώστε να αναφέρει: «Το να είστε μόνος με ένα μουσουλμανικό άτομο δεν διαφέρει σε τίποτα από το να είστε μόνος με οποιονδήποτε άλλο».x+1

Η Google παρέπεμψε τη New York Post σε δήλωση στο X, παραδεχόμενη ότι «τα αποτελέσματα για αυτούς τους τύπους αναζητήσεων δεν είναι αυτά που θα έπρεπε», προσθέτοντας ότι η εταιρεία «εργάζεται ενεργά για βελτιώσεις».nypost

Μοτίβο αντιπαραθέσεων για μεροληψία του AI

Το περιστατικό αποτελεί το πιο πρόσφατο σε μια σειρά αντιπαραθέσεων που σχετίζονται με τη μεροληψία για τα προϊόντα AI της Google. Στις αρχές του 2024, η εταιρεία ανέστειλε προσωρινά τη λειτουργία δημιουργίας εικόνων του Gemini, αφού παρήγαγε ιστορικά ανακριβείς απεικονίσεις που αφορούσαν τη φυλή. Η λειτουργία AI Overview της Google, η οποία εμφανίζεται στην κορυφή των αποτελεσμάτων αναζήτησης από τον Μάιο του 2024, αντιμετωπίζει συνεχή κριτική για κατασκευή φανταστικών γεγονότων και παροχή παραπλανητικών πληροφοριών.wsj+2