Εργολάβοι της Meta υποδύθηκαν ανηλίκους για να δοκιμάσουν ανταγωνιστικά chatbots, αναφέρει το Wired

Meta εργολάβοι προσποιήθηκαν ότι είναι παιδιά και έστειλαν ανησυχητικές εικόνες σε ανταγωνιστικά chatbots για να αποκαλύψουν κενά ασφαλείας, σύμφωνα με το Wired.x+1
Οι δοκιμές στόχευαν το Gemini της Google και το ChatGPT της OpenAI, πιέζοντάς τα με προτροπές σχετικά με την αυτοκτονία, τα ναρκωτικά και το σεξουαλικό περιεχόμενο που αφορά ανηλίκους.winzheng+1
Η αναφορά έρχεται καθώς η Meta επιταχύνει την αντικατάσταση του 90% των ανθρώπων συντονιστών περιεχομένου με τεχνητή νοημοσύνη έως το τέλος του έτους, σύμφωνα με τους Financial Times.socialmediatoday+1

Εκατοντάδες εργολάβοι που εργάζονταν σε ένα έργο για τη Meta έλαβαν οδηγίες να υποδυθούν παιδιά και να ερευνήσουν ανταγωνιστικά chatbots — συμπεριλαμβανομένων του Gemini της Google Alphabet Inc. και του ChatGPT της OpenAI — με προτροπές που αφορούσαν την αυτοκτονία, το σεξ και τα ναρκωτικά, σύμφωνα με αναφορά που δημοσιεύθηκε την Κυριακή από το WIRED.x+1

Οι εργολάβοι, με έδρα την Κένυα, έστειλαν εικόνες που περιλάμβαναν χάπια, μαχαίρια, θηλιές και ένα ιατρικό διάγραμμα γυναικολογικής επέμβασης ως μέρος των δοκιμών, διαπίστωσε η αναφορά. Οι προτροπές σχεδιάστηκαν για να ωθήσουν τα ανταγωνιστικά συστήματα τεχνητής νοημοσύνης στα όριά τους και να εκθέσουν αποτυχίες ασφαλείας στον τρόπο με τον οποίο αυτά τα chatbots ανταποκρίνονται σε ανηλίκους που αναζητούν επικίνδυνο περιεχόμενο.tiktok+3

Ένα μοτίβο εξωτερικών δοκιμών

Η αποκάλυψη προσθέτει μια νέα διάσταση στον συνεχιζόμενο έλεγχο σχετικά με το πώς οι εταιρείες τεχνολογίας δοκιμάζουν και προστατεύουν τα προϊόντα τεχνητής νοημοσύνης τους, ιδιαίτερα όσον αφορά τα παιδιά. Η Meta έχει αντιμετωπίσει επανειλημμένη κριτική για τις αλληλεπιδράσεις των δικών της chatbots με ανηλίκους, συμπεριλαμβανομένης μιας εσωτερικής αξιολόγησης «red-team» που έδειξε ποσοστό αποτυχίας 66,8% στον αποκλεισμό περιεχομένου σεξουαλικής εκμετάλλευσης παιδιών και ποσοστό αποτυχίας 54,8% σε προτροπές για αυτοκτονία και αυτοτραυματισμό. Η εταιρεία ανέστειλε την πρόσβαση των εφήβων σε χαρακτήρες τεχνητής νοημοσύνης τον Ιανουάριο του 2026 εν μέσω νομικών πιέσεων.axios+1

Ένα σουηδικό ειδησεογραφικό μέσο ανέφερε προηγουμένως ότι εργολάβοι της Meta στην Κένυα συμμετείχαν στις δοκιμές, οι οποίες στόχευαν στο πώς οι ανταγωνιστές χειρίζονταν ευαίσθητες συνομιλίες με χρήστες που ισχυρίζονταν ότι είναι ανήλικοι.instagram

Η τεχνητή νοημοσύνη αντικαθιστά τους ανθρώπους συντονιστές

Η αναφορά έρχεται καθώς η Meta επιταχύνει τη στροφή της μακριά από τον ανθρώπινο συντονισμό περιεχομένου. Σύμφωνα με τους Financial Times, που αναφέρθηκαν την περασμένη εβδομάδα, η εταιρεία σχεδιάζει να αντικαταστήσει περισσότερο από το 90% του εργατικού δυναμικού ελέγχου περιεχομένου της με μεγάλα γλωσσικά μοντέλα έως το τέλος του 2026. Η Meta έχει ήδη μεταφέρει περίπου τα μισά από όλα τα αιτήματα ανθρώπινου ελέγχου στην τεχνητή νοημοσύνη φέτος, ισχυριζόμενη ότι τα συστήματα κάνουν 13% λιγότερα λάθη από τους ανθρώπους αξιολογητές, ενώ εντοπίζουν 10% περισσότερες παραβιάσεις πολιτικής.socialmediatoday+2

Το ανθρώπινο κόστος αυτής της μετάβασης έχει ήδη υλοποιηθεί. Τον Απρίλιο, η εταιρεία εξωτερικών αναθέσεων Sama με έδρα το Ναϊρόμπι εξέδωσε ειδοποιήσεις πλεονασμού σε 1.108 υπαλλήλους αφού η Meta τερμάτισε επίσημα μια σημαντική συνεργασία. Αυτός ο τερματισμός συμβολαίου ακολούθησε αναφορές πληροφοριοδοτών από Κενυάτες εργαζομένους που περιέγραψαν ανησυχητικό περιεχόμενο που τους ζητήθηκε να ελέγξουν μέσω υλικού από τα έξυπνα γυαλιά της Meta.washingtonpost+2

Η διπλή προσέγγιση της Meta — η χρήση χαμηλόμισθων εργολάβων στο εξωτερικό για την πίεση των ανταγωνιστών, ενώ ταυτόχρονα καταργούνται θέσεις εργασίας συντονισμού υπέρ του αυτοματισμού — υπογραμμίζει τις εντάσεις στην καρδιά της συζήτησης για την ασφάλεια της τεχνητής νοημοσύνης, καθώς οι εταιρείες αγωνίζονται να αναπτύξουν όλο και πιο ισχυρά συστήματα με λιγότερα ανθρώπινα προστατευτικά κιγκλιδώματα.

Πηγές (65)