Επτά από τα εννέα πιο δημοφιλή μοντέλα επεξεργασίας εικόνας στο Hugging Face ανταποκρίθηκαν άμεσα σε απλά αιτήματα για ψηφιακό ξεγύμνωμα γυναικών, σύμφωνα με έκθεση που δημοσιεύθηκε την Τρίτη από τον ευρωπαϊκό μη κερδοσκοπικό οργανισμό AI Forensics. Τα ευρήματα υπογραμμίζουν πώς…
Η οργάνωση AI Forensics διαπίστωσε ότι επτά από τα εννέα κορυφαία εργαλεία επεξεργασίας εικόνας στο Hugging Face παρήγαγαν εύκολα deepfake πορνογραφικού περιεχομένου χωρίς να απαιτείται παραβίαση των συστημάτων ασφαλείας, σύμφωνα με το WIRED.winzheng
Πείραμα τύπου honeypot που κατέγραψε πάνω από 1.000 προτροπές χρηστών έδειξε ότι το 73% ήταν σεξουαλικού περιεχομένου, με το 95% των στόχων να είναι γυναίκες και σχεδόν το 7% να αφορά ανήλικους.winzheng+1
Μόνο το 3% των ελεγχόμενων εργαλείων διέθετε φίλτρα ελέγχου περιεχομένου, παρά τις πολιτικές του Hugging Face που απαγορεύουν τη δημιουργία μη συναινετικού σεξουαλικού υλικού.winzheng+1