Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.techcrunch.com.Η OpenAI κυκλοφόρησε τη Δευτέρα, 16 Νοεμβρίου, ένα δωρεάν εργαλείο ταξινόμησης εικόνων που εντοπίζει υλικό σεξουαλικής κακοποίησης παιδιών (CSAM), συμπεριλαμβανομένων εικόνων που έχουν δημιουργηθεί από τεχνητή νοημοσύνη. Παράλληλα, πρόσθεσε προειδοποιήσεις στο ChatGPT που διακόπτουν την πρόσβαση για 24 ώρες όταν κάποιος επιχειρεί να αποκτήσει κακοποιητικό περιεχόμενο. Η εταιρεία δήλωσε ότι τα μέτρα αυτά βασίζονται στο Σχέδιο Δράσης για την Παιδική Ασφάλεια (Child Safety Blueprint). Το πακέτο περιλαμβάνει επίσης καθοδήγηση για προγραμματιστές και νέα εργαλεία τεχνητής νοημοσύνης για ερευνητές παιδικής ασφάλειας στις αρχές επιβολής του νόμου.openai.com
Η OpenAI εκπαίδευσε και αξιολόγησε το εργαλείο με τη βοήθεια του Εθνικού Κέντρου για τα Εξαφανισμένα και Εκμεταλλευόμενα Παιδιά (NCMEC), του μη κερδοσκοπικού οργανισμού που διαχειρίζεται το CyberTipline. Η εταιρεία το αποκαλεί το πρώτο ευρέως διαθέσιμο εργαλείο ταξινόμησης CSAM με ειδική ένδειξη για το αν το υλικό ενδέχεται να έχει παραχθεί από τεχνητή νοημοσύνη. Το εργαλείο αναζητά οπτικά σημάδια κακοποίησης σε εικόνες που δεν έχουν εντοπιστεί προηγουμένως. Δίνει σε κάθε εικόνα μια βαθμολογία ώστε οι αξιολογητές να αποφασίζουν ποιες πρέπει να ελεγχθούν πρώτες. Εγκεκριμένοι οργανισμοί μπορούν να το χρησιμοποιήσουν μέσω του API της OpenAI χωρίς κόστος.openai.com
Σε εσωτερική δοκιμή σε εικόνες που ανέβασαν χρήστες, η OpenAI εκτίμησε ότι το νέο εργαλείο θα επισήμαινε 48% λιγότερες εικόνες από το τρέχον εργαλείο της, εντοπίζοντας περίπου τον ίδιο αριθμό κακοποιητικών εικόνων. Οι εικόνες που επισήμανε είχαν διπλάσιες πιθανότητες να περιέχουν κακοποίηση. Οι πρώτοι συνεργάτες μοιράστηκαν τα δικά τους αποτελέσματα. Στη fal, οι αξιολογητές επιβεβαίωσαν ότι το 72% των επισημάνσεων υψηλής εμπιστοσύνης του εργαλείου αφορούσαν νέο υλικό CSAM. Το SafetyKit διαπίστωσε ότι εντόπισε το 90% των σχεδίων ή κινουμένων σχεδίων που σεξουαλικοποιούν παιδιά. Η OpenAI δήλωσε ότι συνεργάζεται με το Tech Coalition και το ROOST για να μοιραστεί την πρόσβαση με άλλους.techcrunch.com+1
Μέχρι τώρα, η OpenAI βασιζόταν στην αντιστοίχιση κατακερματισμού (hash matching) και στο εργαλείο ταξινόμησης CSAM της Thorn για τη σάρωση των μεταφορτώσεων. Το πρώτο εξάμηνο του 2026, απέστειλε 126.597 αναφορές CyberTipline στο NCMEC.openai.com+1
Το ChatGPT θα παρεμβαίνει πλέον όταν κάποιος προσπαθεί να βρει κακοποιητικό υλικό. Θα εμφανίζει μια προειδοποίηση δηλώνοντας ότι η σεξουαλικοποίηση παιδιών προκαλεί βλάβη, ακόμη και όταν το υλικό παράγεται από τεχνητή νοημοσύνη. Στη συνέχεια, η OpenAI θα αφαιρεί τη συνομιλία και θα αναστέλλει την πρόσβαση στο ChatGPT για 24 ώρες, παραπέμποντας παράλληλα τον χρήστη σε εξειδικευμένη βοήθεια. Οι επαναλαμβανόμενες παραβιάσεις μπορεί να επιφέρουν αυστηρότερους περιορισμούς, κλείσιμο λογαριασμού ή αναφορές στις αρχές. Η προσέγγιση διαμορφώθηκε σε συνεργασία με το Protect Children, το Lucy Faithfull Foundation και ερευνητές που αξιολόγησαν μια δοκιμή αποτρεπτικών μηνυμάτων.openai.com
Η OpenAI δημοσίευσε επίσης οδηγίες CSAM για προγραμματιστές, γραμμένες με τη συμβολή των Thorn, NCMEC και Internet Watch Foundation. Για τις μονάδες επιβολής του νόμου που ασχολούνται με την παιδική ασφάλεια, η εταιρεία προσθέτει πρόσθετα (plugins), ερευνητικά εργαλεία και εκπαίδευση. Το πρώτο εργαλείο βοηθά τους ερευνητές να εξετάζουν μεγάλα αρχεία συνομιλιών και νομικές επιστροφές, να εντοπίζουν πιθανές συνδέσεις και να δημιουργούν χρονοδιαγράμματα.developers.openai.com
Η κυκλοφορία έρχεται καθώς οι εταιρείες τεχνητής νοημοσύνης αντιμετωπίζουν αυξανόμενο έλεγχο σχετικά με την παιδική ασφάλεια. Το TechCrunch σημείωσε ότι η OpenAI αντιμετωπίζει αρκετές αγωγές που κατηγορούν την τεχνολογία της για πρόκληση βλάβης σε χρήστες, ειδικά σε παιδιά. Σημείωσε επίσης ότι άλλα chatbots, συμπεριλαμβανομένου του, έχουν χρησιμοποιηθεί για τη δημιουργία μη συναινετικού σεξουαλικοποιημένου υλικού, μέρος του οποίου αφορά παιδιά.techcrunch.com