Η OpenAI κυκλοφόρησε τη Δευτέρα, 16 Νοεμβρίου, ένα δωρεάν εργαλείο ταξινόμησης εικόνων που εντοπίζει υλικό σεξουαλικής κακοποίησης παιδιών (CSAM), συμπεριλαμβανομένων εικόνων που έχουν δημιουργηθεί από τεχνητή νοημοσύνη. Παράλληλα, πρόσθεσε προειδοποιήσεις στο ChatGPT που διακόπτουν την πρόσβαση για 24 ώρες όταν…
Η OpenAI κυκλοφόρησε τη Δευτέρα ένα δωρεάν εργαλείο ταξινόμησης εικόνων, εκπαιδευμένο σε συνεργασία με το NCMEC, το οποίο χαρακτηρίζει ως το πρώτο ευρέως διαθέσιμο εργαλείο CSAM που επισημαίνει υλικό παραγόμενο από τεχνητή νοημοσύνηopenai.com.
Το ChatGPT θα προειδοποιεί τους χρήστες που αναζητούν κακοποιητικό περιεχόμενο, θα διαγράφει τη συνομιλία και θα αναστέλλει την πρόσβαση για 24 ώρες, ενώ οι κατ' εξακολούθηση παραβάτες κινδυνεύουν με αποκλεισμό ή αναφορά στις αρχέςopenai.com.
Η κίνηση αυτή έρχεται καθώς η OpenAI αντιμετωπίζει αγωγές που ισχυρίζονται ότι η τεχνολογία της έβλαψε χρήστες, ειδικά παιδιά, ενώ ανταγωνιστικά chatbots όπως το Grok παρήγαγαν σεξουαλικοποιημένο υλικό, σύμφωνα με το TechCrunchtechcrunch.com.