Η OpenAI λανσάρει δωρεάν εργαλείο εντοπισμού CSAM και προειδοποιήσεις στο ChatGPT

8 πηγές
  • Η OpenAI κυκλοφόρησε τη Δευτέρα ένα δωρεάν εργαλείο ταξινόμησης εικόνων, εκπαιδευμένο σε συνεργασία με το NCMEC, το οποίο χαρακτηρίζει ως το πρώτο ευρέως διαθέσιμο εργαλείο CSAM που επισημαίνει υλικό παραγόμενο από τεχνητή νοημοσύνη.
  • Το ChatGPT θα προειδοποιεί τους χρήστες που αναζητούν κακοποιητικό περιεχόμενο, θα διαγράφει τη συνομιλία και θα αναστέλλει την πρόσβαση για 24 ώρες, ενώ οι κατ' εξακολούθηση παραβάτες κινδυνεύουν με αποκλεισμό ή αναφορά στις αρχές.
  • Η κίνηση αυτή έρχεται καθώς η OpenAI αντιμετωπίζει αγωγές που ισχυρίζονται ότι η τεχνολογία της έβλαψε χρήστες, ειδικά παιδιά, ενώ ανταγωνιστικά chatbots όπως το Grok παρήγαγαν σεξουαλικοποιημένο υλικό, σύμφωνα με το TechCrunch.
Πηγές (8)
  1. 1 Strengthening the fight against online child sexual abuse with new tools and support openai.com
  2. 2 OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM | TechCrunch techcrunch.com
  3. 3 Combating online child sexual exploitation & abuse openai.com
  4. 4 OpenAI Report on Child Safety Reporting cdn.openai.com
  5. 5 CSAM guidance | OpenAI API developers.openai.com
  6. 6 OpenAI Launches New CSAM Detection and ChatGPT Warnings sqmagazine.co.uk
  7. 7 OpenAI rolls out image classifier and ChatGPT warnings to fight CSAM cryptobriefing.com
  8. 8 OpenAI Adds ChatGPT Warnings for Requests Seeking Child Sexual Abuse Material www.tokenpost.com