OpenAI julkaisi ilmaisen CSAM-tunnistimen ja varoitukset ChatGPT:hen

8 lähdettä
  • OpenAI julkaisi maanantaina ilmaisen kuvantunnistustyökalun, joka on kehitetty yhteistyössä NCMEC:n kanssa. Se on ensimmäinen laajasti saatavilla oleva CSAM-työkalu, joka tunnistaa tekoälyllä luotua materiaalia.
  • ChatGPT varoittaa käyttäjiä, jotka etsivät väkivaltaista sisältöä, poistaa keskustelun ja keskeyttää pääsyn 24 tunniksi; toistuvat rikkomukset voivat johtaa porttikieltoon tai poliisi-ilmoitukseen.
  • Julkaisu tapahtuu OpenAI:n kohdatessa oikeusjuttuja, joissa väitetään teknologian vahingoittaneen käyttäjiä, erityisesti lapsia, samalla kun kilpailevat chatbotit kuten Grok ovat tuottaneet seksualisoitua kuvamateriaalia, uutisoi TechCrunch.
Lähteet (8)
  1. 1 Strengthening the fight against online child sexual abuse with new tools and support openai.com
  2. 2 OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM | TechCrunch techcrunch.com
  3. 3 Combating online child sexual exploitation & abuse openai.com
  4. 4 OpenAI Report on Child Safety Reporting cdn.openai.com
  5. 5 CSAM guidance | OpenAI API developers.openai.com
  6. 6 OpenAI Launches New CSAM Detection and ChatGPT Warnings sqmagazine.co.uk
  7. 7 OpenAI rolls out image classifier and ChatGPT warnings to fight CSAM cryptobriefing.com
  8. 8 OpenAI Adds ChatGPT Warnings for Requests Seeking Child Sexual Abuse Material www.tokenpost.com