OpenAI julkaisi maanantaina 16. marraskuuta ilmaisen kuvantunnistustyökalun, joka havaitsee lapsiin kohdistuvaa seksuaaliväkivaltaa (CSAM), mukaan lukien tekoälyllä luodut kuvat. Yhtiö lisäsi myös ChatGPT:hen varoitukset, jotka estävät pääsyn palveluun 24 tunniksi, jos joku yrittää hakea väkivaltaista sisältöä. Yhtiön mukaan toimenpiteet perustuvat sen…
OpenAI julkaisi maanantaina ilmaisen kuvantunnistustyökalun, joka on kehitetty yhteistyössä NCMEC:n kanssa. Se on ensimmäinen laajasti saatavilla oleva CSAM-työkalu, joka tunnistaa tekoälyllä luotua materiaaliaopenai.com.
ChatGPT varoittaa käyttäjiä, jotka etsivät väkivaltaista sisältöä, poistaa keskustelun ja keskeyttää pääsyn 24 tunniksi; toistuvat rikkomukset voivat johtaa porttikieltoon tai poliisi-ilmoitukseenopenai.com.
Julkaisu tapahtuu OpenAI:n kohdatessa oikeusjuttuja, joissa väitetään teknologian vahingoittaneen käyttäjiä, erityisesti lapsia, samalla kun kilpailevat chatbotit kuten Grok ovat tuottaneet seksualisoitua kuvamateriaalia, uutisoi TechCrunchtechcrunch.com.