Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.techcrunch.com.OpenAI julkaisi maanantaina 16. marraskuuta ilmaisen kuvantunnistustyökalun, joka havaitsee lapsiin kohdistuvaa seksuaaliväkivaltaa (CSAM), mukaan lukien tekoälyllä luodut kuvat. Yhtiö lisäsi myös ChatGPT:hen varoitukset, jotka estävät pääsyn palveluun 24 tunniksi, jos joku yrittää hakea väkivaltaista sisältöä. Yhtiön mukaan toimenpiteet perustuvat sen lasten turvallisuussuunnitelmaan. Paketti sisältää myös ohjeistuksia kehittäjille sekä uusia tekoälytyökaluja lainvalvontaviranomaisten lastensuojelututkijoille.openai.com
OpenAI koulutti ja arvioi tunnistinta yhteistyössä National Center for Missing and Exploited Children (NCMEC) -järjestön kanssa, joka ylläpitää CyberTipline-palvelua. Yhtiö kutsuu sitä ensimmäiseksi laajasti saatavilla olevaksi CSAM-tunnistimeksi, joka tunnistaa erityisesti tekoälyllä luodun materiaalin. Työkalu etsii visuaalisia merkkejä hyväksikäytöstä aiemmin näkemättömistä kuvista. Se antaa jokaiselle kuvalle pisteytyksen, jotta tarkastajat voivat päättää, mitkä kuvat on syytä tarkistaa ensin. Vahvistetut organisaatiot voivat käyttää työkalua OpenAI API:n kautta maksutta.openai.com
Sisäisessä testissä, jossa käytettiin käyttäjien lataamia kuvia, OpenAI arvioi uuden tunnistimen merkitsevän 48 % vähemmän kuvia kuin nykyinen työkalu, löytäen silti suunnilleen saman määrän väkivaltaista sisältöä. Merkittyjen kuvien kohdalla oli noin kaksi kertaa todennäköisempää, että ne sisälsivät hyväksikäyttöä. Varhaiset kumppanit jakoivat tuloksiaan: fal-yhtiössä tarkastajat vahvistivat 72 % tunnistimen korkean luottamusvälin liputuksista uudeksi CSAM-materiaaliksi. SafetyKit havaitsi sen löytävän 90 % piirroksista tai animaatioista, jotka seksualisoivat lapsia. OpenAI kertoi tekevänsä yhteistyötä Tech Coalitionin ja ROOSTin kanssa pääsyn laajentamiseksi muille.techcrunch.com+1
Tähän asti OpenAI on luottanut hajautusarvojen vertailuun ja Thornin CSAM-tunnistimeen latausten skannaamisessa. Vuoden 2026 ensimmäisellä puoliskolla se lähetti 126 597 CyberTipline-raporttia NCMEC:lle.openai.com+1
ChatGPT puuttuu nyt tilanteeseen, kun joku yrittää löytää väkivaltaista materiaalia. Se näyttää varoituksen, jossa todetaan, että lasten seksualisointi aiheuttaa haittaa, vaikka materiaali olisi tekoälyllä luotua. OpenAI poistaa keskustelun ja keskeyttää pääsyn ChatGPT:hen 24 tunniksi, ohjaten käyttäjän samalla asiantuntija-avun piiriin. Toistuvat rikkomukset voivat johtaa pidempiin rajoituksiin, tilin sulkemiseen tai ilmoituksiin viranomaisille. Lähestymistapa kehitettiin yhteistyössä Protect Childrenin, Lucy Faithfull Foundationin ja tutkijoiden kanssa, jotka arvioivat peloteviestien kokeilua.openai.com
OpenAI julkaisi myös CSAM-ohjeistuksen kehittäjille, joka on kirjoitettu Thornin, NCMEC:n ja Internet Watch Foundationin tuella. Lastensuojelun lainvalvontayksiköille yhtiö lisää liitännäisiä, tutkintatyökaluja ja koulutusta. Ensimmäinen työkalu auttaa tutkijoita käymään läpi pitkiä keskustelulokeja ja oikeudellisia asiakirjoja, tunnistamaan mahdollisia yhteyksiä ja rakentamaan aikajanoja.developers.openai.com
Julkaisu tapahtuu tekoälyalan yritysten kohdatessa kasvavaa tarkastelua lasten turvallisuuteen liittyen. TechCrunch huomautti, että OpenAI kohtaa useita oikeusjuttuja, joissa sen teknologiaa syytetään käyttäjien, erityisesti lasten, vahingoittamisesta. Se totesi myös, että muita chatboteja, mukaan lukien, on käytetty ei-suostumuksellisen seksualisoidun materiaalin luomiseen, johon on joissain tapauksissa liittynyt lapsia.techcrunch.com