Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.techcrunch.com.OpenAI gaf á mánudaginn, 16. nóvember, út ókeypis myndflokkara sem greinir kynferðislegt efni sem tengist börnum (CSAM), þar með talið efni búið til með gervigreind. Fyrirtækið bætti einnig við viðvörunum í ChatGPT sem loka fyrir aðgang í 24 klukkustundir ef notandi reynir að nálgast óviðeigandi efni. Fyrirtækið segir aðgerðirnar byggja á öryggisstefnu sinni fyrir börn. Pakkinn inniheldur einnig leiðbeiningar fyrir forritara og ný gervigreindartól fyrir rannsakendur hjá lögreglu.openai.com
OpenAI þjálfaði og mat flokkarann með aðstoð National Center for Missing and Exploited Children (NCMEC), sjálfseignarstofnunarinnar sem rekur CyberTipline. Fyrirtækið segir þetta vera fyrsta víðtæka CSAM-flokkarann með sérstakan merkibúnað fyrir efni sem gæti verið búið til með gervigreind. Tólið leitar að sjónrænum merkjum um misnotkun í myndum sem ekki hafa sést áður. Það gefur hverri mynd einkunn svo að matsmenn geti ákveðið hvað eigi að skoða fyrst. Viðurkenndar stofnanir geta notað tólið í gegnum OpenAI API án endurgjalds.openai.com
Í innri prófun á myndum sem notendur hlaða upp áætlaði OpenAI að nýi flokkarinn myndi flagga 48% færri myndum en núverandi tól, á meðan hann fyndi svipaðan fjölda af misnotkunarmyndum. Myndir sem hann flaggaði voru um það bil tvisvar sinnum líklegri til að innihalda misnotkun. Snemmbúnir samstarfsaðilar deildu eigin niðurstöðum. Hjá fal staðfestu matsmenn 72% af merkingum flokkarans sem nýtt CSAM-efni. SafetyKit komst að því að tólið fann 90% af teikningum eða hreyfimyndum sem kynferðisvæða börn. OpenAI segist vinna með Tech Coalition og ROOST að því að deila aðgangi með öðrum.techcrunch.com+1
Fram til þessa hefur OpenAI reitt sig á samanburð á kjötsúpu (hash matching) og CSAM-flokkara Thorn til að skanna upphlaðið efni. Á fyrri helmingi ársins 2026 sendi fyrirtækið 126.597 CyberTipline-skýrslur til NCMEC.openai.com+1
ChatGPT mun nú grípa inn í þegar einhver reynir að finna óviðeigandi efni. Það mun birta viðvörun um að kynferðisvæðing barna valdi skaða, jafnvel þótt efnið sé búið til með gervigreind. OpenAI mun síðan eyða samtalinu og loka fyrir aðgang að ChatGPT í 24 klukkustundir, á meðan notandanum er vísað á sérfræðiaðstoð. Ítrekuð brot geta leitt til lengri takmarkana, lokunar reiknings eða tilkynninga til yfirvalda. Nálgunin var mótuð með Protect Children, Lucy Faithfull Foundation og rannsakendum sem mátu tilraun með fælingarmarkmið.openai.com
OpenAI birti einnig CSAM-leiðbeiningar fyrir forritara, skrifaðar með aðstoð frá Thorn, NCMEC og Internet Watch Foundation. Fyrir lögreglueiningar sem sinna barnavernd er fyrirtækið að bæta við viðbótum, rannsóknartólum og þjálfun. Fyrsta tólið hjálpar rannsakendum að fara yfir langar spjallskrár og lagaleg gögn, koma auga á tengingar og byggja upp tímalínur.developers.openai.com
Útgáfan kemur á sama tíma og gervigreindarfyrirtæki mæta aukinni skoðun varðandi öryggi barna. TechCrunch benti á að OpenAI standi frammi fyrir nokkrum málsóknum þar sem tækni fyrirtækisins er sökuð um að skaða notendur, sérstaklega börn. Þar kom einnig fram að önnur spjallmenni, þar á meðal Grok, hafi verið notuð til að búa til kynferðislegt efni án samþykkis, þar sem börn koma stundum við sögu.techcrunch.com