Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.techcrunch.com.Pirmadienį, lapkričio 16 d., „OpenAI“ išleido nemokamą vaizdų klasifikatorių, kuris aptinka seksualinės prievartos prieš vaikus medžiagą (CSAM), įskaitant dirbtinio intelekto sukurtus vaizdus. Bendrovė taip pat pridėjo „ChatGPT“ įspėjimus, kurie 24 valandoms nutraukia prieigą, kai bandoma gauti žalingą turinį. Bendrovė teigė, kad šios priemonės remiasi jos vaikų saugumo planu. Pakete taip pat yra gairės kūrėjams ir nauji DI įrankiai teisėsaugos tyrėjams, dirbantiems vaikų saugumo srityje.openai.com
„OpenAI“ apmokė ir įvertino klasifikatorių padedama Nacionalinio dingusių ir išnaudojamų vaikų centro (NCMEC), ne pelno organizacijos, valdančios „CyberTipline“. Bendrovė vadina jį pirmuoju plačiai prieinamu CSAM klasifikatoriumi, turinčiu specifinį signalą, ar medžiaga gali būti sukurta dirbtinio intelekto. Įrankis ieško vizualių prievartos požymių vaizduose, kurie anksčiau nebuvo matyti. Jis suteikia kiekvienam vaizdui balą, kad peržiūrintieji galėtų nuspręsti, ką tikrinti pirmiausia. Patikrintos organizacijos gali juo naudotis per „OpenAI API“ nemokamai.openai.com
Atlikusi vidinį vartotojų įkeltų vaizdų testą, „OpenAI“ apskaičiavo, kad naujasis klasifikatorius pažymėtų 48% mažiau vaizdų nei dabartinis įrankis, kartu surasdamas maždaug tiek pat žalingų vaizdų. Pažymėti vaizdai buvo maždaug dvigubai labiau linkę turėti prievartos požymių. Ankstyvieji partneriai pasidalijo savo rezultatais. „Fal“ peržiūrintieji patvirtino 72% klasifikatoriaus didelio pasitikėjimo žymų kaip naują CSAM. „SafetyKit“ nustatė, kad jis aptiko 90% piešinių ar animacijų, kuriose seksualizuojami vaikai. „OpenAI“ teigė bendradarbiaujanti su „Tech Coalition“ ir „ROOST“, kad suteiktų prieigą kitiems.techcrunch.com+1
Iki šiol „OpenAI“ rėmėsi maišos atitiktimi ir „Thorn“ CSAM klasifikatoriumi įkėlimams tikrinti. 2026 m. pirmąjį pusmetį ji išsiuntė 126 597 „CyberTipline“ pranešimus NCMEC.openai.com+1
„ChatGPT“ dabar įsikiš, kai kas nors bandys rasti žalingą medžiagą. Jis parodys įspėjimą, kad vaikų seksualizavimas sukelia žalą, net jei medžiaga sukurta dirbtinio intelekto. Tada „OpenAI“ ištrins pokalbį ir 24 valandoms sustabdys prieigą prie „ChatGPT“, kartu nukreipdama vartotoją į specialistų pagalbą. Pakartotiniai pažeidimai gali lemti ilgesnius apribojimus, paskyros uždarymą arba pranešimus valdžios institucijoms. Šis metodas buvo suformuotas kartu su „Protect Children“, „Lucy Faithfull Foundation“ ir tyrėjais, kurie įvertino atgrasomųjų pranešimų bandomąją versiją.openai.com
„OpenAI“ taip pat paskelbė CSAM gaires kūrėjams, parašytas su „Thorn“, NCMEC ir „Internet Watch Foundation“ indėliu. Vaikų saugumo teisėsaugos padaliniams bendrovė prideda papildinius, tyrimo įrankius ir mokymus. Pirmasis įrankis padeda tyrėjams peržiūrėti ilgus pokalbių žurnalus ir teisinius dokumentus, pastebėti galimus ryšius ir sudaryti laiko juostas.developers.openai.com
Šis pristatymas vyksta tuo metu, kai DI bendrovės susiduria su didėjančiu dėmesiu vaikų saugumui. „TechCrunch“ pažymėjo, kad „OpenAI“ susiduria su keliais ieškiniais, kuriuose jos technologija kaltinama žala vartotojams, ypač vaikams. Taip pat pažymėta, kad kiti pokalbių robotai, įskaitant „Grok“, buvo naudojami kuriant seksualizuotus vaizdus be sutikimo, kai kuriuose iš jų dalyvavo vaikai.techcrunch.com