Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com:openai.com:techcrunch.com:Երկուշաբթի՝ նոյեմբերի 16-ին, OpenAI-ն թողարկել է պատկերների անվճար դասակարգիչ, որը հայտնաբերում է երեխաների սեռական շահագործման նյութերը (CSAM), ներառյալ AI-ի կողմից ստեղծված պատկերները: Այն նաև ավելացրել է ChatGPT-ի նախազգուշացումներ, որոնք 24 ժամով դադարեցնում են հասանելիությունը, երբ ինչ-որ մեկը փորձում է ձեռք բերել վիրավորական բովանդակություն: Ընկերությունը հայտարարել է, որ միջոցառումները հիմնված են իր «Երեխաների անվտանգության նախագծի» (Child Safety Blueprint) վրա: Փաթեթը ներառում է նաև ուղեցույցներ մշակողների համար և նոր AI գործիքներ իրավապահ մարմինների երեխաների անվտանգության հետաքննիչների համար:openai.com
OpenAI-ն մարզել և գնահատել է դասակարգիչը Անհետ կորած և շահագործվող երեխաների ազգային կենտրոնի (NCMEC) օգնությամբ, որը ղեկավարում է CyberTipline-ը: Ընկերությունն այն անվանում է առաջին լայնորեն հասանելի CSAM դասակարգիչը՝ հատուկ ազդանշանով, թե արդյոք նյութը կարող է լինել AI-ի կողմից ստեղծված: Գործիքը փնտրում է բռնության տեսողական նշաններ նախկինում չտեսնված պատկերներում: Այն յուրաքանչյուր պատկերին տալիս է գնահատական, որպեսզի վերանայողները կարողանան որոշել, թե որոնք ստուգել առաջին հերթին: Վավերացված կազմակերպությունները կարող են այն օգտագործել OpenAI API-ի միջոցով անվճար:openai.com
Օգտատերերի կողմից վերբեռնված պատկերների ներքին թեստում OpenAI-ն գնահատել է, որ նոր դասակարգիչը 48%-ով ավելի քիչ պատկերներ կնշի, քան իր ներկայիս գործիքը, միաժամանակ հայտնաբերելով մոտավորապես նույն քանակությամբ վիրավորական պատկերներ: Նշված պատկերները մոտ երկու անգամ ավելի հավանական էր, որ պարունակեին բռնություն: Վաղ գործընկերները կիսվել են իրենց արդյունքներով: Fal-ում վերանայողները հաստատել են, որ դասակարգչի բարձր վստահության նշումների 72%-ը նոր CSAM է եղել: SafetyKit-ը պարզել է, որ այն հայտնաբերել է երեխաներին սեռականացնող նկարների կամ անիմացիաների 90%-ը: OpenAI-ն հայտնել է, որ աշխատում է Tech Coalition-ի և ROOST-ի հետ՝ հասանելիությունը ուրիշների հետ կիսելու համար:techcrunch.com+1
Մինչ այժմ OpenAI-ն հիմնվում էր հեշ-համընկնման և Thorn-ի CSAM դասակարգչի վրա՝ վերբեռնումները սկանավորելու համար: 2026 թվականի առաջին կիսամյակում այն NCMEC-ին է ուղարկել 126,597 CyberTipline հաշվետվություն:openai.com+1
ChatGPT-ն այժմ կմիջամտի, երբ ինչ-որ մեկը փորձի գտնել վիրավորական նյութեր: Այն կցուցադրի նախազգուշացում, որ երեխաների սեռականացումը վնաս է պատճառում, նույնիսկ եթե նյութը AI-ի կողմից է ստեղծված: OpenAI-ն այնուհետև կջնջի խոսակցությունը և 24 ժամով կկասեցնի ChatGPT-ի հասանելիությունը՝ միաժամանակ օգտատիրոջը ուղղորդելով դեպի մասնագիտացված օգնություն: Կրկնակի խախտումները կարող են հանգեցնել ավելի երկար սահմանափակումների, հաշվի փակման կամ իշխանություններին հաղորդման: Մոտեցումը ձևավորվել է Protect Children-ի, Lucy Faithfull Foundation-ի և հետազոտողների հետ, ովքեր գնահատել են զսպող հաղորդագրությունների փորձնական տարբերակը:openai.com
OpenAI-ն նաև հրապարակել է CSAM ուղեցույց մշակողների համար, որը գրվել է Thorn-ի, NCMEC-ի և Internet Watch Foundation-ի ներդրմամբ: Երեխաների անվտանգության իրավապահ մարմինների համար ընկերությունն ավելացնում է պլագիններ, հետաքննչական գործիքներ և վերապատրաստումներ: Առաջին գործիքն օգնում է հետաքննիչներին վերանայել չաթի երկարատև գրառումները և իրավական գործընթացների արդյունքները, բացահայտել հնարավոր կապերը և կառուցել ժամանակացույցեր:developers.openai.com
Գործարկումը տեղի է ունենում այն ժամանակ, երբ AI ընկերությունները բախվում են երեխաների անվտանգության վերաբերյալ աճող ստուգումների: TechCrunch-ը նշել է, որ OpenAI-ը բախվում է մի քանի դատական հայցերի, որոնք մեղադրում են իր տեխնոլոգիային օգտատերերին, հատկապես երեխաներին վնասելու մեջ: Այն նաև նշել է, որ այլ չաթբոտներ, ներառյալ Grok-ը, օգտագործվել են առանց համաձայնության սեռական բնույթի պատկերներ ստեղծելու համար, որոնցից մի քանիսը ներառում են երեխաներ:techcrunch.com