Meta-ի կապալառուները ձևացել են որպես դեռահասներ՝ մրցակից չաթ-բոտերը փորձարկելու համար, հայտնում է Wired-ը

Meta -ի կապալառուները ձևացել են որպես երեխաներ և անհանգստացնող պատկերներ ուղարկել մրցակից չաթ-բոտերին՝ անվտանգության թերությունները բացահայտելու համար, հայտնում է Wired-ը:x+1
Փորձարկումները թիրախավորել են Google-ի Gemini-ն և OpenAI-ի ChatGPT-ն՝ դրդելով նրանց ինքնասպանության, թմրամիջոցների և անչափահասների մասնակցությամբ սեռական բնույթի հարցումներով:winzheng+1
Այս զեկույցը հրապարակվել է այն ժամանակ, երբ Meta-ն արագացնում է մարդկային բովանդակության մոդերատորների 90%-ը արհեստական բանականությամբ փոխարինելու գործընթացը մինչև տարեվերջ, ըստ Financial Times-ի:socialmediatoday+1

Meta -ի նախագծի վրա աշխատող հարյուրավոր կապալառուների հանձնարարվել է ձևանալ որպես երեխաներ և փորձարկել մրցակից չաթ-բոտերը, այդ թվում՝ Google-ի Gemini Alphabet Inc. -ը և OpenAI-ի ChatGPT-ն՝ ինքնասպանության, սեքսի և թմրամիջոցների վերաբերյալ հարցումներով, ասվում է WIRED-ի կողմից կիրակի օրը հրապարակված զեկույցում:x+1

Քենիայում գտնվող կապալառուները փորձարկումների շրջանակներում ուղարկել են հաբերի, դանակների, պարանների և գինեկոլոգիական միջամտության բժշկական սխեմայի պատկերներ: Հարցումները նախագծված էին այնպես, որ մրցակից ԱԲ համակարգերը հասցնեն իրենց սահմաններին և բացահայտեն անվտանգության թերությունները այն հարցում, թե ինչպես են այդ չաթ-բոտերը արձագանքում վտանգավոր բովանդակություն փնտրող անչափահասներին:tiktok+3

Աութսորսինգային փորձարկումների օրինաչափություն

Այս բացահայտումը նոր երանգ է հաղորդում տեխնոլոգիական ընկերությունների կողմից իրենց ԱԲ արտադրանքների փորձարկման և պաշտպանության ընթացիկ ստուգումներին, հատկապես երեխաների հետ կապված: Meta-ն բազմիցս քննադատության է ենթարկվել իր սեփական չաթ-բոտերի՝ անչափահասների հետ փոխգործակցության համար, ներառյալ ներքին «կարմիր թիմի» գնահատումը, որը ցույց է տվել 66,8% ձախողման ցուցանիշ երեխաների սեռական շահագործման բովանդակությունը արգելափակելու հարցում և 54,8% ձախողում՝ ինքնասպանության և ինքնավնասման հարցումներում: Ընկերությունը 2026 թվականի հունվարին իրավական ճնշման պատճառով դադարեցրել է դեռահասների մուտքը ԱԲ ուղեկից կերպարներին:axios+1

Շվեդական լրատվամիջոցը նախկինում հայտնել էր, որ Քենիայում Meta-ի կապալառուները ներգրավված են եղել փորձարկումներում, որոնք թիրախավորում էին, թե ինչպես են մրցակիցները վարվում զգայուն զրույցների հետ այն օգտատերերի հետ, ովքեր պնդում էին, որ անչափահաս են:instagram

ԱԲ-ն փոխարինում է մարդ մոդերատորներին

Զեկույցը հրապարակվել է այն ժամանակ, երբ Meta-ն արագացնում է մարդկային բովանդակության մոդերացիայից հրաժարվելու գործընթացը: Financial Times-ի անցյալ շաբաթվա հաղորդման համաձայն՝ ընկերությունը նախատեսում է մինչև 2026 թվականի վերջը իր բովանդակության վերանայման աշխատուժի 90%-ից ավելին փոխարինել լեզվական մեծ մոդելներով: Meta-ն այս տարի արդեն մարդկային վերանայման հարցումների մոտ կեսը տեղափոխել է ԱԲ-ի վրա՝ պնդելով, որ համակարգերը 13%-ով ավելի քիչ սխալներ են թույլ տալիս, քան մարդ վերանայողները, միաժամանակ բացահայտելով 10%-ով ավելի շատ քաղաքականության խախտումներ:socialmediatoday+2

Այս անցման մարդկային գինն արդեն իսկ ի հայտ է եկել: Ապրիլին Նայրոբիում գործող Sama աութսորսինգային ընկերությունը 1108 աշխատակցի ծանուցել է կրճատումների մասին այն բանից հետո, երբ Meta-ն պաշտոնապես դադարեցրել է կարևոր պայմանագիրը: Պայմանագրի դադարեցումը հետևել է քենիացի աշխատողների կողմից հնչեցված ահազանգերին, որոնք նկարագրել են անհանգստացնող բովանդակությունը, որը նրանց հանձնարարվել էր վերանայել Meta-ի խելացի ակնոցների կադրերի միջոցով:washingtonpost+2

Meta-ի երկակի մոտեցումը՝ արտերկրում ցածր վարձատրվող կապալառուների օգտագործումը մրցակիցների սթրես-թեստավորման համար և միաժամանակ մոդերացիայի աշխատատեղերի վերացումը ավտոմատացման օգտին, ընդգծում է ԱԲ անվտանգության շուրջ բանավեճի կենտրոնում առկա լարվածությունը, քանի որ ընկերությունները մրցում են ավելի հզոր համակարգեր ներդնելու համար՝ ավելի քիչ մարդկային վերահսկողությամբ:

Աղբյուրներ (65)