NYT-ի հետաքննությունը պարզել է, որ Meta-ն սխալմամբ ջնջել է օգտատերերի հաշիվները

Meta ↘ 2.16% ընկերությունը օգտագործել է ավտոմատացված համակարգեր՝ ջնջելու համար Facebook-ի և Instagram-ի այն հաշիվները, որոնք օգտատերերը տարիներ շարունակ կառուցել էին, և երբ այդ օգտատերերը փորձել են բողոքարկել, նրանց գործերը հաճախ վարվել են մեկ այլ AI-ի կողմից, այլ ոչ թե մարդկային վերանայողի, հայտնում է New York Times-ը երկուշաբթի օրը հրապարակված հետաքննության մեջ:

Զեկույցը պարզել է, որ Meta-ն որոշ արգելափակված հաշիվներ վերականգնել է, այդ թվում՝ գրեթե մեկ միլիոն հետևորդ ունեցող հաշիվ, միայն այն բանից հետո, երբ Times-ի լրագրողները միջամտել են տուժած օգտատերերի անունից: Որոշ դեպքերում ընկերությունը օգտատերերին հայտնել է, որ նրանց տեղեկատվությունը «անվերադարձ կջնջվի» և հետագա վերանայում հնարավոր չէ:techcrunch+2

Ավտոմատացված կիրարկման օրինաչափություն

Meta-ն Times-ին հայտնել է, որ իր զեկույցում ուսումնասիրված հաշիվներն արգելափակվել են հին մոդերացիոն համակարգերի, այլ ոչ թե իր վերջին AI գործիքների կողմից: Ընկերությունը նշել է, որ իր նոր ավտոմատացված համակարգերը 13 տոկոսով ավելի քիչ սխալներ են թույլ տալիս և 10 տոկոսով ավելի շատ խախտումներ են հայտնաբերում, քան մարդկային վերանայողները:threads+1

Սակայն համակարգում հայտնված օգտատերերի համար այս տարբերակումը քիչ մխիթարություն է: Բիզնեսի սեփականատերերը և ստեղծագործողները հայտնել են, որ կորցրել են իրենց հաշիվները՝ առանց իմանալու, թե կոնկրետ ինչ կանոն են խախտել, և պարզել են, որ բողոքարկումները շրջանաձև են՝ ուղղորդված դեպի ավտոմատացված գործընթացներ, այլ ոչ թե մարդկային անձնակազմ, որը կարող է դատողություն կատարել:aiweekly

Խնդիրը նոր չէ, բայց կարծես թե սրվել է: Մայիսին օգտատերերը ամբողջ աշխարհում հայտնել են Instagram-ում և Facebook-ում սխալմամբ ապաակտիվացումների ալիքի մասին: Հունվարին ավելի քան 50,000 օգտատեր հայտնել է, որ Meta-ն սխալմամբ փակել է իրենց հաշիվները «զզվելի» վարքագծի մեղադրանքներով:reddit+2

Վերահսկող խորհուրդը մատնանշում է «համակարգային» մտահոգությունները

Բացահայտումները արձագանքում են Meta-ի սեփական Վերահսկող խորհրդի կողմից շաբաթներ առաջ հնչեցված նախազգուշացումներին, որը հունիսին հայտարարել էր, որ ընկերության հաշիվների ապաակտիվացման գործընթացը առաջացնում է «մարդու իրավունքների հետ կապված համակարգային մտահոգություններ» և «թափանցիկության ու հետևողականության պակաս»: Խորհուրդը Meta-ին առաջարկել է ստեղծել օգտատերերի համար նախատեսված վահանակ, որը ցույց կտա անցյալի խախտումները, կոնկրետ խախտված կանոնները և բողոքարկման հստակ տարբերակները, որոնցից ոչ մեկը ներկայումս գոյություն չունի:mediapost+1

Խորհուրդը նաև կոչ է արել Meta-ին բացահայտել AI-ի դերը բովանդակության վերանայման և պատժամիջոցների կիրառման գործում՝ նշելով, որ օգտատերերը հաճախ չգիտեն՝ մարդն է, թե մեքենան կայացրել այն որոշումը, որը ջնջել է իրենց թվային ներկայությունը:techcrunch

Ավելի քիչ մարդիկ, ավելի շատ ավտոմատացում

Այս հակասությունը ծագում է այն ժամանակ, երբ Meta-ն կտրուկ կրճատել է իր մարդկային աշխատուժը: Մայիսին ընկերությունը աշխատանքից ազատել է 8,000 աշխատակցի և 7,000-ին վերաբաշխել AI նախագծերի՝ շարունակելով մի փոխակերպում, որը մոդերացիոն որոշումները վերանայելու համար ավելի քիչ մարդկանց է թողել: Տուժած օգտատերերի համար արդյունքը մի համակարգ է, որտեղ մեքենաները կայացնում են հետևանքային որոշումներ, իսկ այլ մեքենաներ դատում են բողոքները՝ առանց որևէ մարդկային մասնակցության:nytimes+1