New York Times: Meta-მ ხელოვნური ინტელექტის გამოყენებით მომხმარებელთა ანგარიშები შეცდომით წაშალა

New York Times-ის ორშაბათს გამოქვეყნებული გამოძიების თანახმად, Meta ↘ 2.68% იყენებდა ავტომატურ სისტემებს იმ Facebook და Instagram ანგარიშების წასაშლელად, რომლებსაც მომხმარებლები წლების განმავლობაში ქმნიდნენ. როდესაც ეს მომხმარებლები აპელაციას ცდილობდნენ, მათი საქმეები ხშირად არა ადამიანმა, არამედ სხვა ხელოვნურმა ინტელექტმა განიხილა.

მოხსენების თანახმად, Meta-მ ზოგიერთი დაბლოკილი ანგარიში, მათ შორის ერთი თითქმის მილიონი გამომწერით, მხოლოდ მას შემდეგ აღადგინა, რაც Times-ის ჟურნალისტები დაზარალებული მომხმარებლების დასაცავად ჩაერივნენ. ზოგიერთ შემთხვევაში, კომპანია მომხმარებლებს ეუბნებოდა, რომ მათი ინფორმაცია "შეუქცევადად წაიშლებოდა" და შემდგომი განხილვა შეუძლებელი იყო.techcrunch+2

ავტომატური აღსრულების ნიმუში

Meta-მ Times-ს განუცხადა, რომ მათ მიერ შესწავლილი ანგარიშები დაბლოკილი იყო არა უახლესი AI ინსტრუმენტებით, არამედ მოძველებული მოდერაციის სისტემებით. კომპანიის თქმით, მათი ახალი ავტომატური სისტემები 13 პროცენტით ნაკლებ შეცდომას უშვებს და 10 პროცენტით მეტ დარღვევას აფიქსირებს, ვიდრე ადამიანები.threads+1

თუმცა, სისტემაში მოხვედრილი მომხმარებლებისთვის ეს არგუმენტი ნუგეშის მომგვრელი არ არის. ბიზნესის მფლობელები და კონტენტის შემქმნელები აცხადებენ, რომ ანგარიშები ისე დაკარგეს, რომ არც კი იციან, კონკრეტულად რა წესი დაარღვიეს. მათი თქმით, სააპელაციო პროცესი წრეზე დადის და ისევ ავტომატურ სისტემებთან ბრუნდება, ნაცვლად იმისა, რომ ადამიანმა მიიღოს გადაწყვეტილება.aiweekly

პრობლემა ახალი არ არის, თუმცა როგორც ჩანს, გამწვავდა. მაისში მომხმარებლებმა მთელი მსოფლიოს მასშტაბით Instagram-სა და Facebook-ზე მასობრივი შეცდომით დეაქტივაციის შესახებ განაცხადეს. იანვარში 50 000-ზე მეტმა მომხმარებელმა განაცხადა, რომ Meta-მ მათი ანგარიშები "საზიზღარი" ქცევის ბრალდებით შეცდომით დახურა.reddit+2

ზედამხედველობის საბჭო "სისტემურ" პრობლემებზე საუბრობს

ეს დასკვნები იმეორებს Meta-ს საკუთარი ზედამხედველობის საბჭოს მიერ რამდენიმე კვირით ადრე გაკეთებულ გაფრთხილებებს. ივნისში საბჭომ განაცხადა, რომ კომპანიის ანგარიშების დეაქტივაციის პროცესი იწვევს "სისტემურ პრობლემებს ადამიანის უფლებების კუთხით" და ხასიათდება "გამჭვირვალობისა და თანმიმდევრულობის ნაკლებობით". საბჭომ Meta-ს ურჩია შეექმნა მომხმარებლისთვის განკუთვნილი პანელი, სადაც ჩანდებოდა წარსული დარღვევები, კონკრეტული დარღვეული წესები და აპელაციის მკაფიო ვარიანტები, რაც ამჟამად არ არსებობს.mediapost+1

საბჭომ ასევე მოუწოდა Meta-ს, გაამჟღავნოს ხელოვნური ინტელექტის როლი კონტენტის მიმოხილვასა და სანქციების დაწესებაში, რადგან მომხმარებლებმა ხშირად არ იციან, ადამიანმა მიიღო გადაწყვეტილება თუ მანქანამ.techcrunch

ნაკლები ადამიანი, მეტი ავტომატიზაცია

ეს დავა იმ დროს მწვავდება, როდესაც Meta-მ მკვეთრად შეამცირა ადამიანური რესურსი. მაისში კომპანიამ 8 000 თანამშრომელი გაათავისუფლა, ხოლო 7 000 სხვა პროექტებზე, მათ შორის AI-ზე გადაიყვანა. ეს ტრანსფორმაცია ნიშნავს, რომ მოდერაციის გადაწყვეტილებების გადასახედად სულ უფრო ნაკლები ადამიანი რჩება. დაზარალებული მომხმარებლებისთვის შედეგი არის სისტემა, სადაც მანქანები იღებენ მნიშვნელოვან გადაწყვეტილებებს, ხოლო სხვა მანქანები განიხილავენ საჩივრებს, ყოველგვარი ადამიანური ჩართულობის გარეშე.nytimes+1