„Wired“: „Meta“ rangovai apsimetinėjo paaugliais, kad išbandytų konkurentų pokalbių robotus

„Meta“ rangovai apsimetinėjo vaikais ir siuntė nerimą keliančius vaizdus konkurentų pokalbių robotams, siekdami atskleisti saugumo spragas, praneša „Wired“.x+1
Bandymai buvo nukreipti į „Google“ „Gemini“ ir „OpenAI“ „ChatGPT“, jiems siunčiant užklausas apie savižudybes, narkotikus ir seksualinį turinį, susijusį su nepilnamečiais.winzheng+1
Ši ataskaita pasirodė „Meta“ spartinant procesą, kurio metu iki metų pabaigos 90 proc. žmonių turinio moderatorių bus pakeisti dirbtiniu intelektu, praneša „Financial Times“.socialmediatoday+1

Šimtai rangovų, dirbančių prie „Meta“ projekto, gavo nurodymus apsimesti vaikais ir tirti konkurentų pokalbių robotus, įskaitant „Google“ „Gemini“ („Alphabet Inc.“ ) ir „OpenAI“ „ChatGPT“, siunčiant užklausas apie savižudybes, seksą ir narkotikus, teigiama sekmadienį „WIRED“ paskelbtoje ataskaitoje.x+1

Kenijoje dirbantys rangovai siuntė vaizdus, kuriuose matyti tabletės, peiliai, kilpos ir ginekologinės procedūros medicininė schema, kaip dalį šių bandymų, nustatyta ataskaitoje. Užklausos buvo skirtos išbandyti konkuruojančių DI sistemų ribas ir atskleisti saugumo spragas, kaip šie pokalbių robotai reaguoja į nepilnamečius, ieškančius pavojingo turinio.tiktok+3

Išorės testavimo modelis

Šis atskleidimas suteikia naują dimensiją vykstančiam technologijų įmonių tikrinimui, kaip jos testuoja ir saugo savo DI produktus, ypač susijusius su vaikais. „Meta“ ne kartą sulaukė kritikos dėl savo pokalbių robotų sąveikos su nepilnamečiais, įskaitant vidinį „red-team“ vertinimą, kuris parodė 66,8 proc. nesėkmės rodiklį blokuojant vaikų seksualinio išnaudojimo turinį ir 54,8 proc. nesėkmės rodiklį užklausų apie savižudybes ir savęs žalojimą atveju. Įmonė 2026 m. sausį sustabdė paauglių prieigą prie DI palydovų personažų dėl teisinio spaudimo.axios+1

Švedijos naujienų portalas anksčiau pranešė, kad „Meta“ rangovai Kenijoje dalyvavo bandymuose, kuriais buvo siekiama ištirti, kaip konkurentai tvarkosi su jautriais pokalbiais su vartotojais, teigiančiais, kad jie yra nepilnamečiai.instagram

DI pakeičia žmonių moderatorius

Ataskaita pasirodė „Meta“ spartinant atsisakymą nuo žmonių vykdomo turinio moderavimo. Remiantis praėjusią savaitę „Financial Times“ paskelbta informacija, įmonė planuoja iki 2026 m. pabaigos pakeisti daugiau nei 90 proc. turinio peržiūros darbuotojų dideliais kalbos modeliais. „Meta“ jau šiais metais maždaug pusę visų žmonių peržiūros užklausų perkėlė DI, teigdama, kad sistemos daro 13 proc. mažiau klaidų nei žmonės moderatoriai ir aptinka 10 proc. daugiau politikos pažeidimų.socialmediatoday+2

Žmogiškoji šio perėjimo kaina jau pasireiškė. Balandžio mėnesį Nairobyje įsikūrusi užsakomųjų paslaugų įmonė „Sama“ išsiuntė atleidimo pranešimus 1 108 darbuotojams po to, kai „Meta“ oficialiai nutraukė svarbią sutartį. Sutarties nutraukimas įvyko po pranešėjų iš Kenijos ataskaitų, kuriose jie aprašė nerimą keliantį turinį, kurį jų buvo prašoma peržiūrėti per „Meta“ išmaniųjų akinių filmuotą medžiagą.washingtonpost+2

„Meta“ dvigubas požiūris – naudoti mažai apmokamus rangovus užsienyje konkurentų testavimui ir tuo pat metu naikinti moderavimo darbo vietas automatizavimo naudai – pabrėžia įtampą DI saugumo diskusijų centre, įmonėms lenktyniaujant diegti vis galingesnes sistemas su mažiau žmonių priežiūros priemonių.

Šaltiniai (65)