Verktakar Meta þóttust vera unglingar til að prófa spjallmenni keppinauta, segir Wired

Verktakar hjá Meta þóttust vera börn og sendu truflandi myndir á spjallmenni keppinauta til að afhjúpa öryggisgalla, samkvæmt Wired.x+1
Prófanirnar beindust að Gemini frá Google og ChatGPT frá OpenAI, þar sem þau voru þrýst með beiðnum um sjálfsvíg, fíkniefni og kynferðislegt efni sem tengist börnum.winzheng+1
Skýrslan kemur á sama tíma og Meta flýtir fyrir því að skipta út 90% af mannlegum efnisstjórnendum fyrir gervigreind fyrir árslok, samkvæmt Financial Times.socialmediatoday+1

Hundruð verktaka sem vinna að verkefni fyrir Meta fengu fyrirmæli um að þykjast vera börn og kanna spjallmenni keppinauta — þar á meðal Gemini frá Google, Alphabet Inc. , og ChatGPT frá OpenAI — með beiðnum sem tengjast sjálfsvígi, kynlífi og fíkniefnum, samkvæmt skýrslu sem WIRED birti á sunnudag.x+1

Verktakarnir, sem eru staðsettir í Kenýa, sendu myndir sem innihéldu pillur, hnífa, snörur og læknisfræðilega skýringarmynd af kvensjúkdómaaðgerð sem hluta af prófununum, segir í skýrslunni. Beiðnirnar voru hannaðar til að ýta gervigreindarkerfum keppinauta til hins ýtrasta og afhjúpa öryggisgalla í því hvernig þessi spjallmenni bregðast við börnum sem leita að hættulegu efni.tiktok+3

Mynstur útvistaðra prófana

Afhjúpunin bætir nýrri vídd við áframhaldandi athugun á því hvernig tæknifyrirtæki prófa og vernda gervigreindarvörur sínar, sérstaklega varðandi börn. Meta hefur sætt ítrekaðri gagnrýni vegna samskipta eigin spjallmenna við börn, þar á meðal innra „red-team“ mat sem sýndi 66,8% bilunartíðni við að loka á efni um kynferðislega misnotkun barna og 54,8% bilunartíðni í beiðnum um sjálfsvíg og sjálfskaða. Fyrirtækið stöðvaði aðgang unglinga að gervigreindarfélögum í janúar 2026 vegna lagalegs þrýstings.axios+1

Sænskur fréttamiðill greindi áður frá því að verktakar Meta í Kenýa hefðu tekið þátt í prófununum, sem beindust að því hvernig keppinautar tækju á viðkvæmum samtölum við notendur sem þóttust vera undir aldri.instagram

Gervigreind kemur í stað mannlegra stjórnenda

Skýrslan kemur á sama tíma og Meta flýtir fyrir stefnubreytingu sinni í burtu frá mannlegri efnisstjórnun. Samkvæmt Financial Times, sem greindi frá því í síðustu viku, ætlar fyrirtækið að skipta út meira en 90% af vinnuafli sínu við efnisrýni fyrir stór málalíkön fyrir lok árs 2026. Meta hefur þegar fært um helming allra beiðna um mannlega rýni yfir á gervigreind á þessu ári, og heldur því fram að kerfin geri 13% færri mistök en mannlegir rýnendur á sama tíma og þau finna 10% fleiri brot á stefnum.socialmediatoday+2

Mannlegi kostnaðurinn við þessi umskipti hefur þegar komið í ljós. Í apríl sendi útvistunarfyrirtækið Sama, sem er með höfuðstöðvar í Naíróbí, uppsagnarbréf til 1.108 starfsmanna eftir að Meta sleit formlega mikilvægu samstarfi. Uppsögn samningsins fylgdi í kjölfar skýrslna frá uppljóstrurum meðal kenýskra starfsmanna sem lýstu truflandi efni sem þeir voru beðnir um að fara yfir í gegnum upptökur úr snjallgleraugum Meta.washingtonpost+2

Tvöföld nálgun Meta — að nota lágt launaða verktaka erlendis til að prófa keppinauta á sama tíma og þeir útrýma stjórnunarstörfum í þágu sjálfvirkni — undirstrikar spennuna í kjarna umræðunnar um öryggi gervigreindar þar sem fyrirtæki keppast við að innleiða sífellt öflugri kerfi með færri mannlegum öryggisráðstöfunum.

Heimildir (65)