Meta-entreprenörer utgav sig för att vara tonåringar för att testa rivaliserande chattbotar, rapporterar Wired

Hundratals entreprenörer som arbetar på ett projekt för Meta ↘ 0.31% instruerades att utge sig för att vara barn och undersöka konkurrenters chattbotar — inklusive Googles Gemini (Alphabet Inc. ↗ 0.87%) och OpenAIs ChatGPT — med uppmaningar som involverar självmord, sex och droger, enligt en rapport publicerad på söndagen av WIRED.x+1

Entreprenörerna, baserade i Kenya, skickade bilder som inkluderade piller, knivar, snaran och ett medicinskt diagram över ett gynekologiskt ingrepp som en del av testningen, fann rapporten. Uppmaningarna var utformade för att pressa rivaliserande AI-system till deras gränser och avslöja säkerhetsbrister i hur dessa chattbotar reagerar på minderåriga som söker farligt innehåll.tiktok+3

Ett mönster av utkontrakterad testning

Avslöjandet lägger till en ny dimension till den pågående granskningen av hur teknikföretag testar och säkrar sina AI-produkter, särskilt kring barn. Meta har mött upprepad kritik över sina egna chattbotars interaktioner med minderåriga, inklusive en intern «red-team»-bedömning som visade en felmarginal på 66,8 % vid blockering av innehåll om sexuellt utnyttjande av barn och en felmarginal på 54,8 % på uppmaningar om självmord och självskada. Företaget pausade tonåringars tillgång till AI-följeslagare i januari 2026 under juridiskt tryck.axios+1

Ett svenskt nyhetsmedium rapporterade tidigare att Meta-entreprenörer i Kenya hade varit involverade i testningen, som riktade sig mot hur konkurrenter hanterade känsliga samtal med användare som hävdade att de var minderåriga.instagram

AI ersätter mänskliga moderatorer

Rapporten kommer när Meta accelererar sitt skifte bort från mänsklig innehållsmoderering. Enligt Financial Times, rapporterat förra veckan, planerar företaget att ersätta mer än 90 % av sin arbetsstyrka för innehållsgranskning med stora språkmodeller vid utgången av 2026. Meta har redan flyttat ungefär hälften av alla förfrågningar om mänsklig granskning till AI i år, och hävdar att systemen gör 13 % färre fel än mänskliga granskare, samtidigt som de fångar upp 10 % fler brott mot riktlinjerna.socialmediatoday+2

De mänskliga kostnaderna för denna övergång har redan materialiserats. I april utfärdade det Nairobi-baserade utkontrakteringsföretaget Sama uppsägningsvarsel till 1 108 anställda efter att Meta formellt avslutat ett större uppdrag. Den kontraktsavslutningen följde på visselblåsarrapporter från kenyanska arbetare som beskrev störande innehåll de ombads granska genom inspelningar från Metas smarta glasögon.washingtonpost+2

Metas dubbla strategi — att använda lågavlönade entreprenörer utomlands för att stresstesta konkurrenter, samtidigt som de eliminerar modereringsjobb till förmån för automatisering — understryker spänningarna i kärnan av debatten om AI-säkerhet, när företag tävlar om att distribuera allt kraftfullare system med färre mänskliga säkerhetsmekanismer.