Dodavatelé společnosti Meta se vydávali za teenagery, aby otestovali konkurenční chatboty, uvádí Wired

Stovky dodavatelů pracujících na projektu pro společnost Meta ↘ 4.90% dostaly pokyn, aby se vydávali za děti a testovali konkurenční chatboty — včetně Gemini od společnosti Google Alphabet Inc. ↘ 0.48% a ChatGPT od OpenAI — pomocí výzev zahrnujících sebevraždu, sex a drogy, uvádí zpráva zveřejněná v neděli serverem WIRED.x+1

Dodavatelé se sídlem v Keni v rámci testování posílali obrázky zahrnující pilulky, nože, oprátky a lékařské schéma gynekologického zákroku, zjistila zpráva. Výzvy byly navrženy tak, aby posunuly konkurenční systémy AI na jejich limity a odhalily bezpečnostní selhání v tom, jak tito chatboti reagují na nezletilé hledající nebezpečný obsah.tiktok+3

Vzor externího testování

Toto odhalení přidává nový rozměr probíhající kontrole toho, jak technologické společnosti testují a zabezpečují své produkty AI, zejména pokud jde o děti. Meta čelila opakované kritice kvůli interakcím svých vlastních chatbotů s nezletilými, včetně interního hodnocení „red-team“, které ukázalo 66,8% míru selhání při blokování obsahu sexuálního zneužívání dětí a 54,8% míru selhání u výzev týkajících se sebevražd a sebepoškozování. Společnost v lednu 2026 pozastavila přístup teenagerů k AI společníkům kvůli právnímu tlaku.axios+1

Švédský zpravodajský server již dříve informoval, že dodavatelé společnosti Meta v Keni byli zapojeni do testování, které se zaměřilo na to, jak konkurenti zvládají citlivé konverzace s uživateli, kteří tvrdí, že jsou nezletilí.instagram

AI nahrazuje lidské moderátory

Zpráva přichází v době, kdy Meta zrychluje svůj odklon od lidské moderace obsahu. Podle Financial Times, o čemž se psalo minulý týden, společnost plánuje do konce roku 2026 nahradit více než 90 % své pracovní síly pro kontrolu obsahu velkými jazykovými modely. Meta již letos přesunula zhruba polovinu všech požadavků na lidskou kontrolu na AI, přičemž tvrdí, že systémy dělají o 13 % méně chyb než lidští recenzenti a zároveň zachytí o 10 % více porušení zásad.socialmediatoday+2

Lidské náklady tohoto přechodu se již projevily. V dubnu vydala outsourcingová firma Sama se sídlem v Nairobi výpovědi 1 108 zaměstnancům poté, co Meta formálně ukončila významnou zakázku. Ukončení smlouvy následovalo po zprávách informátorů z řad keňských pracovníků, kteří popsali znepokojivý obsah, který měli kontrolovat prostřednictvím záznamů z chytrých brýlí Meta.washingtonpost+2

Duální přístup společnosti Meta — využívání nízko placených dodavatelů v zahraničí ke stresovému testování konkurentů a zároveň eliminace moderátorských pozic ve prospěch automatizace — podtrhuje napětí v jádru debaty o bezpečnosti AI, zatímco společnosti závodí v nasazování stále výkonnějších systémů s menším počtem lidských pojistek.