Contratistas de Meta se hicieron pasar por adolescentes para probar chatbots rivales, informa Wired

Cientos de contratistas que trabajan en un proyecto para Meta ↘ 0.04% recibieron instrucciones de hacerse pasar por niños y sondear chatbots de la competencia —incluidos Gemini de Google, Alphabet Inc. ↘ 1.02%, y ChatGPT de OpenAI— con mensajes relacionados con suicidio, sexo y drogas, según un informe publicado el domingo por WIRED.x+1

Los contratistas, con sede en Kenia, enviaron imágenes que incluían pastillas, cuchillos, sogas y un diagrama médico de un procedimiento ginecológico como parte de las pruebas, según el informe. Los mensajes fueron diseñados para llevar a los sistemas de IA rivales al límite y exponer fallas de seguridad en la forma en que esos chatbots responden a menores que buscan contenido peligroso.tiktok+3

Un patrón de pruebas subcontratadas

La revelación añade una nueva dimensión al escrutinio continuo sobre cómo las empresas tecnológicas prueban y protegen sus productos de IA, particularmente en lo que respecta a los niños. Meta ha enfrentado críticas repetidas sobre las interacciones de sus propios chatbots con menores, incluida una evaluación interna de equipo rojo que mostró una tasa de fallos del 66,8% en el bloqueo de contenido de explotación sexual infantil y una tasa de fallos del 54,8% en mensajes sobre suicidio y autolesiones. La empresa suspendió el acceso de los adolescentes a personajes de compañía de IA en enero de 2026 debido a la presión legal.axios+1

Un medio de comunicación sueco informó anteriormente que contratistas de Meta en Kenia habían estado involucrados en las pruebas, que se centraban en cómo los competidores manejaban conversaciones delicadas con usuarios que afirmaban ser menores de edad.instagram

La IA reemplaza a los moderadores humanos

El informe llega mientras Meta acelera su giro para alejarse de la moderación de contenido humana. Según el Financial Times, reportado la semana pasada, la empresa planea reemplazar a más del 90% de su fuerza laboral de revisión de contenido con modelos de lenguaje grandes para fines de 2026. Meta ya ha trasladado aproximadamente la mitad de todas las solicitudes de revisión humana a la IA este año, alegando que los sistemas cometen un 13% menos de errores que los revisores humanos mientras detectan un 10% más de violaciones de políticas.socialmediatoday+2

El costo humano de esta transición ya se ha materializado. En abril, la firma de subcontratación con sede en Nairobi, Sama, emitió avisos de despido a 1.108 empleados después de que Meta terminara formalmente un compromiso importante. Esa terminación de contrato siguió a los informes de denunciantes de trabajadores kenianos que describieron contenido perturbador que se les pidió revisar a través de las imágenes de las gafas inteligentes de Meta.washingtonpost+2

El enfoque dual de Meta —utilizar contratistas mal pagados en el extranjero para someter a pruebas de estrés a los competidores mientras elimina simultáneamente puestos de trabajo de moderación en favor de la automatización— subraya las tensiones en el centro del debate sobre la seguridad de la IA a medida que las empresas compiten por desplegar sistemas cada vez más potentes con menos salvaguardas humanas.