Meta eliminó cuentas de usuarios por error, según el NYT

Meta ↗ 0.84% utilizó sistemas automatizados para eliminar cuentas de Facebook e Instagram que los usuarios habían construido durante años, y cuando intentaron apelar, sus casos fueron manejados a menudo por otra IA en lugar de un revisor humano, según una investigación del New York Times publicada el lunes.

El informe reveló que Meta restauró algunas cuentas bloqueadas, incluida una con casi un millón de seguidores, solo después de que periodistas del Times intervinieran en nombre de los usuarios afectados. En algunos casos, la empresa informó a los usuarios que su información sería "eliminada irremediablemente" y que no era posible una revisión adicional.techcrunch+2

Un patrón de aplicación automatizada

Meta declaró al Times que las cuentas examinadas en su informe fueron bloqueadas por sistemas de moderación antiguos, no por sus herramientas de IA más recientes. La compañía afirmó que sus nuevos sistemas automatizados cometen un 13 por ciento menos de errores y detectan un 10 por ciento más de infracciones que los revisores humanos.threads+1

Pero para los usuarios atrapados en el sistema, esa distinción ofrece poco consuelo. Propietarios de negocios y creadores informaron haber perdido sus cuentas sin que se les explicara qué regla específica habían violado, y descubrieron que las apelaciones eran circulares: redirigidas a procesos automatizados en lugar de a personal humano capaz de ejercer criterio.aiweekly

El problema no es nuevo, pero parece haberse intensificado. En mayo, usuarios de todo el mundo reportaron una ola de desactivaciones erróneas en Instagram y Facebook. En enero, más de 50,000 usuarios señalaron que Meta había cerrado sus cuentas injustamente bajo acusaciones de comportamiento "atroz".reddit+2

La Junta de Supervisión señala preocupaciones "sistémicas"

Los hallazgos hacen eco de las advertencias emitidas semanas antes por la propia Junta de Supervisión de Meta, que en junio afirmó que el proceso de desactivación de cuentas de la empresa plantea "preocupaciones sistémicas de derechos humanos" y una "falta de transparencia y coherencia". La junta recomendó que Meta cree un panel para el usuario que muestre infracciones pasadas, reglas específicas infringidas y opciones claras de apelación, nada de lo cual existe actualmente.mediapost+1

La junta también instó a Meta a revelar el papel que desempeña la IA en la revisión de contenido y la imposición de sanciones, señalando que los usuarios a menudo no tienen idea de si un humano o una máquina tomó la decisión que borró su presencia digital.techcrunch

Menos humanos, más automatización

La controversia surge mientras Meta ha reducido drásticamente su fuerza laboral humana. La compañía despidió a 8,000 empleados en mayo y reasignó a otros 7,000 a proyectos de IA, continuando una transformación que ha dejado a menos personas disponibles para revisar las decisiones de moderación. Para los usuarios afectados, el resultado es un sistema donde las máquinas toman decisiones trascendentales y otras máquinas juzgan las quejas, sin intervención humana alguna.nytimes+1