Meta a supprimé des comptes utilisateurs par erreur, selon le NYT

Meta ↗ 6.55% a utilisé des systèmes automatisés pour supprimer des comptes Facebook et Instagram que les utilisateurs avaient mis des années à développer. Lorsque ces utilisateurs ont tenté de faire appel, leurs dossiers ont souvent été traités par une autre IA plutôt que par un examinateur humain, selon une enquête du New York Times publiée lundi.

Le rapport a révélé que Meta a restauré certains comptes bannis, dont un comptant près d'un million d'abonnés, uniquement après l'intervention de journalistes du Times pour le compte des utilisateurs concernés. Dans certains cas, l'entreprise a informé les utilisateurs que leurs informations seraient "définitivement supprimées" et qu'aucun examen supplémentaire n'était possible.techcrunch+2

Un modèle d'application automatisée

Meta a déclaré au Times que les comptes examinés dans son rapport avaient été bannis par d'anciens systèmes de modération, et non par ses outils d'IA les plus récents. L'entreprise a affirmé que ses nouveaux systèmes automatisés commettent 13 pour cent d'erreurs en moins et détectent 10 pour cent d'infractions en plus que les examinateurs humains.threads+1

Mais pour les utilisateurs pris au piège, cette distinction offre peu de réconfort. Des propriétaires d'entreprises et des créateurs ont signalé avoir perdu leurs comptes sans savoir quelle règle spécifique ils avaient enfreinte, et ont constaté que les appels étaient circulaires, renvoyés vers des processus automatisés plutôt que vers du personnel humain capable de faire preuve de discernement.aiweekly

Le problème n'est pas nouveau mais semble s'être intensifié. En mai, des utilisateurs du monde entier ont signalé une vague de désactivations erronées sur Instagram et Facebook. En janvier, plus de 50 000 utilisateurs ont affirmé que Meta avait fermé leurs comptes à tort, les accusant de comportements "odieux".reddit+2

Le Conseil de surveillance pointe des préoccupations "systémiques"

Ces conclusions font écho aux avertissements émis quelques semaines plus tôt par le propre Conseil de surveillance de Meta, qui a déclaré en juin que le processus de désactivation des comptes de l'entreprise soulevait des "préoccupations systémiques en matière de droits humains" ainsi qu'un "manque de transparence et de cohérence". Le conseil a recommandé à Meta de créer un tableau de bord pour les utilisateurs affichant les violations passées, les règles spécifiques enfreintes et des options d'appel claires, ce qui n'existe pas actuellement.mediapost+1

Le conseil a également appelé Meta à divulguer le rôle joué par l'IA dans la révision du contenu et l'imposition de sanctions, notant que les utilisateurs ignorent souvent si c'est un humain ou une machine qui a pris la décision d'effacer leur présence numérique.techcrunch

Moins d'humains, plus d'automatisation

La controverse survient alors que Meta a considérablement réduit ses effectifs humains. L'entreprise a licencié 8 000 employés en mai et en a réaffecté 7 000 autres à des projets d'IA, poursuivant une transformation qui laisse moins de personnes disponibles pour examiner les décisions de modération. Pour les utilisateurs concernés, le résultat est un système où les machines prennent des décisions lourdes de conséquences et où d'autres machines jugent les plaintes, sans aucune intervention humaine.nytimes+1