Meta löschte Nutzerkonten fälschlicherweise durch KI

Meta ↗ 0.84% nutzte automatisierte Systeme, um Facebook- und Instagram-Konten zu löschen, die Nutzer über Jahre hinweg aufgebaut hatten. Wenn diese Nutzer versuchten, Einspruch einzulegen, wurden ihre Fälle laut einer am Montag veröffentlichten Untersuchung der New York Times oft von einer weiteren KI statt von einem menschlichen Prüfer bearbeitet.

Der Bericht ergab, dass Meta einige gesperrte Konten, darunter eines mit fast einer Million Followern, erst wiederherstellte, nachdem Journalisten der Times zugunsten der betroffenen Nutzer interveniert hatten. In einigen Fällen teilte das Unternehmen den Nutzern mit, ihre Informationen würden "unwiederbringlich gelöscht" und eine weitere Überprüfung sei nicht möglich.techcrunch+2

Ein Muster automatisierter Durchsetzung

Meta erklärte gegenüber der Times, dass die in dem Bericht untersuchten Konten von älteren Moderationssystemen gesperrt wurden, nicht von den neuesten KI-Tools. Das Unternehmen gab an, dass seine neueren automatisierten Systeme 13 Prozent weniger Fehler machen und 10 Prozent mehr Verstöße erkennen als menschliche Prüfer.threads+1

Doch für Nutzer, die in dieses System geraten, ist dieser Unterschied kaum ein Trost. Geschäftsinhaber und Content-Ersteller berichteten, dass sie Konten verloren hätten, ohne zu erfahren, gegen welche spezifische Regel sie verstoßen hatten. Zudem stellten sie fest, dass Einsprüche im Kreis liefen und zurück an automatisierte Prozesse geleitet wurden, anstatt an menschliche Mitarbeiter, die ein Urteilsvermögen besitzen.aiweekly

Das Problem ist nicht neu, scheint sich aber verschärft zu haben. Im Mai meldeten Nutzer weltweit eine Welle fälschlicher Deaktivierungen auf Instagram und Facebook. Im Januar gaben mehr als 50 000 Nutzer an, dass Meta ihre Konten aufgrund von Vorwürfen "abscheulichen" Verhaltens zu Unrecht gesperrt habe.reddit+2

Oversight Board warnt vor "systemischen" Bedenken

Die Ergebnisse spiegeln Warnungen wider, die Wochen zuvor vom unternehmenseigenen Oversight Board von Meta ausgesprochen wurden. Dieses erklärte im Juni, dass der Prozess zur Kontodeaktivierung "systemische menschenrechtliche Bedenken" aufwerfe und es an "Transparenz und Konsistenz" mangele. Das Gremium empfahl Meta, ein Dashboard für Nutzer zu erstellen, das frühere Verstöße, spezifische Regelbrüche und klare Einspruchsmöglichkeiten anzeigt, was derzeit nicht existiert.mediapost+1

Das Gremium forderte Meta zudem auf, die Rolle der KI bei der Inhaltsprüfung und der Verhängung von Sanktionen offenzulegen. Es wies darauf hin, dass Nutzer oft nicht wissen, ob ein Mensch oder eine Maschine die Entscheidung getroffen hat, die ihre digitale Präsenz ausgelöscht hat.techcrunch

Weniger Menschen, mehr Automatisierung

Die Kontroverse fällt in eine Zeit, in der Meta seine menschliche Belegschaft drastisch reduziert hat. Das Unternehmen entließ im Mai 8 000 Mitarbeiter und versetzte 7 000 weitere in KI-Projekte. Dies setzt eine Transformation fort, durch die weniger Personal für die Überprüfung von Moderationsentscheidungen zur Verfügung steht. Für die betroffenen Nutzer ist das Ergebnis ein System, in dem Maschinen folgenschwere Entscheidungen treffen und andere Maschinen die Beschwerden beurteilen, ganz ohne menschliches Eingreifen.nytimes+1