ChatGPT-Nutzer reichen Sammelklage wegen Chat-Prüfungen bei Project Lily ein

OpenAI hat Hunderten von externen Mitarbeitern mehr als 50 US-Dollar pro Stunde gezahlt, um echte ChatGPT-Konversationen zu lesen, zusammenzufassen und zu bewerten. Dies war Teil eines internen Programms mit dem Codenamen Project Lily, wie eine Recherche von 404 Media diese Woche enthüllte. Die Enthüllung führte am Mittwoch zu einer vorgeschlagenen Sammelklage von zwei ChatGPT-Nutzern, die dem Unternehmen vorwerfen, sie über die Privatsphäre ihrer Chats getäuscht zu haben.404media+1

Einblick in Project Lily

Die am 14. September vom 404-Media-Journalisten Joseph Cox veröffentlichte Recherche basiert auf geleakten internen Dokumenten sowie echten Nutzer-Prompts. Sie beschreibt einen strukturierten Prüfprozess: Auftragnehmer lesen den Prompt eines Nutzers, fassen dessen Absicht zusammen, vergleichen vier von ChatGPT generierte Antworten und bewerten diese auf einer Skala von eins bis sieben. Die Prüfer kontrollieren dabei nicht die sachliche Richtigkeit. Stattdessen weisen geleakte Schulungsunterlagen sie an, "KI-Sprech" abzustrafen, Antworten zu markieren, in denen der Chatbot behauptet, ein Mensch zu sein, und allzu unterwürfige Antworten zu sanktionieren: ein Verhaltensmuster, das OpenAI in anderen Gerichtsverfahren mit realen Schäden in Verbindung gebracht hat.aiweekly+2

OpenAI entfernt Benutzernamen und lässt Prompts durch einen automatisierten Datenschutzfilter laufen, bevor sie die Prüfer erreichen. Das Unternehmen räumte gegenüber 404 Media jedoch ein, dass dieser Filter unvollständig ist. Auftragnehmer berichteten, dass über den von ihnen geprüften Prompts eine "Zusammenfassung der Nutzerspeicher" angezeigt wurde. Diese konnte den Beruf, den ungefähren Standort oder den persönlichen Hintergrund einer Person offenlegen, der aus früheren Gesprächen stammte. "Ich glaube nicht, dass sie sich vorstellen würden, dass irgendwo ein Auftragnehmer sitzt und die Gespräche analysiert", sagte ein Mitarbeiter gegenüber 404 Media mit Blick auf die mehr als 900 Millionen Nutzer von ChatGPT.404media+2

Rechtliche Folgen

Die Enthüllungen haben bereits rechtliche Schritte nach sich gezogen. Laut Law360 reichten zwei ChatGPT-Nutzer am Mittwoch eine vorgeschlagene Sammelklage gegen OpenAI ein. Sie werfen dem Unternehmen vor, sie über die Vertraulichkeit ihrer Chats getäuscht zu haben. Die Klage reiht sich in eine wachsende Liste von Gerichtsverfahren ein, mit denen OpenAI konfrontiert ist. Das Unternehmen verteidigt sich bereits gegen Klagen wegen widerrechtlicher Tötung, Urheberrechtsverletzungen und ein separates Datenschutzverfahren in Kalifornien wegen Daten, die über eingebettete Tracking-Tools an Dritte weitergegeben wurden.mediapost+2

In Europa verschärfen die Enthüllungen den bestehenden regulatorischen Druck. Die italienische Datenschutzbehörde hat bereits eine Geldstrafe von 15 Millionen Euro gegen OpenAI verhängt, hauptsächlich wegen der Verarbeitung von Nutzerdaten ohne ausreichende Rechtsgrundlage. Zudem stellte der Europäische Gerichtshof im Urteil EDPS gegen SRB fest, dass die Informationspflicht eines Unternehmens gegenüber Nutzern bereits zum Zeitpunkt der Datenerhebung gilt.thenextweb+1

So widersprechen Sie der Nutzung

Bei kostenlosen, Plus- und Pro-Konten von ChatGPT ist die Einstellung "Das Modell für alle verbessern" standardmäßig aktiviert; bei den Tarifen Enterprise, Business und Education ist dies nicht der Fall. Nutzer, die verhindern möchten, dass zukünftige Chats an Prüfer weitergeleitet werden, müssen den Schalter unter "Einstellungen" und "Datenkontrolle" manuell deaktivieren. Dieser Widerspruch gilt jedoch nicht rückwirkend, was bedeutet, dass ältere Konversationen weiterhin verwendet werden können.pcmag+1