OpenAI-Auftragnehmer lesen echte ChatGPT-Chats in geheimem Projekt

Hunderte von externen Auftragnehmern, die von OpenAI engagiert wurden, lesen echte ChatGPT-Konversationen im Rahmen einer internen Initiative mit dem Codenamen "Project Lily", so eine Untersuchung von 404 Media, die neue Fragen zum Datenschutz der mehr als 900 Millionen ChatGPT-Nutzer aufwirft.

Die Auftragnehmer, die über Drittanbieter mehr als 50 Dollar pro Stunde verdienen, lesen Nutzer-Prompts, fassen die Absicht des Nutzers zusammen und bewerten dann vier von ChatGPT generierte Antworten auf einer Skala von eins bis sieben. Das Ziel ist es, den Chatbot weniger roboterhaft, weniger anbiedern und natürlicher klingen zu lassen – aber der Prozess bedeutet, dass sensible persönliche Details, die in Gesprächen geteilt werden, die viele Nutzer als privat betrachten, vor menschlichen Augen landen können.404media

Was Auftragnehmer sehen

Interne Dokumente und Anleitungen, die 404 Media vorliegen, zeigen, dass das Dashboard der Auftragnehmer manchmal eine "Zusammenfassung der Nutzerspeicher" enthält – einen Überblick darüber, was ein Nutzer zuvor mit ChatGPT besprochen hat, was dessen ungefähren Standort, Beruf oder persönliche Umstände offenbaren kann. OpenAI gibt an, dass sie Benutzernamen entfernen und Konversationen durch einen automatisierten "Datenschutzfilter" laufen lassen, bevor sie die Prüfer erreichen, aber das Unternehmen räumt ein, dass der Filter "ungewöhnliche Identifikatoren oder mehrdeutige private Referenzen übersehen kann."404media

Einige Prompts, die von Auftragnehmern gesehen wurden, zeigten Nutzer, die ChatGPT baten, "dies unter uns zu behalten", ohne zu wissen, dass solche Anweisungen die Datenerfassungspraktiken der Plattform nicht außer Kraft setzen. "Nein", sagte ein Auftragnehmer gegenüber 404 Media auf die Frage, ob ChatGPT-Nutzer wüssten, dass Menschen ihre Chats lesen könnten. "Ich glaube nicht, dass sie sich vorstellen würden, dass irgendein Auftragnehmer irgendwo die Konversationen analysiert."tomsguide+1

Trainingsregeln und Branchenpraxis

Anleitungen weisen Prüfer an, "KI-Sprech" wie unnötige Emoji-Nutzung zu bestrafen, Antworten zu kennzeichnen, in denen ChatGPT menschliche Erfahrungen behauptet, und anbiedernde Sprache zu markieren – ein bekanntes Problem, das mit Klagen verbunden ist, in denen behauptet wird, dass ein zu zustimmendes ChatGPT-Modell zu Nutzerschäden beigetragen habe. Von Prüfern wird nicht erwartet, dass sie Antworten auf Fakten prüfen, aber sie werden angewiesen, sachliche Fehler, die sie bemerken, zu markieren und Aufgaben, die persönliche Informationen oder Sicherheitsbedenken enthalten, zu eskalieren.404media

Die Praxis ist nicht einzigartig für OpenAI. Anthropic bestätigte gegenüber 404 Media, dass sie menschliche Überprüfungen zur Verbesserung von Claude einsetzen, wenn Nutzer das Training aktiviert lassen, und Googles Alphabet Inc. ↗ 0.78% Gemini zeigt einen Haftungsausschluss, dass "Menschen einige gespeicherte Chats überprüfen."tomsguide+1

Wie man sich abmeldet

Für kostenlose, Plus- und Pro-ChatGPT-Konten ist die Modellverbesserung standardmäßig aktiviert. Nutzer können sie deaktivieren, indem sie zu den Einstellungen navigieren, Datenkontrollen auswählen und "Modell für alle verbessern" ausschalten. Enterprise-, Business- und Edu-Konten haben die Einstellung standardmäßig deaktiviert. Der Opt-out gilt nur für neue Konversationen – Prompts, die bereits de-identifiziert und in die Warteschlange gestellt wurden, verbleiben in der Trainings-Pipeline.tomsguide+1

Nachdem 404 Media das Unternehmen kontaktiert hatte, aktualisierte OpenAI seine Hilfeseite, um mehr Details zum Opt-out-Prozess hinzuzufügen, obwohl immer noch nicht explizit anerkannt wird, dass Menschen die Prompts der Nutzer lesen könnten.404media