OpenAI führt unsichtbare Wasserzeichen für ChatGPT-Texte in der EU ein

OpenAI teilte am Montag, dem 5. Oktober, mit, dass das Unternehmen in den kommenden Wochen damit beginnen wird, ein unsichtbares Wasserzeichen in berechtigte ChatGPT- und Codex-Texte einzubetten, die in der Europäischen Union produziert werden. Das Unternehmen erklärt, dieser Schritt diene der Einhaltung der Anforderungen des EU AI Act, wonach KI-generierte Inhalte maschinenlesbare Kennzeichnungen tragen müssen. Die Technologie heißt textGrain. Es ist das erste Mal, dass OpenAI ein Wasserzeichen für Text in großem Maßstab bereitstellt, nachdem eine entsprechende Lösung bereits 2024 entwickelt, aber nicht veröffentlicht wurde.citybiz+2

Funktionsweise von textGrain

In einem Blogbeitrag schreibt OpenAI, dass textGrain ein unsichtbares statistisches Signal in die Wortwahl des Modells einfügt. Leser sehen keine Kennzeichnung. Stattdessen prüft ein Detektor, ob eine Textpassage dem Muster folgt, das durch einen geheimen Schlüssel festgelegt wurde. Das EU-Wasserzeichen wird für ChatGPT-Nutzer aller Tarife gelten. Ab demselben Tag können API-Kunden weltweit die Funktion für ausgewählte Modelle optional aktivieren, wobei sie standardmäßig deaktiviert bleibt.openai+2

Das Unternehmen teilte mit, dass es die Text-Wasserzeichen zum Start nicht zu einem globalen Standard macht. Der Zugang zum Detektor wird zunächst auf zugelassene Forscher und Expertenorganisationen beschränkt sein, die sich nun bewerben können. OpenAI plant zudem, textGrain als Open-Source-Software zu veröffentlichen.cellcog+1

Von OpenAI eingeräumte Grenzen

OpenAI warnte, dass die Erkennung fehlerhaft sein kann und dass das Bearbeiten oder Übersetzen von Text das Signal schwächen kann. In eigenen Tests des Unternehmens, wie in einer Analyse zusammengefasst, reduzierte der Austausch von 10 Prozent der Wörter in einer Passage mit 400 Token durch Synonyme die Erkennungsrate von etwa 92 Prozent auf 66 Prozent. Ein Austausch von 25 Prozent senkte sie auf 17 Prozent. OpenAI betonte zudem, dass ein Wasserzeichen keinen Nutzer identifiziert, keine Prompts offenlegt, die Genauigkeit verifiziert oder Eigentumsrechte feststellt, und dass ein fehlendes Wasserzeichen nicht beweist, dass ein Mensch den Text geschrieben hat.citybiz+1

Kritiker argumentieren seit langem, dass Wasserzeichen in Texten leicht zu entfernen seien. Der Softwareingenieur Sean Goedecke schrieb im Juli, dass Wasserzeichen in KI-Texten immer trivial zu entfernen sein werden.seangoedecke

Die regulatorische Frist

Artikel 50 des AI Act ist seit dem 2. August 2026 in Kraft. Er verpflichtet Anbieter generativer KI dazu, synthetische Ausgaben, einschließlich Text, so zu kennzeichnen, dass sie als künstlich generiert erkannt werden können. Systeme, die vor diesem Datum bereits auf dem Markt waren, haben bis zum 2. Dezember 2026 Zeit, die Anforderungen zu erfüllen. Dieses Zeitfenster wurde im Rahmen des Digital Omnibus-Pakets der EU gewährt, und der Europäische KI-Ausschuss hat es bei seiner Sitzung am 17. September nicht verlängert.cloudsecurityalliance

Unternehmen, die den Transparenz-Verhaltenskodex der Kommission unterzeichnet haben, haben sich zudem verpflichtet, bis zum 2. Februar 2027 eine interoperable Methode zur Erkennung von Wasserzeichen anzubieten. Google versieht Texte bereits über sein SynthID-Tool mit Wasserzeichen, das laut OpenAI in internen Tests von textGrain erreicht oder übertroffen wurde.cellcog+2