Entwickler bauen Tools zur Entfernung von Anthropics neuem KI-Wasserzeichen aus Claude-Texten

Anthropics Bemühungen, von ihrem KI-Modell Claude generierte Texte zu kennzeichnen, sind auf ein sofortiges Hindernis gestoßen: Entwickler bauen Tools, um die Markierungen zu entfernen, und Nutzer strömen in Scharen zu diesen Lösungen.

Das Unternehmen begann am 2. August damit, ein statistisches Wasserzeichen in alle von Claude generierten Texte einzubetten. Dies soll den EU AI Act erfüllen, der KI-Anbieter dazu verpflichtet, synthetische Inhalte maschinenlesbar zu kennzeichnen. Nur Stunden nach der Ankündigung begannen Open-Source-Tools zur Entfernung im Internet zu kursieren, die Tausende von Nutzern anzogen und die Debatte darüber neu entfachten, ob die Wasserzeichen-Markierung von KI-Texten technisch überhaupt sinnvoll ist.thenextweb+1

Eine Fünf-Stunden-Lösung

Guillaume Meyer, ein in Paris ansässiger Unternehmer, veröffentlichte laut WIRED nur vier Stunden nach der Ankündigung von Anthropic ein Open-Source-Projekt namens Watermarks Remover auf GitHub. Das Tool entfernt versteckte Zeichen und Metadaten und schreibt den Text anschließend um, um das statistische Muster zu stören, das das Wasserzeichen trägt. Es hat seitdem mehr als 14.000 GitHub-Sterne und über 100 Mitwirkende gewonnen.wired+1

"Ich bin absolut für die Kennzeichnung von Inhalten", sagte Meyer gegenüber Business Insider, wie von The Next Web berichtet. "Ich bin gegen die Wasserzeichen-Technik, und das ist ein sehr bedeutender Unterschied." Er argumentierte, dass die Methode "Urheberschaft als binäre Sache behandelt", indem sie Text markiert, egal ob Claude ihn vollständig geschrieben oder nur bei der Bearbeitung geholfen hat.thenextweb

Andere Entwickler folgten. Sabrina Ramonov, eine KI-Pädagogin, erstellte einen kostenlosen browserbasierten Entferner, und Ansh Aneja, ein in Tokio ansässiger Entwickler, gab an, dass sein Tool an einem einzigen Tag 8.500 Nutzer anzog. Das Interesse bei Google Trends an "AI watermark remover" stieg im Wochenvergleich um 60 Prozent.gizmodo+1

Anthropic wehrt sich

Anthropic hat erklärt, dass das Wasserzeichen auf Wortwahlen mit geringer Relevanz basiert: Wenn mehrere Wörter gleichermaßen gut funktionieren würden, bevorzugt das Modell eines, was eine erkennbare statistische Spur hinterlässt. Das Unternehmen sagt, dass die Markierung keine identifizierenden Informationen enthält und nicht zu einem bestimmten Nutzer oder Gespräch zurückverfolgt werden kann. In einem Blogbeitrag hieß es, das Wasserzeichen "sagt nichts über Eigentum oder Urheberschaft aus und ändert nichts an den Rechten eines Nutzers gemäß unseren Bedingungen."gizmodo+1

Das Unternehmen unterzeichnete im Juli zusammen mit etwa 190 anderen Unterzeichnern den EU-Kodex für KI-Transparenz und gibt an, dass es das Wasserzeichen noch nicht auf EU-Nutzer beschränken kann, weshalb die Funktion weltweit eingeführt wird.thenextweb

Eine bekannte Einschränkung

Forscher sagen, dass die Entfernungstools eine grundlegende Schwäche offenlegen. "Es wird immer Wege geben, das Wasserzeichen zu entfernen", sagte Thibaud Gloaguen, Forscher an der ETH Zürich, gegenüber Business Insider, wie von The Next Web zitiert. Anthropic selbst hat eingeräumt, dass eine starke Umformulierung das Zeichen vollständig entfernen kann – an diesem Punkt, so gibt das Unternehmen zu, wird es debattierbar, ob der Text noch sinnvoll als KI-generiert bezeichnet werden kann.thenextweb

Die rechtliche Lage bietet wenig Abschreckung. Der EU AI Act legt Anbietern zwar Kennzeichnungspflichten auf, verbietet Dritten jedoch nicht ausdrücklich das Entfernen von Wasserzeichen, so Konrad Kollnig, Assistenzprofessor an der Universität Maastricht. Anthropic reagierte nicht auf Fragen zu den Entfernungstools.thenextweb