Utvecklare bygger verktyg för att ta bort Anthropics nya AI-vattenstämpel från Claude-text

Anthropics ansträngningar att märka text som genererats av deras AI-modell Claude har stött på ett omedelbart hinder: utvecklare bygger verktyg för att ta bort märkningarna, och användare strömmar till dem.

Företaget började bädda in en statistisk vattenstämpel i all Claude-genererad text den 2 augusti, utformad för att följa EU:s AI-förordning (AI Act), som kräver att AI-leverantörer märker syntetiskt innehåll i maskinläsbar form. Bara timmar efter tillkännagivandet började verktyg för borttagning med öppen källkod cirkulera på nätet, vilket lockade tusentals användare och återuppväckte debatten om huruvida vattenmärkning av AI-text är tekniskt hållbart.thenextweb+1

En femtimmarslösning

Guillaume Meyer, en entreprenör baserad i Paris, släppte ett projekt med öppen källkod kallat Watermarks Remover på GitHub bara fyra timmar efter Anthropics tillkännagivande, enligt WIRED. Verktyget tar bort dolda tecken och metadata, och skriver sedan om texten för att störa det statistiska mönster som bär vattenstämpeln. Det har sedan dess lockat mer än 14 000 stjärnor på GitHub och över 100 bidragsgivare.wired+1

"Jag är för innehållsattribution," sa Meyer till Business Insider, vilket rapporterats av The Next Web. "Jag är emot vattenmärkningstekniken, och det är en mycket viktig distinktion." Han argumenterade för att metoden "behandlar författarskap som en binär sak," genom att märka text oavsett om Claude skrev den i sin helhet eller bara hjälpte till att redigera den.thenextweb

Andra utvecklare följde efter. Sabrina Ramonov, en AI-pedagog, byggde en gratis webbläsarbaserad borttagare, och Ansh Aneja, en utvecklare baserad i Tokyo, sa att hans verktyg lockade 8 500 användare på en enda dag. Google Trends-intresset för "AI watermark remover" steg med 60 procent från vecka till vecka.gizmodo+1

Anthropic slår tillbaka

Anthropic har sagt att vattenstämpeln bygger på ordval med låg insats: när flera ord skulle fungera lika bra, föredrar modellen ett, vilket lämnar ett detekterbart statistiskt spår. Företaget säger att märket inte innehåller någon identifierande information och inte kan spåras till en specifik användare eller konversation. I ett blogginlägg uppgav de att vattenstämpeln "inte säger något om ägande eller författarskap, och ändrar inte användarens rättigheter enligt våra villkor."gizmodo+1

Företaget undertecknade EU:s uppförandekod för AI-transparens i juli tillsammans med cirka 190 andra undertecknare och säger att de ännu inte kan begränsa vattenstämpeln till EU-användare, så funktionen rullas ut globalt.thenextweb

En känd begränsning

Forskare säger att borttagningsverktygen avslöjar en fundamental svaghet. "Det kommer alltid att finnas sätt att ta bort vattenstämpeln," sa Thibaud Gloaguen, forskare vid ETH Zürich, till Business Insider, vilket citeras av The Next Web. Anthropic har själva erkänt att en kraftig omskrivning kan ta bort märket helt och hållet: vid den tidpunkten medger företaget att det blir debatterbart om texten fortfarande är meningsfullt AI-genererad.thenextweb

Det juridiska landskapet erbjuder liten avskräckning. EU:s AI-förordning ålägger leverantörer märkningsskyldighet men förbjuder inte uttryckligen tredje part från att ta bort vattenstämplar, enligt Konrad Kollnig, biträdande professor vid Maastrichts universitet. Anthropic svarade inte på frågor om borttagningsverktygen.thenextweb