Utviklere lager verktøy for å fjerne Anthropics nye AI-vannmerke fra Claude-tekst

Anthropics forsøk på å merke tekst generert av deres Claude AI-modell har møtt en umiddelbar hindring: Utviklere bygger verktøy for å fjerne merkingen, og brukere strømmer til dem.

Selskapet begynte å legge inn et statistisk vannmerke i all Claude-generert tekst den 2. august, designet for å overholde EUs AI-forordning (AI Act), som krever at AI-leverandører merker syntetisk innhold i en maskinlesbar form. Få timer etter kunngjøringen begynte åpen kildekode-verktøy for fjerning å sirkulere på nettet, noe som tiltrakk seg tusenvis av brukere og gjenopplivet debatten om hvorvidt vannmerking av AI-tekst er teknisk levedyktig.thenextweb+1

En femtimers løsning

Guillaume Meyer, en gründer basert i Paris, lanserte et åpen kildekode-prosjekt kalt Watermarks Remover på GitHub bare fire timer etter Anthropics kunngjøring, ifølge WIRED. Verktøyet fjerner skjulte tegn og metadata, og skriver deretter om teksten for å forstyrre det statistiske mønsteret som bærer vannmerket. Det har siden tiltrukket seg mer enn 14 000 stjerner på GitHub og over 100 bidragsytere.wired+1

"Jeg er for innholdsattribusjon," sa Meyer til Business Insider, som rapportert av The Next Web. "Jeg er imot vannmerkingsteknikken, og det er en veldig viktig distinksjon." Han argumenterte for at metoden "behandler forfatterskap som en binær ting," ved å merke tekst uavhengig av om Claude skrev den i sin helhet eller bare hjalp til med å redigere den.thenextweb

Andre utviklere fulgte etter. Sabrina Ramonov, en AI-pedagog, bygde en gratis nettleserbasert fjerner, og Ansh Aneja, en utvikler basert i Tokyo, sa at verktøyet hans tiltrakk seg 8 500 brukere på en enkelt dag. Google Trends-interessen for "AI watermark remover" steg 60 prosent fra uke til uke.gizmodo+1

Anthropic slår tilbake

Anthropic har uttalt at vannmerket hviler på ordvalg med lav innsats: når flere ord ville fungert like bra, foretrekker modellen ett, noe som etterlater et detekterbart statistisk spor. Selskapet sier at merket ikke inneholder identifiserende informasjon og ikke kan spores til en spesifikk bruker eller samtale. I et blogginnlegg uttalte de at vannmerket "ikke sier noe om eierskap eller forfatterskap, og endrer ikke brukerens rettigheter under våre vilkår."gizmodo+1

Selskapet signerte EUs AI-transparens-kode i juli sammen med omtrent 190 andre signatarer, og sier at de ennå ikke kan begrense vannmerket til EU-brukere, så funksjonen rulles ut globalt.thenextweb

En kjent begrensning

Forskere sier at fjernerne avslører en fundamental svakhet. "Det vil alltid finnes måter å fjerne vannmerket på," sa Thibaud Gloaguen, en forsker ved ETH Zürich, til Business Insider, sitert av The Next Web. Anthropic har selv erkjent at en omfattende omskriving kan fjerne merket fullstendig: på det tidspunktet innrømmer selskapet at det blir debatterbart om teksten fortsatt er meningsfullt AI-generert.thenextweb

Det juridiske landskapet tilbyr liten avskrekking. EUs AI-forordning pålegger leverandører merkeplikt, men forbyr ikke eksplisitt tredjeparter fra å fjerne vannmerker, ifølge Konrad Kollnig, førsteamanuensis ved Maastricht universitet. Anthropic svarte ikke på spørsmål om fjerningsverktøyene.thenextweb