Kehittäjät loivat työkaluja Clauden tekoälyvesileimojen poistamiseen

Anthropicin pyrkimys merkitä Claude-tekoälymallin tuottama teksti on kohdannut välittömän esteen: kehittäjät rakentavat työkaluja näiden merkintöjen poistamiseen, ja käyttäjät ovat ottaneet ne laajasti käyttöön.

Yhtiö alkoi lisätä tilastollisen vesileiman kaikkeen Clauden tuottamaan tekstiin 2. elokuuta noudattaakseen Euroopan unionin tekoälyasetusta, joka vaatii tekoälypalveluiden tarjoajia merkitsemään synteettisen sisällön koneellisesti luettavassa muodossa. Muutaman tunnin kuluessa ilmoituksesta verkossa alkoi levitä avoimen lähdekoodin poistotyökaluja, jotka houkuttelivat tuhansia käyttäjiä ja herättivät uudelleen keskustelun siitä, onko tekoälytekstin vesileimaaminen teknisesti järkevää.thenextweb+1

Viiden tunnin korjaus

Pariisilainen yrittäjä Guillaume Meyer julkaisi GitHubissa avoimen lähdekoodin projektin nimeltä Watermarks Remover vain neljä tuntia Anthropicin ilmoituksen jälkeen, kertoo WIRED. Työkalu poistaa piilotetut merkit ja metatiedot ja kirjoittaa tekstin uudelleen siten, että vesileiman sisältävä tilastollinen kuvio rikkoutuu. Se on sittemmin kerännyt yli 14 000 tähteä GitHubissa ja yli 100 avustajaa.wired+1

"Kannatan sisällön nimeämistä tekijän mukaan", Meyer kertoi Business Insiderille, kuten The Next Web raportoi. "Vastustan vesileimaustekniikkaa, ja se on hyvin merkittävä ero." Hän väitti, että menetelmä "kohtelee tekijyyttä binäärisenä asiana", merkitsemällä tekstin riippumatta siitä, kirjoittiko Claude sen kokonaan vai auttoiko se vain sen editoinnissa.thenextweb

Muut kehittäjät seurasivat perässä. Tekoälyopettaja Sabrina Ramonov rakensi ilmaisen selainpohjaisen poistotyökalun, ja tokiolainen kehittäjä Ansh Aneja kertoi työkalunsa keränneen 8 500 käyttäjää yhdessä päivässä. Google Trendsin haku "AI watermark remover" nousi 60 prosenttia edellisviikosta.gizmodo+1

Anthropic puolustautuu

Anthropic on todennut, että vesileima perustuu vähäpätöisiin sanavalintoihin: kun useat sanat toimisivat yhtä hyvin, malli suosii yhtä, jättäen havaittavan tilastollisen jäljen. Yhtiön mukaan merkintä ei sisällä tunnistetietoja eikä sitä voida jäljittää tiettyyn käyttäjään tai keskusteluun. Blogikirjoituksessaan se totesi, että vesileima "ei kerro mitään omistajuudesta tai tekijyydestä, eikä se muuta käyttäjän oikeuksia ehtojemme mukaisesti".gizmodo+1

Yhtiö allekirjoitti EU:n tekoälyn avoimuussäännöstön heinäkuussa noin 190 muun allekirjoittajan kanssa ja sanoo, ettei se voi vielä rajoittaa vesileimaa vain EU-käyttäjiin, joten ominaisuus otetaan käyttöön maailmanlaajuisesti.thenextweb

Tunnettu rajoite

Tutkijoiden mukaan poistotyökalut paljastavat perustavanlaatuisen heikkouden. "Vesileiman poistamiseen löytyy aina keinoja", ETH Zürichin tutkija Thibaud Gloaguen kertoi Business Insiderille, kuten The Next Web on lainannut. Anthropic on itse myöntänyt, että perusteellinen uudelleenkirjoittaminen voi poistaa merkin kokonaan – missä vaiheessa yhtiö myöntää, että on kyseenalaista, onko teksti enää merkityksellisesti tekoälyn tuottamaa.thenextweb

Oikeudellinen tilanne tarjoaa vähän pelotetta. Maastrichtin yliopiston apulaisprofessori Konrad Kollnigin mukaan EU:n tekoälyasetus asettaa palveluntarjoajille merkintävelvollisuuksia, mutta ei nimenomaisesti kiellä kolmansia osapuolia poistamasta vesileimoja. Anthropic ei vastannut kysymyksiin poistotyökaluista.thenextweb