Vývojáři vytvořili nástroje pro odstranění vodoznaků z textů AI Claude

Snaha společnosti Anthropic označovat texty generované jejím modelem Claude narazila na okamžitou překážku: vývojáři vytvářejí nástroje pro odstraňování těchto značek a uživatelé se k nim masově stahují.

Společnost začala 2. srpna vkládat statistický vodoznak do veškerého textu generovaného modelem Claude. Cílem bylo vyhovět Aktu Evropské unie o umělé inteligenci, který vyžaduje, aby poskytovatelé AI označovali syntetický obsah ve strojově čitelné formě. Během několika hodin od oznámení se na internetu začaly šířit open-source nástroje pro odstranění, které přilákaly tisíce uživatelů a znovu zažehly debatu o tom, zda je vodoznakování textů generovaných AI technicky životaschopné.thenextweb+1

Pětihodinová oprava

Guillaume Meyer, podnikatel z Paříže, vydal na GitHubu open-source projekt s názvem Watermarks Remover pouhé čtyři hodiny po oznámení společnosti Anthropic, uvádí WIRED. Nástroj odstraňuje skryté znaky a metadata a následně text přepíše, aby narušil statistický vzorec, který vodoznak nese. Od té doby projekt získal více než 14 000 hvězdiček na GitHubu a přes 100 přispěvatelů.wired+1

"Jsem pro uvádění autorství obsahu," řekl Meyer pro Business Insider, jak uvedl server The Next Web. "Jsem proti technice vodoznakování a to je velmi podstatný rozdíl." Argumentoval tím, že tato metoda "pohlíží na autorství jako na binární věc" a označuje text bez ohledu na to, zda jej Claude napsal celý, nebo pouze pomohl s úpravami.thenextweb

Další vývojáři následovali. Sabrina Ramonov, lektorka v oblasti AI, vytvořila bezplatný nástroj pro prohlížeče a Ansh Aneja, vývojář z Tokia, uvedl, že jeho nástroj přilákal 8 500 uživatelů během jediného dne. Zájem o "AI watermark remover" na Google Trends vzrostl mezitýdně o 60 procent.gizmodo+1

Anthropic se brání

Společnost Anthropic uvedla, že vodoznak spočívá v nepodstatných volbách slov – když několik slov funguje stejně dobře, model upřednostní jedno z nich, čímž zanechá detekovatelnou statistickou stopu. Firma tvrdí, že značka nenese žádné identifikační informace a nelze ji vystopovat ke konkrétnímu uživateli nebo konverzaci. V příspěvku na blogu uvedla, že vodoznak "neříká nic o vlastnictví nebo autorství a nemění práva uživatele podle našich podmínek."gizmodo+1

Společnost v červenci podepsala kodex transparentnosti AI v EU spolu s přibližně 190 dalšími signatáři a uvádí, že zatím nemůže omezit vodoznak pouze na uživatele v EU, takže funkce je zaváděna globálně.thenextweb

Známé omezení

Výzkumníci tvrdí, že odstraňovače odhalují zásadní slabinu. "Vždy budou existovat způsoby, jak vodoznak odstranit," řekl pro Business Insider Thibaud Gloaguen, výzkumník z ETH Zurich, jak citoval The Next Web. Samotný Anthropic přiznal, že důkladné přepsání textu může značku zcela odstranit – v tu chvíli však společnost připouští, že je sporné, zda je text stále smysluplně generován umělou inteligencí.thenextweb

Právní prostředí nabízí jen malou odstrašující sílu. Akt EU o umělé inteligenci ukládá povinnosti označování poskytovatelům, ale výslovně nezakazuje třetím stranám odstraňovat vodoznaky, uvádí Konrad Kollnig, odborný asistent na Maastrichtské univerzitě. Společnost Anthropic na dotazy ohledně nástrojů pro odstraňování nereagovala.thenextweb