„Cardano“ įkūrėjas išleido įrankį naujiems „Claude“ DI vandens ženklams naikinti

„Anthropic“ pradėjo įterpti nematomus vandens ženklus į tekstą, sugeneruotą jos „Claude“ DI modelių. Šis žingsnis sukėlė vartotojų pasipiktinimą ir jau paskatino sukurti priešpriešinį įrankį, skirtą šiems ženklams pašalinti.

Kaip veikia vandens ženklas

Vandens ženklų sistema, kurią „Anthropic“ išsamiai aprašė penktadienio tinklaraščio įraše, naudoja „Google Alphabet Inc.“ ↘ 0.12% „DeepMind“ metodą „SynthID-Text“. Juo „Claude“ žodžių pasirinkime sukuriamas statistinis dėsningumas, kuris skaitytojams yra nepastebimas, tačiau aptinkamas naudojant teisingą kriptografinį raktą. Kai „Claude“ generuoja tekstą, jis dažnai susiduria su mažos svarbos pasirinkimais tarp vienodai tinkamų žodžių, pavyzdžiui, „apsiniaukęs“ ir „pilkas“, o vandens ženklų sistema nukreipia šiuos pasirinkimus pagal slaptą raktą.techcrunch+2

„Anthropic“ teigimu, vandens ženklas „nedaro įtakos „Claude“ generuojamo turinio kokybei“ ir turi „nežymų“ poveikį greičiui ar sąnaudoms. Bendrovė planuoja išleisti vandens ženklų aptikimo API, nors išsamesnė informacija apie jos įgyvendinimą dar nepaskelbta.ndtvprofit+3

Ši sistema taikoma visame pasaulyje „Claude“ modeliams, išleistiems po 2026 m. rugpjūčio 2 d., kai įsigaliojo ES DI akto skaidrumo kodeksas. „Anthropic“ nurodė, kad vandens ženklą taiko visame pasaulyje, nes dar neturi „patikimo būdo jį apriboti pagal regionus“. Tikėtina, kad nežymus redagavimas vandens ženklo nepašalins, tačiau visiškas perrašymas, pakeičiant kiekvieną žodį, jį sunaikins.indiatoday+3

Vartotojų pasipiktinimas ir prenumeratų atšaukimai

Šis pranešimas, pirmą kartą paskelbtas rugpjūčio 11 d., sukėlė stiprią reakciją. „Business Insider News Corp“ ↗ 0.73% pranešė, kad „dešimtys“ platformos „X“ vartotojų teigė atšaukę savo „Claude“ prenumeratas. „Gizmodo“ pastebėjo, kad matematikos ir DI nuomonės formuotojas Johnas Ennisas pasidalijo savo atšaukimo ekrano kopija, motyvuodamas tai „juokinga vandens ženklų idėja“. „Reddit“ platformoje vartotojai šį žingsnį apibūdino įvairiai: nuo „sąmokslo prieš sąžiningus vartotojus“ iki būtino žingsnio kovojant su apgaule.news.sbs+2

„Anthropic“ leidiniui „Business Insider“ teigė, kad po šio pranešimo nepastebėjo padidėjusio atšaukimų skaičiaus.gizmodo

Atsirado priešpriešinis įrankis

Sekmadienį „Cardano“ įkūrėjas Charlesas Hoskinsonas išleido nemokamą atvirojo kodo įrankį „Anthropies“ (tai žodžių žaismas, sujungiantis „Anthropic“ ir „herpes“), skirtą vandens ženklams šalinti. Šis įrankis, išleistas pagal „Apache 2.0“ licenciją, nukreipia „Claude“ sugeneruotą tekstą per kitą kalbos modelį, kad jį perrašytų, ir taip sunaikina statistinį dėsningumą.firstpost+1

Ch. Hoskinsonas šį žingsnį pateikė kaip įspėjimą apie nuosavybės riziką, teigdamas, kad vandens ženklas ir „Claude“ bendraautorystės priskyrimas ateityje vartotojams gali sukelti teisinių komplikacijų. Jis taip pat atkreipė dėmesį į klaidingų teigiamų rezultatų riziką: redaktorius, kuris greitai peržiūrai paleidžia žmogaus parašytą tekstą per „Claude“, vėliau gali susidurti su situacija, kai tas darbas bus pažymėtas kaip sugeneruotas DI.tech.yahoo+1

„Anthropic“ viešai į šį įrankį nereagavo. Savo tinklaraščio įraše bendrovė pažymėjo, kad kiti didieji DI kūrėjai pasirašė tą patį ES praktikos kodeksą ir įdiegs savo vandens ženklų sistemas.mezha+1