Programuotojai sukūrė įrankius „Claude“ dirbtinio intelekto vandens ženklams šalinti

„Anthropic“ pastangos žymėti „Claude“ dirbtinio intelekto modelio generuojamą tekstą susidūrė su kliūtimis: programuotojai kuria įrankius šioms žymoms šalinti, o vartotojai jais aktyviai naudojasi.

Nuo rugpjūčio 2 d. bendrovė į visą „Claude“ generuojamą tekstą pradėjo įterpti statistinį vandens ženklą, siekdama atitikti Europos Sąjungos DI aktą, kuris reikalauja, kad DI paslaugų teikėjai žymėtų sintetinį turinį mašininio skaitymo forma. Vos per kelias valandas nuo pranešimo internete pasirodė atvirojo kodo šalinimo įrankiai, pritraukę tūkstančius vartotojų ir atnaujinę diskusijas apie tai, ar DI teksto žymėjimas vandens ženklais yra techniškai pagrįstas.thenextweb+1

Penkių valandų sprendimas

Paryžiuje gyvenantis verslininkas Guillaume'as Meyeris „GitHub“ platformoje išleido atvirojo kodo projektą „Watermarks Remover“ praėjus vos keturioms valandoms po „Anthropic“ pranešimo, praneša „WIRED“. Įrankis pašalina paslėptus simbolius ir metaduomenis, o tada perrašo tekstą, kad sutrikdytų statistinį modelį, kuriame yra vandens ženklas. Nuo to laiko projektas „GitHub“ sulaukė daugiau nei 14 000 žvaigždučių ir daugiau nei 100 bendraautorių.wired+1

„Aš esu už turinio priskyrimą autoriui“, – sakė Meyeris „Business Insider“, kaip cituoja „The Next Web“. „Aš esu prieš vandens ženklinimo techniką, ir tai yra labai svarbus skirtumas.“ Jis teigė, kad šis metodas „autorystę traktuoja kaip dvejetainį dalyką“, žymėdamas tekstą nepriklausomai nuo to, ar „Claude“ jį parašė visą, ar tik padėjo redaguoti.thenextweb

Kiti programuotojai pasekė jo pavyzdžiu. DI edukatorė Sabrina Ramonov sukūrė nemokamą naršyklės įrankį, o Tokijuje dirbantis programuotojas Ansh Aneja teigė, kad jo įrankis per vieną dieną sulaukė 8 500 vartotojų. „Google Trends“ susidomėjimas užklausa „AI watermark remover“ per savaitę išaugo 60 procentų.gizmodo+1

„Anthropic“ atsakas

„Anthropic“ teigia, kad vandens ženklas remiasi mažos svarbos žodžių pasirinkimais – kai keli žodžiai tinka vienodai gerai, modelis pasirenka vieną, palikdamas aptinkamą statistinį pėdsaką. Bendrovė tvirtina, kad žyma neturi jokios identifikuojančios informacijos ir negali būti susieta su konkrečiu vartotoju ar pokalbiu. Tinklaraščio įraše teigiama, kad vandens ženklas „nieko nesako apie nuosavybę ar autorystę ir nekeičia vartotojo teisių pagal mūsų sąlygas“.gizmodo+1

Liepos mėnesį bendrovė kartu su maždaug 190 kitų pasirašiusiųjų prisijungė prie ES DI skaidrumo kodekso ir teigia, kad kol kas negali apriboti vandens ženklų tik ES vartotojams, todėl ši funkcija diegiama visame pasaulyje.thenextweb

Žinomas trūkumas

Tyrėjai teigia, kad šalinimo įrankiai atskleidžia esminį silpnumą. „Visada bus būdų pašalinti vandens ženklą“, – „Business Insider“ sakė ETH Ciuricho tyrėjas Thibaud Gloaguen, kurį cituoja „The Next Web“. Pati „Anthropic“ pripažino, kad stiprus teksto perrašymas gali visiškai pašalinti žymą – tokiu atveju, bendrovės teigimu, tampa diskutuotina, ar tekstas vis dar yra reikšmingai generuotas DI.thenextweb

Teisinė aplinka suteikia mažai atgrasymo priemonių. Pasak Mastrichto universiteto docento Konrado Kollnigo, ES DI aktas įpareigoja paslaugų teikėjus žymėti turinį, tačiau tiesiogiai nedraudžia trečiosioms šalims šalinti vandens ženklų. „Anthropic“ neatsakė į klausimus apie šalinimo įrankius.thenextweb