დეველოპერებმა Claude-ის ტექსტიდან Anthropic-ის AI ნიშნულების წაშლის ხელსაწყოები შექმნეს

Anthropic-ის მცდელობა, მონიშნოს თავისი Claude AI მოდელის მიერ გენერირებული ტექსტი, მყისიერ დაბრკოლებას წააწყდა: დეველოპერები ქმნიან ხელსაწყოებს ამ ნიშნულების წასაშლელად, მომხმარებლები კი მათ მასობრივად იყენებენ.

კომპანიამ 2 აგვისტოს დაიწყო სტატისტიკური ნიშნულების ჩაშენება Claude-ის მიერ გენერირებულ ყველა ტექსტში, რათა დაეცვა ევროკავშირის AI აქტის მოთხოვნები, რომელიც AI პროვაიდერებს ავალდებულებს სინთეზური კონტენტი მანქანურად წაკითხვადი ფორმით მონიშნონ. განცხადებიდან რამდენიმე საათში ინტერნეტში გავრცელდა ღია კოდის ხელსაწყოები, რამაც ათასობით მომხმარებელი მიიზიდა და კვლავ გააჩინა კითხვები AI ტექსტების მარკირების ტექნიკური ეფექტურობის შესახებ.thenextweb+1

ხუთსაათიანი გამოსავალი

პარიზელმა მეწარმემ, გიიომ მეიერმა, Anthropic-ის განცხადებიდან სულ რაღაც ოთხ საათში GitHub-ზე გამოაქვეყნა ღია კოდის პროექტი Watermarks Remover, იტყობინება WIRED. ხელსაწყო შლის ფარულ სიმბოლოებსა და მეტამონაცემებს, შემდეგ კი გადაწერს ტექსტს ისე, რომ დაარღვიოს სტატისტიკური ნიმუში, რომელიც ნიშნულს ატარებს. პროექტმა უკვე 14 000-ზე მეტი ვარსკვლავი და 100-ზე მეტი კონტრიბუტორი მიიზიდა.wired+1

"მე კონტენტის ატრიბუციის მომხრე ვარ," განუცხადა მეიერმა Business Insider-ს, როგორც ამას The Next Web წერს. "მე წინააღმდეგი ვარ მარკირების ტექნიკის და ეს ძალიან მნიშვნელოვანი განსხვავებაა." მან აღნიშნა, რომ ეს მეთოდი "ავტორობას ბინარულ საკითხად განიხილავს" და ნიშნავს ტექსტს მიუხედავად იმისა, Claude-მა დაწერა ის სრულად თუ მხოლოდ რედაქტირებაში დაეხმარა.thenextweb

სხვა დეველოპერებმაც მიბაძეს მას. AI-ის პედაგოგმა საბრინა რამონოვმა შექმნა ბრაუზერზე დაფუძნებული უფასო ხელსაწყო, ხოლო ტოკიოელმა დეველოპერმა ანშ ანეჯამ განაცხადა, რომ მისმა ხელსაწყომ ერთ დღეში 8 500 მომხმარებელი მიიზიდა. Google Trends-ზე "AI watermark remover"-ის ძიების მაჩვენებელი წინა კვირასთან შედარებით 60 პროცენტით გაიზარდა.gizmodo+1

Anthropic-ის პასუხი

Anthropic აცხადებს, რომ ნიშნული ეფუძნება ნაკლებად მნიშვნელოვან სიტყვათა არჩევანს — როდესაც რამდენიმე სიტყვა თანაბრად გამართლებულია, მოდელი ერთ-ერთს ანიჭებს უპირატესობას, რაც ტოვებს შესამჩნევ სტატისტიკურ კვალს. კომპანიის თქმით, ნიშნული არ შეიცავს საიდენტიფიკაციო ინფორმაციას და მისი მიკვლევა კონკრეტულ მომხმარებელთან ან საუბართან შეუძლებელია. ბლოგპოსტში კომპანიამ აღნიშნა, რომ ნიშნული "არაფერს ამბობს საკუთრებაზე ან ავტორობაზე და არ ცვლის მომხმარებლის უფლებებს ჩვენი პირობების მიხედვით."gizmodo+1

კომპანიამ ივლისში, დაახლოებით 190 სხვა ხელმომწერებთან ერთად, ხელი მოაწერა ევროკავშირის AI გამჭვირვალობის კოდექსს და აცხადებს, რომ ჯერჯერობით ვერ შეზღუდავს ნიშნულს მხოლოდ ევროკავშირის მომხმარებლებით, ამიტომ ფუნქცია გლობალურად ვრცელდება.thenextweb

ცნობილი შეზღუდვა

მკვლევარები ამბობენ, რომ ეს ხელსაწყოები ფუნდამენტურ სისუსტეს ავლენს. "ყოველთვის იქნება ნიშნულის მოშორების გზები," განუცხადა ტიბო გლოგენმა, ETH Zurich-ის მკვლევარმა, Business Insider-ს, როგორც ამას The Next Web ციტირებს. თავად Anthropic-მაც აღიარა, რომ ტექსტის საფუძვლიანად გადაწერამ შეიძლება ნიშნული სრულად წაშალოს — ამ მომენტისთვის, კომპანია აღიარებს, რომ სადავო ხდება, არის თუ არა ტექსტი კვლავ მნიშვნელოვნად AI-ის მიერ გენერირებული.thenextweb

სამართლებრივი გარემოც მცირე შემაკავებელ ფაქტორს წარმოადგენს. მაასტრიხტის უნივერსიტეტის ასისტენტ-პროფესორის, კონრად კოლნიგის თქმით, ევროკავშირის AI აქტი მარკირების ვალდებულებას პროვაიდერებს აკისრებს, მაგრამ პირდაპირ არ კრძალავს მესამე მხარის მიერ ნიშნულების წაშლას. Anthropic-ს წაშლის ხელსაწყოებთან დაკავშირებულ კითხვებზე პასუხი არ გაუცია.thenextweb