OpenAI ევროკავშირში ChatGPT-ის ტექსტებს უხილავ წყლის ნიშნებს დაამატებს

ორშაბათს, 5 ოქტომბერს, OpenAI-მ განაცხადა, რომ უახლოეს კვირებში ევროკავშირში შექმნილ ChatGPT-სა და Codex-ის ტექსტებში უხილავი წყლის ნიშნების ჩაშენებას დაიწყებს. კომპანიის თქმით, ეს ნაბიჯი ევროკავშირის ხელოვნური ინტელექტის აქტის მოთხოვნების შესასრულებლად გადაიდგა, რომელიც AI-ის მიერ გენერირებულ კონტენტზე მანქანურად წაკითხვადი ნიშნების არსებობას ითხოვს. ტექნოლოგიას textGrain ეწოდება. ეს პირველი შემთხვევაა, როდესაც OpenAI-მ ტექსტური წყლის ნიშანი ფართო მასშტაბით დანერგა, მას შემდეგ, რაც 2024 წელს შექმნილი ტექნოლოგია არ გამოუშვა.citybiz+2

როგორ მუშაობს textGrain

ბლოგპოსტში OpenAI წერს, რომ textGrain "მოდელის მიერ სიტყვების არჩევისას უხილავ სტატისტიკურ სიგნალს ამატებს". მკითხველისთვის არანაირი ნიშანი არ ჩანს. ამის ნაცვლად, დეტექტორი ამოწმებს, მიჰყვება თუ არა ტექსტი საიდუმლო გასაღებით დადგენილ შაბლონს. ევროკავშირის წყლის ნიშანი ChatGPT-ის ყველა გეგმის მომხმარებელს შეეხება. იმავე დღიდან, API-ის მომხმარებლებს მთელ მსოფლიოში შეეძლებათ აირჩიონ აღნიშნული ფუნქცია, თუმცა ის ნაგულისხმევად გამორთული იქნება.openai+2

კომპანიის განცხადებით, ისინი "ტექსტის წყლის ნიშნებს გაშვებისას გლობალურ სტანდარტად არ აქცევენ". დეტექტორზე წვდომა თავდაპირველად შეზღუდული იქნება მხოლოდ დამტკიცებული მკვლევრებისა და ექსპერტული ორგანიზაციებისთვის, რომლებსაც უკვე შეუძლიათ განაცხადის შეტანა. OpenAI ასევე გეგმავს textGrain-ის ღია კოდის სახით გამოშვებას.cellcog+1

OpenAI-ის მიერ აღიარებული შეზღუდვები

OpenAI აფრთხილებს, რომ დეტექცია შეიძლება იყოს მცდარი, ხოლო ტექსტის რედაქტირებამ ან თარგმნამ შესაძლოა სიგნალი დაასუსტოს. კომპანიის საკუთარ ტესტებში, 400-სიტყვიან მონაკვეთში სიტყვების 10%-ის სინონიმებით შეცვლამ დეტექციის მაჩვენებელი 92%-დან 66%-მდე შეამცირა. 25%-ის შეცვლამ კი მაჩვენებელი 17%-მდე დაიყვანა. OpenAI-მ ასევე აღნიშნა, რომ წყლის ნიშანი არ აიდენტიფიცირებს მომხმარებელს, არ ავლენს პრომპტებს, არ ამოწმებს სიზუსტეს და არ ადგენს საკუთრების უფლებას, ხოლო წყლის ნიშნის არარსებობა არ ნიშნავს, რომ ტექსტი ადამიანმა დაწერა.citybiz+1

კრიტიკოსები დიდი ხანია ამტკიცებენ, რომ ტექსტური წყლის ნიშნების მოშორება მარტივია. პროგრამულმა ინჟინერმა შონ გოდეკემ ივლისში დაწერა, რომ AI-ის ტექსტური წყლის ნიშნების მოშორება "ყოველთვის ტრივიალური იქნება".seangoedecke

მარეგულირებელი ვადები

ხელოვნური ინტელექტის აქტის 50-ე მუხლი 2026 წლის 2 აგვისტოდან მოქმედებს. ის გენერაციული AI-ის პროვაიდერებს ავალდებულებს, მონიშნონ სინთეზური შედეგები, მათ შორის ტექსტი, რათა მათი ხელოვნურად გენერირება დადგინდეს. სისტემებს, რომლებიც ბაზარზე ამ თარიღამდე იყო, შესაბამისობისთვის 2026 წლის 2 დეკემბრამდე აქვთ ვადა. ეს პერიოდი ევროკავშირის ციფრული ომნიბუსის პაკეტის ფარგლებში იქნა მინიჭებული და ევროპის AI საბჭომ 17 სექტემბრის შეხვედრაზე ის არ გაახანგრძლივა.cloudsecurityalliance

კომპანიებმა, რომლებმაც კომისიის გამჭვირვალობის კოდექსს მოაწერეს ხელი, ასევე აიღეს ვალდებულება, 2027 წლის 2 თებერვლამდე უზრუნველყონ წყლის ნიშნების დეტექციის თავსებადი გზა. Google უკვე იყენებს ტექსტის მარკირებას თავისი SynthID ხელსაწყოთი, რომელსაც, OpenAI-ის თქმით, textGrain შიდა ტესტირებისას გაუტოლდა ან აჯობა.cellcog+2