Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]
Anthropic-მა ხელსაწყო გამოუშვა, რომელიც AI მოდელის პასუხის ავთენტურობას ადასტურებს
- Anthropic-ის Frontier Red Team-მა გამოუშვა FlashProve, ღია კოდის ბიბლიოთეკა, რომელიც AI პროვაიდერებს საშუალებას აძლევს დაამტკიცონ, რომ პასუხი კონკრეტული მოდელის მიერ არის გენერირებული, ნათქვამია კვლევით პოსტში
anthropic.com+1. - Meta-ს Llama 4 Maverick-ზე ჩატარებულ ტესტებში, ერთმა Nvidia H100-მა წამში 100-ზე მეტი ტოკენის სიჩქარით შექმნა მტკიცებულებები
anthropic.com. - Anthropic აცხადებს, რომ არ გეგმავს ამ პროტოტიპის დანერგვას, რომელიც ჩვეულებრივზე 70-დან 95-ჯერ მეტ GPU რესურსს მოითხოვს და სხვებს მის გაუმჯობესებას სთავაზობს
techcrunch.com+1.
Anthropic-მა გამოუშვა FlashProve, ღია კოდის კვლევითი პროტოტიპი, რომელიც კრიპტოგრაფიას იყენებს იმის დასადგენად, თუ რომელმა AI მოდელმა გასცა პასუხი, მოდელის წონების გამჟღავნების გარეშე. კომპანიამ კოდი GitHub-ზე ამ კვირაში გამოაქვეყნა, თუმცა აცხადებს, რომ სისტემის დანერგვის გეგმები არ აქვს არც Anthropic-ში და არც სხვაგან.techcrunch.com
ეს ნაშრომი ნდობის ფუნდამენტურ პრობლემას ეხება. AI სერვისის მომხმარებელს ხშირად არ შეუძლია დაადასტუროს, რომ პასუხი ნამდვილად იმ მოდელმა გასცა, რომელშიც გადაიხადა, ან რომ სერვისმა ფარულად არ ჩაანაცვლა ის უფრო იაფი ვერსიით. განცხადებაში Anthropic აღნიშნავს, რომ მტკიცებულებებმა შესაძლოა "გაართულოს ჩატის გატაცება თავდამსხმელებისთვის ან უსაფრთხოების შემფასებლებს მისცეს საშუალება, გადაამოწმონ, რომ მოდელი, რომელსაც ისინი ტესტავენ, იგივეა, რაც მომხმარებლებისთვისაა ხელმისაწვდომი".marktechpost.com+1
როგორ მუშაობს ის
FlashProve აგებულია კრიპტოგრაფიული მტკიცებულების ტიპზე, სახელად zkSNARK, და მუშაობს ორ ფაზად. ოფლაინ ფაზაში მოდელის პროვაიდერი აქვეყნებს ვალდებულებას, რომელიც წარმოადგენს მოკლე ანაბეჭდს, დაკავშირებულს წონების ზუსტ კომპლექტთან, მაშინ როცა თავად წონები დაფარულია. ონლაინ ფაზაში პროვაიდერი თითოეული პასუხისთვის ქმნის მტკიცებულებას, რომელიც ადასტურებს, რომ სწორედ ამ მოდელმა შექმნა ეს ტოკენები. ყველას, ვისაც აქვს ვალდებულება, პრომპტი და პასუხი, შეუძლია შეამოწმოს მტკიცებულება. ვინაიდან ანაბეჭდი არ ამჟღავნებს წონებს, დახურული მოდელების შემქმნელებს შეუძლიათ გამოიყენონ ეს სისტემა კომერციულ მოდელებთან.anthropic.com+1
Anthropic-მა FlashProve გამოსცადა Meta-ს Llama 4 Maverick-ზე, 400-მილიარდიანი პარამეტრის მქონე მოდელზე. ერთმა Nvidia H100-მა შექმნა მტკიცებულებები წამში 100-ზე მეტი ტოკენის სიჩქარით, ხოლო თითოეული მტკიცებულება დაახლოებით 19 მბ იყო 1024-ტოკენიანი მოთხოვნისთვის. ვერიფიკაცია მიმდინარეობს ჩვეულებრივ CPU-ზე და 24 ნაკადით 17 წამს გრძელდება. პროტოკოლის სანდოობა ფორმალურად დამტკიცებულია Lean 4-ის ენაზე.github.com+2
შეზღუდვები და შემდგომი ნაბიჯები
პროტოტიპს ჯერ კიდევ აქვს მკაფიო შეზღუდვები. მტკიცებულების შექმნა მოითხოვს სტანდარტული vLLM ინფერენსის GPU დროის დაახლოებით 70-დან 95-ჯერ მეტს. კონტექსტი შეზღუდულია 1024 ტოკენით, ერთ მოთხოვნას შესაძლოა დაახლოებით ხუთი წუთი დასჭირდეს დამუშავებისთვის და გარანტიები ვრცელდება მხოლოდ greedy დეკოდირებაზე და არა შერჩევით გამომავალზე. GitHub-ის საცავი, რომელიც გამოქვეყნებულია Apache 2.0 ლიცენზიით, საკუთარ თავს უწოდებს "კვლევით არტეფაქტს: არ არის მხარდაჭერილი და არ იღებს წვლილს".tech.yahoo.com+3
Anthropic-ის Frontier Red Team-მა სისტემა შექმნა გარე კრიპტოგრაფებთან, მათ შორის ალესანდრო კიეზასთან ერთად. მკვლევარები ამ გამოშვებას უწოდებენ მოწვევას და არა დასრულებულ პროდუქტს. "ჩვენ ამას ვაზიარებთ იმ მიზნით, რომ სხვებმა ნახონ რა გავაკეთეთ, აიღონ და გააუმჯობესონ", – წერენ ისინი.x.com+1
წყაროები (12)
- 1 Progress on provable inference for large language models www.anthropic.com
- 2 GitHub - anthropics/FlashProve: A research prototype for zero-knowledge proofs of AI inference. Not maintained. github.com
- 3 Anthropic is working on a system to prove AI models' identity techcrunch.com
- 4 Anthropic Releases FlashProve: Cryptographic Proofs That a Reply Came From Committed Weights www.marktechpost.com
- 5 New Anthropic research x.com
- 6 Anthropic Unveils FlashProve for Proving Which Model Answered You tech.yahoo.com
- 7 Anthropic Releases FlashProve for Cryptographic AI Inference ... www.europesays.com
- 8 Progress on provable inference for large language models | TLDR tldr.tech
- 9 Anthropic's FlashProve Wants a Receipt for Every AI Answer — Explained Honestly dev.to
- 10 AI Hub Daily Briefing aihub.com
- 11 Anthropic is working on an open-source system to verify AI model outputs mezha.net
- 12 Anthropic releases open source FlashProve to cryptographically verify model origin www.newsbytesapp.com
