MIT-ის მკვლევარები: GPT-6 Astra-მ Qwen-ის წონები მათემატიკური უნარების გასაუმჯობესებლად შეცვალა

MIT CSAIL-ის ოთხი მკვლევარი აცხადებს, რომ OpenAI-ის GPT-6 Astra-მ მცირე ზომის ღია კოდის მქონე მოდელის მათემატიკური ქულა დაახლოებით ექვსჯერ გაზარდა მისი წონების პირდაპირი ცვლილებით, ყოველგვარი წვრთნის გარეშე. 2 ნოემბერს გამოქვეყნებულ ბლოგპოსტში რიკია ტაკეჰიმ, ჯეიდენ ტეომ, ალექს ჟანგმა და ომარ ხატაბმა განაცხადეს, რომ Astra-მ შეცვალა Alibaba-ს Qwen3.5-0.8B მოდელის 131,072 წონა, რაც მთლიანი რაოდენობის 0.016%-ია. ამ ცვლილებამ მოდელის MATH-500 ქულა 7.9%-დან 48.1%-მდე აწია. GSM8K-ის მაჩვენებელი 13.8%-დან 67.1%-მდე გაიზარდა, ხოლო IFEval ინსტრუქციების შესრულების მაჩვენებელი 21.0%-დან 62.3%-მდე.rikiyat.github.io

მკვლევარები ამ მეთოდს "წონით სივრცის პროგრამირებას" უწოდებენ. მათი მტკიცებით, მოწინავე ენობრივ მოდელებს შეუძლიათ ნეირონული ქსელის წონების წაკითხვა და მათი ისე შესწორება, როგორც პროგრამისტი ასწორებს კოდს. ავტორები ამბობენ, რომ Qwen-ის შედეგი მიღწეული იქნა შეცდომის გამოსწორებით და არა მოდელისთვის ახალი მათემატიკური უნარების სწავლებით.

ციკლის გამოსწორება და არა უნარის დამატება

Astra მუშაობდა Python-ის გარემოში და შეეძლო მოდელის შეზღუდული რაოდენობით გაშვება პრაქტიკულ ამოცანებზე. პოსტის თანახმად, მან Qwen-ის განმეორებადი "აზროვნების ციკლები" დაუკავშირა მე-15 და მე-19 ფენების MLP-ების მიერ დაწერილ ერთ მიმართულებას, შემდეგ კი ეს მიმართულება გამოაკლო თითოეულ ფენაში არსებულ 64 გამომავალ სვეტს. MATH-500 პასუხების წილი, რომლებიც 32,768-ტოკენიან ლიმიტს აღწევდა, 93%-დან 33%-მდე შემცირდა. Qwen-ის მოდელის ბარათი თავადვე აფრთხილებს მომხმარებელს, რომ მოდელი მიდრეკილია ასეთი ციკლებისკენ.rikiyat.github.io

VentureBeat-ის ცნობით, ყველაზე ეფექტურმა გაშვებამ მოითხოვა 158 სასაუბრო ბრუნი, 80 Python-ის შესრულება და 20.3 საათი, მათ შორის 4.7 საათი დაიკარგა სერვისის გათიშვის გამო. 10 ან 25 სატესტო გაშვების მქონე მცირე ბიუჯეტების პირობებში, ციკლები "თითქმის არ გამქრალა".venturebeat.com

იგივე მიდგომა არ მუშაობდა Gemma 3 270M-ზე, რომელიც იშვიათად ციკლდება. მისი MATH-500 ქულა ერთ ქულაზე ნაკლებით შეიცვალა. "წონების რედაქტირებას შეუძლია მოაშოროს დაბრკოლება, რომელიც მალავდა უნარს, მაგრამ მას არ შეუძლია დაამატოს უნარი, რომელიც მოდელს არ გააჩნდა", – წერენ ავტორები.rikiyat.github.io

წინასწარი შემოწმებები და ღია კითხვები

ეს ნაშრომი არის ბლოგპოსტი და არა რეცენზირებადი სამეცნიერო სტატია, თუმცა გუნდმა გამოაქვეყნა ექსპერიმენტის სრული ჟურნალები. Hugging Face-ზე ერთ-ერთმა მომხმარებელმა განმეორებითი ტესტირებისას გამოიყენა გამოქვეყნებული ცვლილება და MATH-500-ში 50.2% მიიღო "აზროვნების რეჟიმის" ჩართვისას. იმავე შემოწმებამ აჩვენა, რომ შეუცვლელი საბაზისო მოდელი უკვე აგროვებს 45.8%-ს, როდესაც "აზროვნების რეჟიმი" გამორთულია. ტაკეჰიმ X-ზე განაცხადა, რომ ჟურნალების მიხედვით ცალკეულმა აღდგენამ 51.0% აჩვენა. არცერთ შემოწმებას არ დაუდასტურებია GSM8K ან IFEval-ის ზრდა.x.com+1

სხვა ექსპერიმენტებში Astra-მ ამოიცნო თამაშის ქსელები მათი ნედლი წონებიდან და შეაკეთა მართვის მცდარი პოლიტიკა მისი წონების 3.5%-ის რედაქტირებით. VentureBeat-ის ცნობით, მან ასევე ნულიდან დაწერა Breakout-ის ქსელი, რომელმაც აჯობა ჩვეულებრივი მეთოდით გაწვრთნილ საბაზისო მოდელს.venturebeat.com

აჟიოტაჟი და სიფრთხილე

რეაქციები გაიყო. PauseAI-ის აღმასრულებელმა დირექტორმა მაქსიმ ფურნემ ამას "საშინლად დაუფიქრებელი კვლევითი მიმართულება" უწოდა. სხვა კომენტატორები ამტკიცებდნენ, რომ ეს მხოლოდ იმას აჩვენებს, რომ მოდელს შეუძლია აშკარა ხარვეზის აღმოფხვრა. The Register-ის ცნობით, ავტორები ამბობენ, რომ მათი შემდეგი ნაბიჯი არის ბენჩმარკი და ინსტრუმენტარიუმი, რომელიც მიზნად ისახავს "ამჟამად შავ მაგიასავით მოჩვენებითი პროცესის" გადაქცევას მკაცრ, რეპროდუცირებად საინჟინრო დისციპლინად.theregister.com