Thinking Machines-მა Inkling-Small წარადგინა: მცირე ზომის მოდელი, რომელიც ფლაგმანის შესაძლებლობებს უტოლდება

ხუთშაბათს Thinking Machines Lab-მა წარადგინა Inkling-Small, მულტიმოდალური მოდელი, რომელიც თავის წინამორბედ Inkling-ს უტოლდება ან აღემატება, თუმცა პარამეტრების მხოლოდ მეოთხედს იყენებს. ეს ნაბიჯი მნიშვნელოვნად ამცირებს უმაღლესი კლასის ხელოვნური ინტელექტის სისტემის გაშვებისთვის საჭირო გამოთვლით სიმძლავრეს.

მცირე ზომის მოდელი დიდი შესაძლებლობებით

Inkling-Small იყენებს ექსპერტთა ნარევის (Mixture-of-Experts) არქიტექტურას 276 მილიარდი საერთო პარამეტრით, საიდანაც თითოეულ დასკვნაზე 12 მილიარდი აქტიურდება. შედარებისთვის, Inkling-ს 975 მილიარდი საერთო და 41 მილიარდი აქტიური პარამეტრი ჰქონდა. მოდელი იღებს ტექსტურ, ვიზუალურ და აუდიო მონაცემებს და მხარს უჭერს მილიონამდე ტოკენის კონტექსტურ ფანჯარას.siliconrepublic+1

Thinking Machines-ის განცხადებით, მოდელი მსჯელობისა და კოდირების ამოცანებში Inkling-ის დონეზეა ან მას აღემატება. Humanity's Last Exam-ზე Inkling-Small-მა 31 პროცენტზე მეტი დააგროვა, მაშინ როცა Inkling-ის შედეგი 29.7 პროცენტი იყო, ხოლო SWE-Bench Verified-ზე მან 80 პროცენტიანი ზღვარი გადალახა. Artificial Analysis-მა მას 40 ქულა მიანიჭა Intelligence Index-ში, რაც მხოლოდ ერთი ქულით ჩამორჩება Inkling-ის 41 ქულას.artificialanalysis+1

კომპანიამ ამ შედეგებს ორეტაპიანი პოსტ-ტრენინგის პროცესით მიაღწია: პოლიტიკაზე დაფუძნებული დისტილაცია Inkling-ის, როგორც მასწავლებელი მოდელის გამოყენებით, რასაც მოჰყვა ორკვირიანი აგენტზე ორიენტირებული განმტკიცებული სწავლება.kucoin

შესვლის ბარიერის შემცირება

თუ ორიგინალი Inkling-ის BF16 ჩეკპოინტების გასაშვებად მინიმუმ ორი ტერაბაიტი აგრეგირებული VRAM იყო საჭირო, Inkling-Small ამ მოთხოვნებს მკვეთრად ამცირებს. მოდელი ხელმისაწვდომია როგორც BF16, ისე NVFP4 ფორმატებში Hugging Face-ზე და Thinking Machines-ის Tinker სერვისის მეშვეობით.gigazine+1

"Tinker-ის მომხმარებლებმა საკუთარი გამოცდილებით დაინახეს, რომ სწორად დარეგულირებულ მოდელს შეუძლია აჯობოს დახურულ მოდელებს სხვადასხვა ამოცანაში, თანაც უფრო სწრაფად და იაფად," აცხადებენ კომპანიაში. შემცირებული მასშტაბი LoRA-სა და სრული პარამეტრების დარეგულირებას ხელმისაწვდომს ხდის საშუალო ზომის გუნდებისთვის, რაც ადრე მხოლოდ მსხვილი კორპორაციებისთვის იყო შესაძლებელი.kucoin+1

არეულობა კულისებში

სიახლე Nvidia ↘ 1.47%-ს მიერ მხარდაჭერილ სტარტაპში მიმდინარე ხელმძღვანელობის ცვლილებების ფონზე გამოვიდა. ლილიან ვენგმა, ექვსი თანადამფუძნებლიდან ერთ-ერთმა, 26 ივლისს ჯანმრთელობის მდგომარეობის გამო წასვლის შესახებ განაცხადა, ხოლო მისი ბოლო სამუშაო დღე 29 ივლისი იყო. მას შემდეგ ის დაბრუნდა OpenAI-ში რეკურსიულ თვითგანვითარებაზე სამუშაოდ. დამფუძნებელთა გუნდიდან ახლა მხოლოდ მირა მურატი და ჯონ შულმანი დარჩნენ.kucoin+3

Thinking Machines-მა თავისი პირველი მოდელი, Inkling, 15 ივლისს გამოუშვა. ორ კვირაზე ნაკლებ დროში მან უკვე წარმოადგინა მემკვიდრე, რომელიც წინამორბედს სჯობნის. ეს ტემპი მიანიშნებს, როგორც კომპანიამ აღნიშნა, მოდელების გენერირების "საწარმოო ხაზზე" და არა ერთჯერად მცდელობაზე.kucoin+1