Thinking Machines, amiral gemisiyle aynı performansı dörtte bir boyutta sunan Inkling-Small’u tanıttı

Thinking Machines Lab, Perşembe günü, önceki Inkling modeline eşit veya ondan daha iyi performans gösteren ancak parametrelerinin yaklaşık dörtte birini kullanan çok modlu açık ağırlıklı modeli Inkling-Small'u yayınladı. Bu hamle, sınır teknolojisi bir yapay zeka sistemini çalıştırmak için gereken hesaplama gereksinimlerini önemli ölçüde düşürüyor.

Daha Küçük Ama Daha Güçlü Bir Model

Inkling-Small, toplam 276 milyar parametreye sahip ve çıkarım başına 12 milyar parametreyi aktif hale getiren bir Uzmanlar Karışımı (Mixture-of-Experts) mimarisi kullanıyor. Karşılaştırma yapmak gerekirse, Inkling toplam 975 milyar parametreye ve 41 milyar aktif parametreye sahipti. Model, metin, görüntü ve ses girdilerini kabul ediyor ve bir milyon jetona kadar bağlam penceresini destekliyor.siliconrepublic+1

Thinking Machines'e göre model, akıl yürütme ve kodlama görevlerinde Inkling ile eşleşiyor veya onu geçiyor. Humanity's Last Exam testinde Inkling-Small, Inkling'in yüzde 29.7'lik skoruna kıyasla yüzde 31'in üzerinde puan aldı ve SWE-Bench Verified testinde yüzde 80 barajını aştı. Artificial Analysis, Intelligence Index'inde modele 40 puan verdi; bu, Inkling'in 41 puanının sadece bir puan altında.artificialanalysis+1

Şirket bu sonuçlara iki aşamalı bir eğitim sonrası süreciyle ulaştı: Inkling'i öğretmen model olarak kullanan politika tabanlı damıtma ve ardından iki haftalık ajan odaklı pekiştirmeli öğrenme.kucoin

Giriş Engelini Düşürmek

Orijinal Inkling'in BF16 kontrol noktalarını çalıştırmak için en az iki terabaytlık toplam VRAM gerekirken, Inkling-Small bu gereksinimleri ciddi oranda aşağı çekiyor. Model, hem BF16 hem de NVFP4 formatlarında Hugging Face üzerinde ve Thinking Machines'in Tinker hizmeti aracılığıyla kullanılabiliyor.gigazine+1

Şirket, "Tinker müşterileri, doğru şekilde ince ayar yapılmış bir modelin çeşitli görevlerde kapalı modellerden daha iyi performans gösterebileceğini ve bunu daha hızlı ve daha ucuza yapabileceğini bizzat gördü" açıklamasında bulundu. Azaltılmış ölçek, LoRA ve tam parametreli ince ayarı orta ölçekli ekipler için uygulanabilir kılıyor; bu, daha önce sadece büyük şirketlerle sınırlı bir yetenekti.kucoin+1

Perde Arkasındaki Çalkantı

Bu sürüm, Nvidia ↘ 1.47% destekli girişimde devam eden liderlik karmaşasının ortasında geldi. Altı kurucu ortaktan biri olan Lilian Weng, sağlık nedenlerini gerekçe göstererek 26 Temmuz'da ayrıldığını duyurdu ve son çalışma günü 29 Temmuz oldu. Weng, o tarihten bu yana özyinelemeli öz gelişim çalışmalarına liderlik etmek üzere OpenAI'a geri döndü. Kurucu ekipten geriye sadece Mira Murati ve John Schulman kaldı.kucoin+3

Thinking Machines, ilk modeli Inkling'i 15 Temmuz'da piyasaya sürmüştü. İki haftadan kısa bir süre sonra, ondan daha iyi performans gösteren bir halefini piyasaya sürdü; bu hız, şirketin ifade ettiği gibi, tek seferlik bir çabadan ziyade model üretimi için bir "üretim hattı" oluşturulduğunu gösteriyor.kucoin+1