Stanford çalışmasına göre küçük masaüstü yapay zeka modelleri bulut sistemlerine rakip olabilir

Stanford tarafından yapılan bir çalışma, masaüstü bilgisayarlarda çalışan küçük dil modellerinin gerçek dünya sorgularının %88,7'sini doğru bir şekilde yanıtladığını ve büyük bulut tabanlı yapay zeka sistemlerine rakip olduğunu ortaya koydu.scalingintelligence.stanford+1
Yatırım stratejisti Joachim Klement, Çarşamba günü Reuters'ta yayınlanan bir köşe yazısında, bu bulguların Anthropic, OpenAI ve xAI'ın kârlılığını tehdit ettiğini savundu.klementoninvesting.substack+1
Araştırmacılar, çalışmanın "watt başına zeka" metriğinin 2023'ten 2025'e kadar 5,3 kat iyileştiğini ve optimal bir yönlendirme yaklaşımının enerji maliyetlerini %80'den fazla azaltabileceğini buldu.scalingintelligence.stanford+1

Stanford Üniversitesi tarafından yapılan bir çalışma, masaüstü bilgisayarlarda çalışan küçük dil modellerinin, çok daha az enerji tüketerek büyük bulut tabanlı yapay zeka sistemlerinin performansına çoğu görevde ulaşabileceğini ortaya koyarak yeni bir ilgi odağı haline geldi. "Watt başına zeka" adlı yeni bir metrik sunan araştırma, bu hafta yatırım stratejisti Joachim Klement'in Reuters'taki köşe yazısında vurgulandı. Klement, bulguların giderek daha büyük yapay zeka modelleri geliştiren şirketlerin uzun vadeli kârlılığı hakkında soru işaretleri yarattığını savundu.Inkl+1

Çalışmanın Bulguları

Jon Saad-Falcon, Avanika Narayan ve Stanford Üniversitesi ile Together AI'dan meslektaşları tarafından yazılan Stanford makalesi, sekiz donanım hızlandırıcı üzerinde 20 milyara kadar aktif parametreye sahip 20'den fazla yerel dil modelini ve bir milyon gerçek dünya tek turlu sohbet ve akıl yürütme sorgusunu test etti. Araştırmacılar, yerel modellerin sorguların %88,7'sini doğru bir şekilde yanıtlayabildiğini, yaratıcı görevlerde doğruluğun %90'ı aştığını ve satış, yönetim ve eğlence uygulamalarında güçlü kaldığını buldu.Let's Data Science+3

Klement'in bulgulara ilişkin analizine göre, en zor akıl yürütme görevlerinde küçük modeller, iki yıl önceki %8'lik orana kıyasla vakaların yaklaşık %50'sinde büyük dil modellerine ayak uyduruyor. Çalışma ayrıca, "watt başına zeka" oranının 2023 ile 2025 yılları arasında, model iyileştirmelerinden kaynaklanan 3,1 katlık kazanç ve donanım ilerlemelerinden kaynaklanan 1,7 katlık artışla 5,3 kat iyileştiğini ortaya koydu.scalingintelligence.stanford+2

Enerji ve Maliyet Etkileri

Verimlilik kazanımları doğrudan ekonomik sonuçlar doğuruyor. Stanford ekibi, bir "kâhin" yönlendirme yaklaşımının (sorguları mümkün olduğunda yerel modellere yönlendirmenin) enerji kullanımını %80,4 ve hesaplama maliyetlerini sadece bulut tabanlı çıkarıma kıyasla %73,8 oranında azaltabileceğini buldu. %80 doğrulukla çalışan kusurlu bir yönlendirici bile %60'ın üzerinde enerji tasarrufu sağlıyor.Linkedin

Çalışmanın bulguları, veri merkezi yapay zekasını destekleyen GPU'ları tedarik eden Nvidia'nın , merkezi hesaplama talebinin öngörüldüğü gibi artıp artmayacağı konusundaki sorularla karşı karşıya kaldığı bir dönemde geldi. Klement, küçük modeller mevcut hızlarında gelişmeye devam ederse, Anthropic, OpenAI ve xAI gibi şirketlerin "endişelenmek için nedenleri olabileceğini" yazdı çünkü "yapay zekanın geleceği yatırımcıların beklediğinden daha küçük, daha ucuz ve çok daha az kârlı olabilir."klementoninvesting.substack

Değişen Bir Manzara

Araştırma, daha geniş bir endüstri trendini yansıtıyor. IBM International Business Machines Corporation araştırmacıları, OpenAI'ın gpt-oss, Qwen3 ve IBM'in Granite 4.0 modellerini tüketici donanımları üzerinde test ettiler ve mevcut yerel modellerin, uzmanlaşmış donanımlardaki eski nesil modellere göre watt başına daha yüksek zeka elde ettiğini buldular. Nvidia'nın kendisi de 2026'da yayınladığı bir makalede, küçük dil modellerinin aracı yapay zeka sistemleri için "yeterince güçlü, doğası gereği daha uygun ve zorunlu olarak daha ekonomik" olduğunu savundu.IBM+1

Stanford makalesi ilk olarak Kasım 2025'te bir ön baskı olarak yayınlandı ve yerel sorgu kapsamı (yerel modellerin doğru bir şekilde işleyebildiği gerçek dünya sorgularının payı) 2023'te %23,2 iken 2025'te %71,3'e yükseldi.Let's Data Science+1

Kaynaklar (27)