Nvidia, yapay zeka ajanları için ücretsiz ve açık kaynaklı yeni modelini sundu

Nvidia ↘ 1.47%, Salı günü tek bir GPU üzerinde çalışabilen ve kurumsal kullanım için tasarlanan ücretsiz, açık kaynaklı yapay zeka modeli Nemotron 3.5 Lightning'i ve yapay zeka iş yüklerinde maliyetleri düşürmek için tasarlanan NeMo Switchyard adlı yeni bir model yönlendirme aracını duyurdu.

Bu sürüm, CEO Jensen Huang'ın Temmuz ayı sonlarında X platformunda açık yapay zeka modellerini savunan ve ABD hükümetini inovasyonu denizaşırı ülkelere itebilecek kısıtlamalardan kaçınmaya çağıran açık bir mektup yayınlamasından bu yana Nvidia'nın ilk açık kaynaklı modeli olma özelliğini taşıyor.cnbc

Her An Aktif Ajanlar İçin Hafif Bir Model

Nemotron 3.5 Lightning, daha büyük çoklu ajan sistemleri içindeki yüksek hacimli ve özel görevler için tasarlanmış, 30 milyar parametreli bir uzmanlar karması (mixture-of-experts) modelidir. Nvidia, modelin kendi sınıfındaki diğer modellere kıyasla dört kata kadar daha hızlı çıktı hızı ve %30 daha hızlı ajan tabanlı görev tamamlama performansı sunduğunu belirtti.blogs.nvidia+1

Tamamen özelleştirilebilir olan model, kurumların kendi verileriyle sonradan eğitilebiliyor. Nvidia'nın üretken yapay zeka yazılımlarından sorumlu başkan yardımcısı Kari Briski, Wall Street Journal News Corp ↘ 3.58% gazetesine yaptığı açıklamada modelin "son derece kolay özelleştirilebildiğini" söyledi. Briski, CodeRabbit örneğini vererek, şirketin Nvidia'nın standart eğitim yöntemini kullandığını ve yaklaşık iki saat içinde 85 dolara bir yönlendirici ajan ürettiğini belirtti. CrowdStrike ↗ 4.97% ve Harvey gibi şirketler de modeli test edip özelleştirenler arasında yer alıyor.siliconangle+1

Nvidia için açık kaynaklı yapay zeka net bir ticari amaca hizmet ediyor. "Ücretsiz yapay zeka donanım için harika olmalı" diyen Huang, geçen ay Axios'a verdiği demeçte, "Ücretsiz yapay zeka çipler için harika olmalı" diye eklemişti.cnbc

NeMo Switchyard: Doğru Modele Yönlendirme

Nvidia, Lightning'in yanı sıra, her bir yapay zeka ajanı talebini kalite, gecikme süresi ve maliyete göre en uygun modele otomatik olarak yönlendiren açık kaynaklı bir model yönlendirme kütüphanesi olan NeMo Switchyard'ı da yayınladı. Şirket içi testler, Switchyard'ın öncü düzeydeki doğruluğu korurken, görev tamamlama maliyetini tek bir öncü model kullanmaya kıyasla yaklaşık üçte bire indirdiğini gösterdi.blogs.nvidia

İş ortakları ilk sonuçları paylaştı: Ramp, öncü model performansını yakalarken maliyetleri %58, çalışma süresini ise %33 oranında azalttı. LangChain ise çağrıların yalnızca %7'sini öncü bir modele yönlendirerek %74 daha düşük maliyet elde etti.developer.nvidia+1

Açık Kaynaklı Yapay Zeka Silahlanma Yarışı

Bu sürüm, Meta Platforms ↗ 1.02% CEO'su Mark Zuckerberg'in açık kaynaklı yapay zekayı savunan bir manifesto yayınlamasından ve Meta'nın yeni bir kodlama modeli sunmasından bir gün sonra geldi. Nvidia'nın bu hamlesi, Çin'in Kimi K3 modelinin tetiklediği ve Washington'da damıtma teknikleri yoluyla fikri mülkiyet hırsızlığı endişelerini artıran politika tartışmalarına Huang'ın da dahil olmasının ardından gerçekleşti.cnbc

Nemotron 3.5 Lightning; Hugging Face, ModelScope, OpenRouter ve Nvidia'nın kendi platformlarında kullanıma sunuldu. The Information'ın haberine göre Nvidia, yeni nesil Nemotron 4 modeli üzerinde de çalışmalara başladı.tradingview+1