Nvidia julkaisi ilmaisen avoimen lähdekoodin tekoälymallin agenteille

Nvidia ↗ 0.75% julkaisi tiistaina Nemotron 3.5 Lightningin, ilmaisen ja avoimen lähdekoodin tekoälymallin yrityskäyttöön. Malli toimii yhdellä näytönohjaimella (GPU). Samalla julkaistiin uusi NeMo Switchyard -reititystyökalu, joka on suunniteltu vähentämään tekoälytehtävien kustannuksia.

Julkaisu on Nvidian ensimmäinen avoimen lähdekoodin malli sen jälkeen, kun toimitusjohtaja Jensen Huang julkaisi heinäkuun lopussa X-palvelussa avoimen kirjeen. Kirjeessä puolustettiin avoimia tekoälymalleja ja kehotettiin Yhdysvaltain hallitusta välttämään rajoituksia, jotka voisivat ajaa innovaatiot ulkomaille.cnbc

Kevyt malli jatkuvasti toimiville agenteille

Nemotron 3.5 Lightning on 30 miljardin parametrin asiantuntijasekoitusmalli (mixture-of-experts), joka on suunniteltu suuren volyymin erikoistehtäviin osana laajempia moniagenttijärjestelmiä. Nvidian mukaan malli tarjoaa jopa neljä kertaa nopeamman tulostusnopeuden ja 30 % nopeamman agenttitehtävien suorituksen verrattuna muihin luokkansa malleihin.blogs.nvidia+1

Malli on täysin räätälöitävissä, ja se voidaan jatkokouluttaa organisaation omalla datalla. Kari Briski, Nvidian generatiivisen tekoälyohjelmiston varatoimitusjohtaja, kertoi Wall Street Journal News Corp ↗ 0.58% -lehdelle, että malli on "erittäin helppo räätälöidä". Hän mainitsi esimerkkinä CodeRabbitin: yritys käytti Nvidian vakiokoulutusmenetelmää ja loi reititysagentin 85 dollarilla noin kahdessa tunnissa. Myös yritykset kuten CrowdStrike ↘ 1.45% ja Harvey ovat testanneet ja räätälöineet mallia.siliconangle+1

Nvidialle avoimen lähdekoodin tekoäly palvelee selkeää liiketoimintaetua. "Ilmaisen tekoälyn pitäisi olla loistava asia laitteistolle", Huang sanoi Axiosille viime kuussa. "Ilmaisen tekoälyn pitäisi olla loistava asia siruille."cnbc

NeMo Switchyard: Reititys oikeaan malliin

Lightningin ohella Nvidia julkaisi NeMo Switchyardin, avoimen lähdekoodin mallireitityskirjaston, joka ohjaa automaattisesti jokaisen tekoälyagentin pyynnön sopivimpaan malliin laadun, viiveen ja kustannusten perusteella. Sisäiset testit osoittivat, että Switchyard säilytti huipputason tarkkuuden ja laski tehtävien suorituskustannukset lähes kolmasosaan verrattuna pelkän yksittäisen huippumallin käyttöön.blogs.nvidia

Kumppanit raportoivat varhaisista tuloksista: Ramp saavutti huippumallin suorituskyvyn leikkaamalla kustannuksia 58 % ja ajoaikaa 33 %, kun taas LangChain saavutti 74 % alhaisemmat kustannukset ohjaamalla vain 7 % kutsuista huippumalliin.developer.nvidia+1

Avoimen lähdekoodin tekoälyn varustelukierre

Julkaisu tapahtuu päivä sen jälkeen, kun Mark Zuckerberg, Meta Platformsin ↗ 1.92% toimitusjohtaja, julkaisi manifestin avoimen lähdekoodin tekoälyn puolesta Metan julkaistessa uuden koodausmallin. Nvidian siirto seuraa myös Huangin osallistumista poliittiseen keskusteluun, jonka käynnisti Kiinan Kimi K3 -malli. Se herätti Washingtonissa huolta immateriaalioikeuksien varastamisesta tislaustekniikoiden avulla.cnbc

Nemotron 3.5 Lightning on saatavilla Hugging Face-, ModelScope- ja OpenRouter-alustoilla sekä Nvidian omilla alustoilla. Nvidia kehittää jo seuraavan sukupolven Nemotron 4 -mallia The Information -lehden mukaan.tradingview+1