Nvidia gefur út ókeypis og opið gervigreindarlíkan fyrir gervigreindarfulltrúa

Nvidia ↘ 1.47% gaf á þriðjudag út Nemotron 3.5 Lightning, ókeypis og opið gervigreindarlíkan fyrir fyrirtæki sem getur keyrt á einu skjákorti (GPU), ásamt nýju beiningartóli sem kallast NeMo Switchyard og er hannað til að draga úr kostnaði við gervigreindarvinnslu.

Þetta er fyrsta opna líkanið sem Nvidia gefur út síðan forstjórinn Jensen Huang birti opið bréf á X í lok júlí þar sem hann varði opin gervigreindarlíkön og hvatti bandarísk stjórnvöld til að forðast takmarkanir sem gætu hrakið nýsköpun úr landi.cnbc

Létt líkan fyrir gervigreindarfulltrúa í stöðugri keyrslu

Nemotron 3.5 Lightning er svokallað „mixture-of-experts“ líkan með 30 milljarða stika, hannað fyrir umfangsmikil og sérhæfð verkefni innan stærri kerfa með mörgum gervigreindarfulltrúum. Nvidia segir líkanið skila allt að fjórum sinnum meiri hraða við úrvinnslu og ljúka verkefnum gervigreindarfulltrúa 30% hraðar en önnur líkön í sama flokki.blogs.nvidia+1

Líkanið er að fullu sérhæfanlegt og hægt er að fínstilla það með eigin gögnum fyrirtækja. Kari Briski, varaforseti skapandi gervigreindarhugbúnaðar hjá Nvidia, sagði í samtali við Wall Street Journal News Corp ↘ 3.58% að líkanið væri „ótrúlega auðvelt í aðlögun.“ Hún nefndi CodeRabbit sem dæmi: fyrirtækið notaði staðlaða þjálfunaraðferð Nvidia og bjó til beiningarfulltrúa fyrir 85 dali á um það bil tveimur klukkustundum. Fyrirtæki á borð við CrowdStrike ↗ 4.97% og Harvey hafa einnig prófað og aðlagað líkanið.siliconangle+1

Fyrir Nvidia þjónar opin gervigreind skýrum viðskiptahagsmunum. „Ókeypis gervigreind ætti að vera frábær fyrir vélbúnað,“ sagði Huang í samtali við Axios í síðasta mánuði. „Ókeypis gervigreind ætti að vera frábær fyrir örgjörva.“cnbc

NeMo Switchyard: Beint á rétta líkanið

Samhliða Lightning gaf Nvidia út NeMo Switchyard, sem er opið safn fyrir beiningu líkana sem beinir hverri fyrirspurn gervigreindarfulltrúa sjálfkrafa til þess líkans sem hentar best miðað við gæði, svartíma og kostnað. Innri prófanir sýndu að Switchyard viðhélt nákvæmni á við fremstu líkön en lækkaði kostnað við að ljúka verkefnum niður í tæpan þriðjung miðað við að nota eingöngu eitt öflugt líkan.blogs.nvidia

Samstarfsaðilar greindu frá fyrstu niðurstöðum: Ramp náði sömu afköstum og fremstu líkön en lækkaði kostnað um 58% og keyrslutíma um 33%, á meðan LangChain náði 74% lægri kostnaði með því að beina aðeins 7% fyrirspurna til öflugasta líkansins.developer.nvidia+1

Vopnakapphlaup í opinni gervigreind

Útgáfan kemur degi eftir að forstjóri Meta Platforms ↗ 1.02%, Mark Zuckerberg, birti stefnuyfirlýsingu þar sem hann mælti með opinni gervigreind, um leið og Meta gaf út nýtt forritunarlíkan. Skref Nvidia fylgir einnig í kjölfar þess að Huang blandaði sér í stefnumótunarumræðu sem hófst vegna kínverska líkansins Kimi K3, sem vakti áhyggjur í Washington um stuld á hugverkum með svokölluðum eimingaraðferðum.cnbc

Nemotron 3.5 Lightning er fáanlegt á Hugging Face, ModelScope, OpenRouter og eigin vettvangi Nvidia. Nvidia er einnig þegar farið að þróa næstu kynslóð líkansins, Nemotron 4, samkvæmt frétt The Information.tradingview+1