Nvidia utvikler åpen AI-modell med 1 billion parametere for å utfordre de største

Nvidia ↘ 1.47% bygger en ny familie av åpne AI-modeller kalt Nemotron 4, hvor den største versjonen forventes å inneholde minst 1 billion parametere, ifølge en rapport publisert tirsdag av The Information, som siterer ansatte som jobber med prosjektet.

Selskapet har ikke satt en offisiell lanseringsdato og har ennå ikke fullført treningen, men ansatte tror modellen kan være klar allerede sent på høsten, melder Reuters. Satsingen posisjonerer Nvidia som et av få store amerikanske selskaper som lanserer åpne toppmodeller i en tid der økende AI-kostnader og konkurranse fra rimelige kinesiske alternativer endrer bransjelandskapet.reuters

En strategisk satsing på åpne modeller

"Nvidia investerer i Nemotron fordi vi mener at alle selskaper og land trenger tilgjengelige, åpne toppmodeller for å styrke sikkerheten, akselerere innovasjon og gi et fundament de kan stole på fra en generasjon til den neste," sier Kari Briski, visepresident for generativ AI, i en e-post.firstpost+1

Tiltaket kommer samtidig som billigere kinesiske modeller har minsket ytelsesgapet til ledende systemer fra Anthropic og OpenAI, og en rekke nylige hackerangrep involverende autonome AI-agenter har økt interessen for åpne modeller uten restriksjoner på cybersikkerhet. Nvidia ble forrige måned med i en koalisjon for AI-sikkerhet og signerte et åpent brev sammen med Microsoft ↗ 0.52% og andre selskaper for å forsvare åpne modeller og hindre at innovasjon flyttes utenlands.reuters+2

Nemotron-koalisjonen, som ble annonsert under GTC i mars, inkluderer Mistral AI, Black Forest Labs og LangChain som grunnleggende medlemmer som samarbeider om åpne toppmodeller bygget på Nvidias DGX Cloud-infrastruktur.cryptobriefing

Nemotron 3.5 Lightning og NeMo Switchyard

Ved siden av utviklingen av Nemotron 4, lanserte Nvidia tirsdag to nye produkter. Nemotron 3.5 Lightning er en "mixture-of-experts"-modell med 30 milliarder parametere, hvorav 3 milliarder er aktive, designet for kontinuerlige agentoppgaver som kodevurdering, bruk av verktøy, overvåking av sikkerhetsvarsler og fakturaspørsmål. Selskapet hevder den leverer opptil 4x raskere generering av tokens enn tilsvarende modeller, noe som gir omtrent 30 % raskere fullføring av agentoppgaver.seekingalpha+2

Nvidia lanserte også NeMo Switchyard, et bibliotek for ruting av AI-modeller med åpen kildekode som automatisk sender AI-oppgaver til den best egnede modellen, slik at bedrifter kan kjøre oppsett med flere modeller uten å måtte bygge om applikasjonene sine.firstpost+1