Nvidia vyvíjí open-source AI model s 1 bilionem parametrů, aby konkurovala špičkovým systémům

Společnost Nvidia ↘ 1.47% buduje novou rodinu open-source AI modelů s názvem Nemotron 4, přičemž největší verze by měla obsahovat nejméně 1 bilion parametrů, uvádí zpráva zveřejněná v úterý serverem The Information, která cituje několik zaměstnanců pracujících na projektu.

Výrobce čipů zatím nestanovil oficiální datum vydání a ještě nedokončil finální trénink, ačkoliv zaměstnanci věří, že model by mohl být připraven již koncem podzimu, uvedla agentura Reuters. Toto úsilí staví společnost Nvidia do pozice jedné z mála velkých amerických firem, které vydávají open-source modely v době, kdy rostoucí náklady na AI a konkurenční tlak ze strany levných čínských alternativ přetvářejí prostředí v oboru.reuters

Strategická sázka na otevřené modely

„Nvidia investuje do Nemotronu, protože věříme, že každá společnost a každá země potřebuje dostupné špičkové otevřené modely pro posílení bezpečnosti, urychlení inovací a poskytnutí základu, na který se mohou spolehnout z jedné generace na druhou,“ uvedla v e-mailovém prohlášení Kari Briski, viceprezidentka pro generativní AI.firstpost+1

Tento krok přichází v době, kdy levnější čínské modely zúžily výkonnostní propast oproti předním systémům od společností Anthropic a OpenAI, a série nedávno odhalených útoků zahrnujících autonomní AI agenty zvýšila zájem o otevřené modely, které postrádají omezení pro kybernetickou bezpečnost. Nvidia se minulý měsíc připojila ke koalici zaměřené na bezpečnost AI a spolu se společností Microsoft ↗ 0.52% a dalšími firmami podepsala otevřený dopis na obranu modelů s otevřenými vahami, aby zabránila odlivu inovací do zahraničí.reuters+2

Koalice Nemotron, oznámená na konferenci GTC v březnu, zahrnuje jako zakládající členy společnosti Mistral AI, Black Forest Labs a LangChain, které spolupracují na špičkových otevřených modelech postavených na infrastruktuře DGX Cloud od Nvidie.cryptobriefing

Nemotron 3.5 Lightning a NeMo Switchyard

Vedle vývoje Nemotron 4 vydala Nvidia v úterý dva nové produkty. Nemotron 3.5 Lightning je model typu mixture-of-experts s 30 miliardami parametrů a 3 miliardami aktivních parametrů, navržený pro neustálé agentní úkoly, včetně kontroly kódu, používání nástrojů, monitorování bezpečnostních upozornění a dotazů na fakturaci. Společnost tvrdí, že poskytuje až 4x rychlejší generování tokenů než modely podobné velikosti, což znamená zhruba o 30 % rychlejší dokončení agentních úkolů.seekingalpha+2

Nvidia také spustila NeMo Switchyard, open-source knihovnu pro směrování modelů, která automaticky přesměrovává úkoly AI na nejvhodnější dostupný model, což podnikům umožňuje provozovat nastavení s více modely bez nutnosti přestavovat aplikace.firstpost+1