Nvidia vydává otevřené modely Nemotron 3.5 pro agenty

Společnost Nvidia ↘ 1.81% ve čtvrtek 15. října rozšířila svou rodinu modelů Nemotron o tři modely s otevřenými vahami. Vlajkovou lodí je Nemotron 3.5 Super VL, multimodální model se 120 miliardami parametrů určený pro specializované agenty běžící v režimu 24/7. Podle Nvidie je model doplněn o dva modely pro okrajová zařízení: Nemotron 3.5 Bolt 74B-A9B (24 GB) a Nemotron 3.5 Bolt E4B (4 GB). Tyto modely jsou určeny k provozování AI agentů na všem od datových center až po stolní počítače, uvedl server Yahoo Finance. Super VL a Bolt 74B-A9B jsou již k dispozici, zatímco Bolt E4B má vyjít 23. října.developer.nvidia.com+1 ## Super VL cílí na firemní agenty Super VL využívá architekturu mixture-of-experts, která aktivuje 12 miliard ze 120 miliard parametrů na token. Podle vývojářského blogu Nvidie model zpracovává text, obrázky, dokumenty i video v rámci jednoho celku. Nvidia tvrdí, že model při provozu na jediném GPU dosahuje až pětkrát vyšší propustnosti u úloh pro agenty než jiné otevřené modely podobné velikosti. Uvádí také, že Super VL dosáhl 80,8 % v benchmarku pro uvažování nad grafy CharXiv.developer.nvidia.com Model byl destilován z Nemotron 3 Ultra a firmy jej mohou dále trénovat na vlastních datech. Nvidia poukázala na několik prvních uživatelů. Scale AI očekává, že náklady na inferenci pro jednu zátěž klesnou 40násobně, a Ramp očekává až 10krát nižší latenci při čtení účtenek. Super VL je nabízen na platformách Hugging Face, OpenRouter, ModelScope a jako mikroslužba Nvidia NIM.blogs.nvidia.com+1 ## Modely Bolt přenášejí agenty na lokální hardware Bolt 74B-A9B má 74 miliard parametrů a na jeden token využívá 9 miliard z nich. Dvoubitová kvantizace umožňuje, aby se vešel do 24 GB paměti. Podle Nvidie jsou jeho váhy, tréninková data i receptury plně otevřené, stejně jako u ostatních modelů Nemotron. Běží přes llama.cpp, Ollama, LM Studio, Unsloth a vLLM. Nvidia jej vytvořila pro své notebooky RTX Spark, které jdou do prodeje v pátek 16. října. Bolt E4B je navržen pro fyzické a konverzační agenty, jako jsou hlasoví asistenti a interaktivní herní postavy, na hardwaru GeForce RTX, Jetson a DGX Spark.blogs.nvidia.com+1 ## Strategie otevřených modelů Nvidie Modely s otevřenými vahami se staly součástí růstové strategie Nvidie. Levnější modely mohou přivést k AI více organizací, což by mohlo dlouhodobě zvýšit poptávku po čipech, poznamenal Yahoo Finance. Čínští vývojáři, jako jsou Moonshot AI a Alibaba ↘ 0.22%, v současnosti vedou diskuzi o otevřených modelech se svými rodinami Kimi a Qwen. Generální ředitel Jensen Huang vyzval americké společnosti, aby budovaly a přijímaly více otevřených modelů, aby se průmysl neuzavřel do několika proprietárních systémů. Server ZDNET označil Super VL za další krok vpřed pro americkou otevřenou AI.zdnet.com+1