Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

blogs.nvidia.com:developer.nvidia.com:blogs.nvidia.com+1:Nvidia-ն հինգշաբթի՝ հոկտեմբերի 15-ին, իր Nemotron ընտանիքին ավելացրել է երեք բաց քաշային մոդել։ Ֆլագմանը Nemotron 3.5 Super VL-ն է՝ 120 միլիարդ պարամետր ունեցող մուլտիմոդալ մոդել, որը նախատեսված է «մասնագիտացված մշտապես ակտիվ գործակալների» համար։ Nvidia-ի հաղորդմամբ՝ այն ուղեկցվում է երկու եզրային մոդելներով՝ Nemotron 3.5 Bolt 74B-A9B 24GB և Nemotron 3.5 Bolt E4B 4GB։ Yahoo Finance-ի փոխանցմամբ՝ մոդելները նախատեսված են AI գործակալները գործարկելու համար՝ սկսած տվյալների կենտրոններից մինչև աշխատասեղանի համակարգիչներ։ Super VL-ը և Bolt 74B-A9B-ն արդեն հասանելի են, իսկ Bolt E4B-ն սպասվում է հոկտեմբերի 23-ին։developer.nvidia.com+1
Super VL-ն օգտագործում է փորձագետների խառնուրդի դիզայն, որն ակտիվացնում է 120 միլիարդ պարամետրից 12 միլիարդը յուրաքանչյուր տոկենի համար։ Nvidia-ի մշակողների բլոգի համաձայն՝ այն մեկ մոդելում մշակում է տեքստ, պատկերներ, փաստաթղթեր և տեսանյութեր։ Nvidia-ն հայտարարում է, որ մոդելը մեկ GPU-ի վրա գործարկվելիս ապահովում է մինչև հինգ անգամ ավելի բարձր թողունակություն գործակալային առաջադրանքներում, քան իր չափի այլ բաց մոդելները։ Այն նաև նշում է, որ Super VL-ը CharXiv գծապատկերների տրամաբանական բենչմարկում վաստակել է 80.8%։developer.nvidia.com
Մոդելը թորվել է Nemotron 3 Ultra-ից, և բիզնեսները կարող են այն հետագայում վերապատրաստել իրենց սեփական տվյալների վրա։ Nvidia-ն մատնանշել է մի քանի վաղ օգտատերերի։ Scale AI-ն ակնկալում է, որ մեկ վաճառողի վարկային ծանրաբեռնվածության համար եզրակացության ծախսերը կնվազեն 40 անգամ, իսկ Ramp-ը ակնկալում է մինչև 10 անգամ ավելի ցածր ուշացում անդորրագրեր կարդալու համար։ Super VL-ը հասանելի է Hugging Face-ում, OpenRouter-ում, ModelScope-ում և որպես Nvidia NIM միկրոծառայություն։blogs.nvidia.com+1
Bolt 74B-A9B-ն ունի 74 միլիարդ պարամետր և յուրաքանչյուր տոկենի համար օգտագործում է դրանցից 9 միլիարդը։ Երկբիթային քվանտացումը թույլ է տալիս այն տեղավորել 24GB հիշողության մեջ։ Nvidia-ի խոսքով՝ ինչպես մյուս Nemotron մոդելները, դրա կշիռները, ուսուցման տվյալները և բաղադրատոմսերը լիովին բաց են։ Այն աշխատում է llama.cpp, Ollama, LM Studio, Unsloth և vLLM-ի միջոցով։ Nvidia-ն այն ստեղծել է իր RTX Spark նոութբուքների համար, որոնք վաճառքի կհանվեն ուրբաթ՝ հոկտեմբերի 16-ին։ Bolt E4B-ն նախատեսված է ֆիզիկական և խոսակցական գործակալների համար, ինչպիսիք են ձայնային օգնականները և ինտերակտիվ խաղային կերպարները, GeForce RTX, Jetson և DGX Spark սարքավորումների վրա։blogs.nvidia.com+1
Բաց քաշային մոդելները դարձել են Nvidia-ի աճի ռազմավարության մաս։ Yahoo Finance-ը նշել է, որ ավելի էժան մոդելները կարող են ավելի շատ կազմակերպությունների ներգրավել AI-ի մեջ, ինչը, իր հերթին, կարող է բարձրացնել չիպերի երկարաժամկետ պահանջարկը։ Չինացի մշակողները, ինչպիսիք են Moonshot AI-ն և Alibaba-ն , ներկայումս առաջատար են բաց մոդելների շուրջ քննարկումներում իրենց Kimi և Qwen ընտանիքներով։ Գործադիր տնօրեն Ջենսեն Հուանգը հորդորել է ԱՄՆ ընկերություններին կառուցել և որդեգրել ավելի շատ բաց մոդելներ, որպեսզի արդյունաբերությունը չփակվի մի քանի փակ համակարգերում։ ZDNET-ը Super VL-ն անվանել է «ևս մեկ առաջընթաց քայլ ԱՄՆ-ի բաց քաշային AI-ի համար»։zdnet.com+1