Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]
All voices matter
Nvidia-ն թողարկել է անվճար, բաց կոդով ԱԲ մոդել գործակալների համար
- Nvidia ընկերությունը երեքշաբթի օրը թողարկել է Nemotron 3.5 Lightning-ը՝ անվճար, բաց կոդով 30 միլիարդ պարամետրով մոդել, որը նախատեսված է մեծածավալ գործակալական ԱԲ ծանրաբեռնվածության համար:
cnbc+1 - Ընկերությունը նաև գործարկել է NeMo Switchyard-ը՝ երթուղավորման գործիք, որն ուղղորդում է ԱԲ հարցումները դեպի առավել արդյունավետ մոդել՝ ներքին թեստավորումներում կրճատելով ծախսերը մինչև երկու երրորդով:
blogs.nvidia - Թողարկումը հաջորդում է հուլիսի վերջին գլխավոր տնօրեն Ջենսեն Հուանգի բաց նամակին, որտեղ նա պաշտպանում էր բաց կոդով ԱԲ-ն՝ Վաշինգտոնում չինական Kimi K3 մոդելի և դիստիլյացիայի վերաբերյալ մտահոգությունների շուրջ ընթացող բանավեճերի ֆոնին:
cnbc
Nvidia ընկերությունը երեքշաբթի օրը թողարկել է Nemotron 3.5 Lightning-ը՝ անվճար, բաց կոդով արհեստական բանականության (ԱԲ) մոդել՝ նախատեսված ձեռնարկությունների համար, որը կարող է աշխատել մեկ GPU-ի վրա, ինչպես նաև NeMo Switchyard կոչվող մոդելների երթուղավորման նոր գործիքը, որը նախատեսված է ԱԲ ծանրաբեռնվածության ծախսերը կրճատելու համար:
Այս թողարկումը Nvidia-ի առաջին բաց կոդով մոդելն է այն բանից հետո, երբ հուլիսի վերջին գլխավոր տնօրեն Ջենսեն Հուանգը X հարթակում բաց նամակ հրապարակեց՝ պաշտպանելով բաց ԱԲ մոդելները և կոչ անելով ԱՄՆ կառավարությանը խուսափել սահմանափակումներից, որոնք կարող են նորարարությունները մղել արտերկիր:cnbc
Թեթև մոդել մշտապես ակտիվ գործակալների համար
Nemotron 3.5 Lightning-ը 30 միլիարդ պարամետրով «փորձագետների խառնուրդ» (mixture-of-experts) մոդել է, որը նախատեսված է ավելի մեծ բազմագործակալ համակարգերում մեծածավալ, մասնագիտացված առաջադրանքների համար: Nvidia-ն հայտնել է, որ մոդելն ապահովում է մինչև չորս անգամ ավելի արագ արդյունք և 30%-ով ավելի արագ գործակալական առաջադրանքների կատարում՝ իր դասի այլ մոդելների համեմատ:blogs.nvidia+1
Մոդելն ամբողջությամբ հարմարեցվող է և կարող է լրացուցիչ վերապատրաստվել կազմակերպության սեփական տվյալների հիման վրա: Nvidia-ի գեներատիվ ԱԲ ծրագրային ապահովման գծով փոխնախագահ Կարի Բրիսկին Wall Street Journal News Corp -ին հայտնել է, որ մոդելը «զարմանալիորեն հեշտ է հարմարեցնել»: Որպես օրինակ նա նշել է CodeRabbit-ը. ընկերությունն օգտագործել է Nvidia-ի ստանդարտ վերապատրաստման մեթոդը և մոտ երկու ժամում 85 դոլարով ստեղծել երթուղավորող գործակալ: Այնպիսի ընկերություններ, ինչպիսիք են CrowdStrike -ը և Harvey-ն, նույնպես փորձարկել և հարմարեցրել են մոդելը:siliconangle+1
Nvidia-ի համար բաց կոդով ԱԲ-ն հստակ բիզնես հետաքրքրություն է ներկայացնում: «Անվճար ԱԲ-ն պետք է հիանալի լինի սարքավորումների համար», անցյալ ամիս Axios-ին ասել է Հուանգը: «Անվճար ԱԲ-ն պետք է հիանալի լինի չիպերի համար»:cnbc
NeMo Switchyard. երթուղավորում դեպի ճիշտ մոդել
Lightning-ի հետ մեկտեղ Nvidia-ն թողարկել է NeMo Switchyard-ը՝ բաց կոդով մոդելների երթուղավորման գրադարան, որն ավտոմատ կերպով ուղղորդում է ԱԲ յուրաքանչյուր գործակալի հարցումը դեպի առավել համապատասխան մոդել՝ հիմնվելով որակի, հապաղման և արժեքի վրա: Ներքին թեստավորումները ցույց են տվել, որ Switchyard-ը պահպանել է առաջատար մակարդակի ճշգրտությունը՝ միաժամանակ կրճատելով առաջադրանքների կատարման ծախսերը մինչև գրեթե մեկ երրորդի՝ համեմատած միայն մեկ առաջատար մոդելի օգտագործման հետ:blogs.nvidia
Գործընկերները հայտնել են առաջին արդյունքների մասին. Ramp-ը հասել է առաջատար մոդելի արդյունավետությանը՝ կրճատելով ծախսերը 58%-ով, իսկ աշխատանքի ժամանակը՝ 33%-ով, մինչդեռ LangChain-ը հասել է 74%-ով ավելի ցածր ծախսերի՝ զանգերի միայն 7%-ն ուղղորդելով դեպի առաջատար մոդել:developer.nvidia+1
Բաց կոդով ԱԲ սպառազինությունների մրցավազքը
Թողարկումը տեղի է ունենում այն բանից մեկ օր անց, երբ Meta Platforms ընկերության գլխավոր տնօրեն Մարկ Ցուկերբերգը հրապարակեց մանիֆեստ՝ հօգուտ բաց կոդով ԱԲ-ի, քանի որ Meta-ն թողարկել էր կոդավորման նոր մոդել: Nvidia-ի այս քայլը նաև հաջորդում է Հուանգի ներգրավմանը քաղաքական բանավեճում, որը բռնկվել էր չինական Kimi K3 մոդելի պատճառով, ինչը Վաշինգտոնում մտահոգություններ էր առաջացրել դիստիլյացիայի մեթոդների միջոցով մտավոր սեփականության գողության վերաբերյալ:cnbc
Nemotron 3.5 Lightning-ը հասանելի է Hugging Face, ModelScope, OpenRouter և Nvidia-ի սեփական հարթակներում: Ըստ The Information-ի՝ Nvidia-ն արդեն մշակում է նաև հաջորդ սերնդի Nemotron 4 մոդելը:tradingview+1
Աղբյուրներ (8)
- 1 Nvidia unveils first open-source AI model since CEO Jensen Huang entered the chat www.cnbc.com
- 2 NVIDIA Nemotron 3.5 Lightning and NeMo Switchyard Deliver Faster, Smarter, More Efficient Agentic AI blogs.nvidia.com
- 3 Nvidia releases Nemotron 3.5 Lightning and NeMo Switchyard to give enterprise AI capability options siliconangle.com
- 4 Route AI Agents Across Models with NVIDIA NeMo Switchyard developer.nvidia.com
- 5 Nvidia Is Developing A New Nemotron 4 Open-Source AI Model - The Information www.tradingview.com
- 6 Nvidia Releases New Open Model www.wsj.com
- 7 Why Nvidia Is Trying To Develop The World's Best Open-Source AI Models www.theinformation.com
- 8 Nvidia releases Nemotron 3.5 Lightning open-source AI model qz.com
