Microsoft-ը Windows-ում կներդնի DeepSeek-ի և Nvidia-ի ԱԲ մոդելները

Microsoft ↘ 1.35% ընկերությունը չորեքշաբթի՝ հոկտեմբերի 7-ին, հայտարարել է, որ DeepSeek և Nvidia ↘ 2.94% ընկերությունների բաց կշիռներով (open-weight) ԱԲ մոդելները տեղային եղանակով կաշխատեն Windows համակարգիչների վրա։ Ընկերությունն այս մասին հայտնել է Սան Ֆրանցիսկոյում կայացած Windows-ի և Surface-ի շնորհանդեսի ժամանակ։ Այս ծրագիրը մասն է կազմում այն ամենի, ինչ Microsoft-ն անվանում է «հիբրիդային ինտելեկտ», որտեղ ԱԲ առաջադրանքների մի մասը կատարվում է սարքի վրա, իսկ մյուս մասը՝ ամպային տիրույթում։ Սա ընկերության՝ վերջին ավելի քան երկու տարվա ընթացքում նոթբուքերին նվիրված առաջին միջոցառումն էր։cnet+2

Windows-ի ղեկավար Պավան Դավուլուրին նշել է, որ տեղային ԱԲ-ն «կձևավորի անհատական համակարգիչների հաջորդ գլուխը», հայտնում է CNET-ը։ Բեմում ցուցադրված սլայդում նշվում էր, որ DeepSeek V4 Flash-ը՝ 284 միլիարդ պարամետրերով մոդելը, կարող է աշխատել 60 ԳԲ հիշողության մեջ, երբ այն սեղմվի (կամ քվանտացվի) մինչև 1.6 բիթ՝ մեկ պարամետրի համար։bgr+3

Մոդելները և գործիքները

Պաշտոնական ուղիղ եթերի սլայդների համաձայն՝ Microsoft-ը նկարագրել է DeepSeek V4 Flash-ը որպես «առաջատարին մոտ ինտելեկտ՝ 60 ԳԲ հիշողության մեջ»։ Nvidia-ն այն անվանում է «փորձագետների խառնուրդ» (mixture-of-experts) մոդել՝ 13 միլիարդ ակտիվ պարամետրերով։ Reuters-ը հայտնում է, որ V4 մոդելը կարող է աշխատել առնվազն 60 ԳԲ հիշողություն ունեցող սարքերի վրա և որոշ ծրագրավորման ու տրամաբանական առաջադրանքներում կարող է գերազանցել OpenAI-ի GPT-5-ին։reuters+1

Nvidia-ն հոկտեմբերի 15-ին կթողարկի նաև նոր տեղային Nemotron մոդելը՝ ավելի քան 70 միլիարդ պարամետրերով և «հզոր գործակալական (agentic) հնարավորություններով»։ Շնորհանդեսի սլայդներում մոդելի հստակ անունը չի նշվել։ SlashGear-ը հայտնում է, որ թե՛ Nemotron-ը, թե՛ DeepSeek V4 Flash-ը կաշխատեն Windows ML միջավայրում։ Microsoft-ը նաև հայտնել է, որ llama.cpp-ն՝ բաց կոդով հանրահայտ ինֆերենսի համակարգը (inference engine), հասանելի կդառնա Windows ML-ում՝ գեներատիվ ԱԲ հավելվածներ ստեղծելու համար նախատեսված բարձր մակարդակի API-ներով։ Թողարկման հստակ ամսաթիվ դեռևս չի նշվել։pasqualepillitteri+1

Եղել են նաև ԱԲ-ին վերաբերող այլ հայտարարություններ.

• Microsoft-ի սեփական MAI Code 1.1 Flash մոդելը հասանելի կլինի տեղային եղանակով աշխատեցնելու համար։cnet
• GitHub-ի HydraFusion-ը, որն ընտրում է համապատասխան մոդելը յուրաքանչյուր առաջադրանքի համար, կկարողանա աշխատանքն ուղարկել Windows-ի տեղային մոդելներին։slashgear+1
• Microsoft Execution Containers-ը (MXC) անվտանգության սահմանափակումներ կսահմանի ԱԲ գործակալների գործողությունների համար։inshorts+1

Տեղային ԱԲ-ի համար ստեղծված սարքավորումներ

Մոդելները նախատեսված են Nvidia-ի RTX Spark չիպով համակարգիչների համար, որոնք կարող են ունենալ մինչև 128 ԳԲ միասնական հիշողություն։ Նոր Surface Laptop Ultra-ն օգտագործում է հենց այդ չիպը։ Դրա գինը սկսվում է 2,599 դոլարից, նախապատվերներն արդեն բաց են, իսկ առաքումը կսկսվի ուրբաթ օրը՝ հոկտեմբերի 16-ին, հայտնում է CNET-ը։ Reuters-ը նշում է, որ այս միջոցառումը նշանավորեց Microsoft-ի և Nvidia-ի տարիների աշխատանքը՝ ուղղված այնպիսի առաջադրանքների տեղափոխմանը, ինչպիսին է կոդ գրելը, ամպային տիրույթից դեպի անհատական և դյուրակիր համակարգիչներ։pasqualepillitteri+2

Այս ամենը հնարավոր է դառնում 1.6 բիթանոց սեղմման շնորհիվ։ 4 բիթի դեպքում DeepSeek V4 Flash-ի կշիռները կզբաղեցնեին մոտ 142 ԳԲ, ինչն ավելին է, քան ունի ցանկացած RTX Spark սարք։ Ուժեղ սեղմումը կարող է նաև նվազեցնել մոդելի որակը, իսկ «առաջատարին մոտ» լինելը դեռևս միայն Microsoft-ի պնդումն է։ Ոչ մի անկախ խումբ այն դեռ չի փորձարկել։pasqualepillitteri