Google-ը թողարկել է DiffusionGemma-ն՝ բաց AI մոդել, որը տեքստը գեներացնում է զուգահեռաբար

Google DeepMind-ը թողարկել է DiffusionGemma-ն՝ Apache 2.0 լիցենզիայով բաց կոդով մոդել, որն օգտագործում է դիֆուզիոն հիմքով ապակոդավորում՝ տեքստային բլոկները միաժամանակ գեներացնելու համար:letsdatascience+1
26B Mixture of Experts մոդելը ինֆերենսի ժամանակ ակտիվացնում է ընդամենը 3.8B պարամետր, ինչը քվանտացման դեպքում տեղավորվում է սպառողական GPU-ների 18GB VRAM-ում:google+1
Google-ը նշում է, որ մոդելը բենչմարկային որակով զիջում է Gemma 4-ին և ուղղված է այն հետազոտողներին, ովքեր ուսումնասիրում են արագության նկատմամբ զգայուն առաջադրանքներ, ինչպիսիք են կոդի լրացումը և տողային խմբագրումը:letsdatascience+1

Google DeepMind Alphabet Inc.-ը երեքշաբթի օրը թողարկեց DiffusionGemma-ն՝ փորձարարական բաց կոդով լեզվական մոդել, որը հրաժարվում է սովորական AI համակարգերի «մեկ թոքեն՝ մեկ քայլով» մոտեցումից և փոխարենը գեներացնում է տեքստի ամբողջական բլոկներ միաժամանակ՝ ապահովելով, ընկերության պնդմամբ, մինչև չորս անգամ ավելի արագ ինֆերենս մասնագիտացված GPU-ների վրա:

Նոր ճարտարապետություն արագության համար

Ի տարբերություն ստանդարտ ավտոռեգրեսիվ մոդելների, որոնք տեքստը արտադրում են հաջորդաբար, DiffusionGemma-ն օգտագործում է դիֆուզիոն հիմքով ապակոդավորիչ, որը յուրաքանչյուր առաջընթաց քայլի (forward pass) ժամանակ զուգահեռաբար նախագծում է 256 թոքեն՝ ինֆերենսի սահմանափակումը հիշողության թողունակությունից տեղափոխելով դեպի հաշվողական հզորություն: Մոդելը 26 միլիարդ պարամետր ունեցող Mixture of Experts դիզայն է, որը ինֆերենսի ժամանակ ակտիվացնում է ընդամենը 3.8 միլիարդ պարամետր, ինչը թույլ է տալիս այն քվանտացման դեպքում տեղավորել բարձրակարգ սպառողական GPU-ների 18GB VRAM-ում:letsdatascience+2

Google-ը հայտնում է մեկ Nvidia H100 արագացուցիչի վրա վայրկյանում 1000-ից ավելի թոքենի և Nvidia GeForce RTX 5090-ի վրա վայրկյանում 700-ից ավելի թոքենի թողունակության մասին: Ընկերությունը այս թվերը գնահատել է որպես մոտավորապես չորս անգամ ավելի արագ, քան համեմատելի չափի ավտոռեգրեսիվ Gemma մոդելների արտադրողականությունը մեկ օգտատիրոջ ծանրաբեռնվածության դեպքում:blog+1

Nvidia-ի օպտիմալացում և հասանելիություն

Google-ը հայտարարեց, որ անմիջականորեն համագործակցել է Nvidia-ի հետ՝ DiffusionGemma-ն չիպ արտադրողի ողջ ապարատային գծի համար օպտիմալացնելու նպատակով՝ սկսած սպառողական GeForce RTX 4090 և 5090 GPU-ներից մինչև ձեռնարկատիրական Hopper և Blackwell համակարգեր, ներառյալ DGX Spark-ը և DGX Station-ը տեղային տեղակայման համար: Nvidia-ի NVFP4 չորսբիթանոց լողացող կետի ձևաչափի բնիկ աջակցությունը արագացնում է հաշվարկները այն բանով, ինչը Google-ը նկարագրել է որպես «գրեթե առանց կորուստների ճշգրտություն»:blog

Մոդելի կշիռները հասանելի են Apache 2.0 լիցենզիայով Hugging Face-ում, և մշակողները կարող են նաև մուտք գործել DiffusionGemma՝ Nvidia NIM-ի միջոցով: Սպասարկումը աջակցվում է vLLM, MLX և Hugging Face Transformers-ի միջոցով:google+1

Փոխզիջումներ և նպատակային դեպքեր

Google-ը հստակ նշեց, որ DiffusionGemma-ն արտադրողականության որակով զիջում է իր ստանդարտ Gemma 4 մոդելներին, ինչը այս թողարկումը դարձնում է փորձարարական և ուղղված այն հետազոտողներին, ովքեր ուսումնասիրում են արագության նկատմամբ զգայուն աշխատանքային գործընթացներ, ինչպիսիք են տողային խմբագրումը, կոդի լրացումը և ոչ գծային տեքստային կառուցվածքների գեներացումը: Զուգահեռ ապակոդավորման առավելությունը նվազում է նաև բարձր մրցակցային ամպային սպասարկման դեպքում, որտեղ ավտոռեգրեսիվ մոդելները արդեն կարող են հագեցնել ապարատային ապահովումը հարցումների խմբավորման (batching) միջոցով:letsdatascience+2

Այս թողարկումը հիմնված է տեքստի համար դիֆուզիայի վերաբերյալ Google-ի ավելի լայն հետազոտության վրա, որը հրապարակայնորեն սկսվել է 2025 թվականի մայիսին Gemini Diffusion-ի դեմոյով և ընդլայնում է Gemma 4-ի բաց մոդելների ընտանիքը, որը թողարկվել է այս ամսվա սկզբին:Signal Daily News+1

Աղբյուրներ (14)