„DeepSeek“ planuoja V4 versijos pristatymą liepos viduryje su nauja API kainodara

Pekino universiteto ir „DeepSeek“ tyrėjai birželio 27 d. išleido „DSpark“ – atvirojo kodo spekuliatyvaus dekodavimo sistemą, kuri pagreitina didelių kalbos modelių išvadų darymą 60–85 proc. vienam vartotojui realaus laiko gamybinėse sistemose. Tai yra pirmasis didelis Kinijos dirbtinio intelekto laboratorijos techninis pristatymas po 7 mlrd. JAV dolerių finansavimo etapo.marktechpost+2

Kaip veikia „DSpark“

Spekuliatyvus dekodavimas skirsto teksto generavimą į du vaidmenis: mažas, greitas juodraščio modelis pasiūlo žetonų paketą, o pilnas tikslinis modelis patikrina tą paketą vienu praėjimu, išsaugodamas visus sutampančius žetonus. „DSpark“ patobulina ankstesnius metodus dviem papildymais. Pirma, užuot mokius atskirą juodraščio modelį nuo nulio, jis įskiepija lengvą spekuliatyvią galvutę tiesiai į esamą modelio kontrolinį tašką – tai reiškia, kad pagrindinio modelio išvesties kokybė išlieka nepakitusi. Antra, pasitikėjimo vertinimo sistema suteikia kiekvienam sugeneruotam žetonui tikimybę išlaikyti patikrą, o techninę įrangą atpažįstantis planuoklis koreguoja tikrinamų žetonų skaičių pagal esamą GPU apkrovą. Kai srautas mažas, sistema tikrina ilgesnes spėjimų sekas; kai srautas didelis, ji atmeta mažo pasitikėjimo žetonus, kol jie nepradėjo vartoti skaičiavimo resursų.digg+3

Našumas ir suderinamumas

„DeepSeek“ internetinėje gamybinėje aplinkoje, apdorojančioje realų vartotojų srautą, „DSpark“ užtikrino 60–85 proc. greitesnį generavimą vienam vartotojui „V4-Flash“ modelyje ir 57–78 proc. „V4-Pro“ modelyje, palyginti su ankstesniu „DeepSeek“ MTP-1 pagrindu. Esant tam tikroms delsos sąlygoms, pralaidumo padidėjimas siekė iki 661 proc. „Flash“ ir 406 proc. „Pro“ versijose. „Offline“ testai parodė, kad priimtų žetonų ilgis padidėjo 26–31 proc., palyginti su „Eagle3“, ir 16–18 proc., palyginti su „DFlash“.youtube+2

Sistema yra nepriklausoma nuo modelio. „DeepSeek“ pademonstravo suderinamumą su „Alibaba“ ↘ 1.51% „Qwen3“ ir „Google“ „Alphabet Inc.“ ↘ 1.45% „Gemma“ kontroliniais taškais. Kartu su „DSpark“ komanda atvėrė „DeepSpec“ – visos sistemos kodo bazę, skirtą spekuliatyvaus dekodavimo juodraščių rengėjų mokymui ir vertinimui, viskas pagal MIT licenciją „GitHub“ platformoje.marktechpost+3

Platesnis kontekstas

Šis pristatymas vyksta „DeepSeek“ ruošiantis oficialiam V4 modelio išleidimui liepos viduryje su nauju API kainodaros mechanizmu, atsižvelgiančiu į piko ir ne piko valandas. „DSpark“ jau visiškai įdiegta „DeepSeek“ internetinėse paslaugose, sumažinant švaistomus GPU skaičiavimo resursus dėl neteisingų patikrų ir išlaikant išvesties kokybę, identišką baziniam modeliui. „DeepSeek“ įkūrėjas Liang Wenfeng buvo vienas iš pridedamo straipsnio, pavadinto „DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation“, bendraautorių.pandaily+1