Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

news.futunnmarktechpost+1digg+1Vísindamenn frá Peking-háskóla og DeepSeek gáfu út DSpark þann 27. júní, opinn hugbúnað fyrir spekulatífa afkóðun sem flýtir fyrir ályktun stórra tungumálalíkana um 60 til 85 prósent á hvern notanda í lifandi framleiðslukerfum, sem markar fyrstu stóru tæknilegu útgáfu kínversku gervigreindarstofunnar síðan hún fékk 7 milljarða dollara fjármögnun.marktechpost+2
Spekulatíf afkóðun skiptir textamyndun í tvö hlutverk: lítið og hratt drög-líkan leggur til hóp af táknum (tokens), og fulla marklíkanið sannreynir þann hóp í einni framvirkri keyrslu og heldur öllum táknum sem það er sammála. DSpark bætir fyrri aðferðir með tveimur viðbótum. Í fyrsta lagi, í stað þess að þjálfa sérstakt drög-líkan frá grunni, græðir það léttan spekulatífan haus beint á núverandi líkan, sem þýðir að gæði úttaks undirliggjandi líkans haldast óbreytt. Í öðru lagi gefur trauststigakerfi hverju tákni líkur á að lifa af sannprófun, á meðan vélbúnaðar-meðvitaður tímaáætlandi stillir hversu mörg tákn eru athuguð miðað við núverandi GPU-álag. Þegar umferð er lítil sannreynir kerfið lengri runur af ágiskunum; þegar umferð er mikil fargar það táknum með lágt trauststig áður en þau eyða tölvukrafti.digg+3
Í netframleiðsluumhverfi DeepSeek sem meðhöndlar raunverulega notendaumferð, skilaði DSpark 60 til 85 prósent hraðari kynslóð fyrir einn notanda á V4-Flash og 57 til 78 prósent á V4-Pro samanborið við fyrri MTP-1 grunnlínu DeepSeek. Við ákveðnar biðtímaskilyrði náði afkastageta allt að 661 prósent á Flash og 406 prósent á Pro. Ótengdar viðmiðanir sýndu að lengd samþykktra tákna jókst um 26 til 31 prósent yfir Eagle3 og 16 til 18 prósent yfir DFlash.youtube+2
Ramminn er líkan-óháður. DeepSeek sýndi fram á samhæfni við Qwen3 frá Alibaba og Gemma-eftirlitsstaði Alphabet Inc. frá Google. Samhliða DSpark gaf teymið út DeepSpec, fullan kóðagrunn til að þjálfa og meta spekulatífa afkóðun, allt undir MIT-leyfi á GitHub.marktechpost+3
Útgáfan kemur þegar DeepSeek undirbýr sig fyrir að hleypa V4-líkaninu opinberlega af stokkunum um miðjan júlí með nýju API-verðlagningarkerfi fyrir álagstíma og utan álagstíma. DSpark er þegar að fullu innleitt í netþjónustur DeepSeek, sem dregur úr sóun á GPU-tölvukrafti vegna ógildra sannprófana á sama tíma og gæði úttaks haldast eins og í grunnlíkaninu. Stofnandi DeepSeek, Liang Wenfeng, var meðhöfundur meðfylgjandi greinar, sem ber titilinn "DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation".pandaily+1