ԱԲ ինֆերենցիա

Google-ը բաց կոդով թողարկել է TPU Raiden գրադարանը Nvidia-ի հետ մրցակցելու համար

Google Alphabet Inc. ընկերությունը բաց կոդով թողարկել է TPU Raiden-ը: Սա արտածման օպտիմալացման գրադարան է, որը կառավարում է չիպերի միջև KV-քեշի տվյալների տեղաշարժը խոշոր լեզվական մոդելների սպասարկման ընթացքում: Ռեպոզիտորիան հասանելի է GitHub-ում Apache-2.0 լիցենզիայով, ինչը ամենահստակ ազդանշաններից մեկն է առ…