TPUs

„Google“ atvėrė „TPU Raiden“ kodą, metama pirštinė „Nvidia“ DI išvedimo sistemai

Bendrovė „Google Alphabet Inc.“ atvėrė „TPU Raiden“ atvirąjį kodą. Tai DI išvedimo optimizavimo biblioteka, tvarkanti „KV-cache“ duomenų judėjimą tarp lustų didelių kalbos modelių aptarnavimo metu. Kodas pasiekiamas „GitHub“ platformoje pagal „Apache-2.0“ licenciją. Tai vienas aiškiausių signalų, kad „Google“ pasirengusi atverti…

Viską peržiūrėjote

Peržiūrėjote visas svarbiausias pastarųjų 2 dienų naujienas.