TPUs

Google, Nvidia’ya Rakip TPU Raiden Kütüphanesini Açık Kaynak Yaptı

Google Alphabet Inc., büyük dil modellerinin sunumu sırasında çipler arasındaki KV önbellek veri hareketini yöneten bir çıkarım optimizasyon kütüphanesi olan TPU Raiden'ı açık kaynak haline getirdi. Kod deposu Apache-2.0 lisansı altında GitHub'da yayında; bu durum, Google'ın uzun süredir TPU ekosistemine…