AMD, yapay zeka modellerini çiplere gömen girişimi satın alıyor

Advanced Micro Devices, Inc. ↘ 1.47% Perşembe günü, yapay zeka modeli ağırlıklarını doğrudan silikon üzerine işleyerek geleneksel GPU'ların çok ötesinde çıkarım hızları sunan Toronto merkezli Taalas'ı satın almak için kesin anlaşmaya vardığını duyurdu. Finansal şartlar açıklanmadı.bloomberg+1

Piyasa kapanışında duyurulan anlaşma, AMD'yi geçen Aralık ayında kendi çıkarım yeteneklerini güçlendirmek için Groq ile 20 milyar dolarlık bir lisanslama anlaşması yapan Nvidia ↘ 1.47% ile daha doğrudan rekabet edecek bir konuma getiriyor.cnbc+1

Taalas Nasıl Çalışıyor

2023 yılında Tenstorrent'in eski CEO'su Ljubisa Bajic ve eski AMD mühendisleri tarafından kurulan Taalas, model ağırlıklarını bellekte saklamak yerine doğrudan silikona kazıyarak çıkarım konusunda radikal bir yaklaşım benimsiyor. Sonuç, temelde modele özel bir entegre devredir.eetimes+1

Şubat ayında Taalas, TSMC'nin ↘ 1.20% 6nm süreciyle üretilen ilk test çipi HC1'i tanıttı. Çip, Meta ↗ 1.02%'nın Llama 3.1 8B modelini saniyede 16.960 token hızında çalıştırdı; bu, Nvidia'nın GPU'larından 48 kat, duyuru tarihindeki Cerebras hızlandırıcılarından ise 8,5 kat daha hızlıydı.theregister+1

Bunun karşılığındaki bedel ise oldukça net: bir kez devreye alındığında, bir Taalas çipi yalnızca içine gömülü olan modeli çalıştırabiliyor. LoRA adaptörü dışındaki herhangi bir değişiklik çipin yeniden tasarlanmasını gerektiriyor, ancak şirket bunun sadece iki metal katmanının modifikasyonunu gerektirdiğini ve yaklaşık iki ay sürdüğünü belirtiyor.eetimes+1

AMD'nin Entegrasyon Planları

AMD, Taalas çiplerini Instinct GPU'ları ve Helios raf ölçekli sistemleriyle ayrıştırılmış bir mimaride eşleştirmeyi planlıyor. Bu yapıda GPU'lar hesaplama ağırlıklı istem işleme süreçlerini yönetirken, Taalas hızlandırıcıları token üretimini üstleniyor. Bu, özel kod çözme çiplerinin GPU'larla birlikte çalıştığı Nvidia'nın Groq yaklaşımını yansıtıyor.investing+2

AMD'nin yapay zekadan sorumlu kıdemli başkan yardımcısı Vamsi Boppana, "Taalas'ın teknolojisi ve dünya standartlarındaki mühendislik ekibi, farklılaştırılmış çıkarım performansı ve verimliliği sunarak yapay zeka portföyümüzü güçlendiriyor" dedi.investing

AMD CEO'su Lisa Su, Temmuz ayındaki bir ürün lansmanında "çipler söz konusu olduğunda tek bir çözümün herkese uymadığına inandığını" belirtirken, GPU'ların yapay zeka çipi pazarının çoğunluğunu oluşturmaya devam edeceğini kaydetti.cnbc

Stratejik Bağlam

Bu satın alma, ZT Systems'in 4,9 milyar dolara ve Silo AI'nın 665 milyon dolara alınmasının ardından AMD'nin yapay zeka platformunu oluşturma yolundaki satın alma serisinin bir devamı niteliğinde. Taalas, kuruluşundan bu yana 219 milyon dolarlık risk sermayesi yatırımı aldı.cnbc

OpenAI, Anthropic ve Meta gibi büyük Instinct GPU müşterileri, Taalas ve Instinct hızlandırıcılarını birleştiren dağıtımların ilk adayları olabilir. Anlaşmanın, düzenleyici onayına tabi olarak dördüncü çeyrekte tamamlanması bekleniyor.betakit+1