Η AMD εξαγοράζει startup που ενσωματώνει μοντέλα τεχνητής νοημοσύνης σε chips

Η Advanced Micro Devices, Inc. ↗ 1.50% ανακοίνωσε την Πέμπτη ότι κατέληξε σε οριστική συμφωνία για την εξαγορά της Taalas, μιας startup με έδρα το Τορόντο, η οποία ενσωματώνει τα βάρη των μοντέλων τεχνητής νοημοσύνης απευθείας στο πυρίτιο για να προσφέρει ταχύτητες συμπερασμού πολύ πέρα από τις συμβατικές GPU. Οι οικονομικοί όροι δεν έγιναν γνωστοί.bloomberg+1

Η συμφωνία, που ανακοινώθηκε με το κλείσιμο της αγοράς, τοποθετεί την AMD σε θέση να ανταγωνιστεί πιο άμεσα τη Nvidia ↘ 0.10%, η οποία δαπάνησε 20 δισεκατομμύρια δολάρια σε μια συμφωνία αδειοδότησης με την Groq τον περασμένο Δεκέμβριο για να ενισχύσει τις δικές της δυνατότητες συμπερασμού.cnbc+1

Πώς λειτουργεί η Taalas

Ιδρυμένη το 2023 από τον πρώην διευθύνοντα σύμβουλο της Tenstorrent, Ljubisa Bajic, και άλλους πρώην μηχανικούς της AMD, η Taalas ακολουθεί μια ριζικά διαφορετική προσέγγιση στον συμπερασμό, χαράσσοντας τα βάρη των μοντέλων απευθείας στο πυρίτιο αντί να τα αποθηκεύει στη μνήμη. Το αποτέλεσμα είναι ουσιαστικά ένα ολοκληρωμένο κύκλωμα ειδικά για το εκάστοτε μοντέλο.eetimes+1

Τον Φεβρουάριο, η Taalas παρουσίασε το πρώτο της δοκιμαστικό chip, το HC1, κατασκευασμένο με τη διαδικασία 6nm της Taiwan Semiconductor Manufacturing Company Limited ↗ 1.01%. Το chip εξυπηρέτησε το μοντέλο Llama 3.1 8B της Meta ↗ 0.19% με 16.960 tokens ανά δευτερόλεπτο, δηλαδή 48 φορές ταχύτερα από τις GPU της Nvidia και 8,5 φορές ταχύτερα από τους επιταχυντές της Cerebras κατά τον χρόνο εκείνης της ανακοίνωσης.theregister+1

Το αντάλλαγμα είναι σημαντικό: μόλις αναπτυχθεί, ένα chip της Taalas μπορεί να εκτελέσει μόνο το μοντέλο που είναι ενσωματωμένο σε αυτό. Οποιαδήποτε αλλαγή πέρα από έναν προσαρμογέα LoRA απαιτεί επανασχεδιασμό του chip, αν και η εταιρεία αναφέρει ότι χρειάζεται τροποποίηση μόνο σε δύο μεταλλικά στρώματα, μια διαδικασία που στοχεύει να ολοκληρώνει σε περίπου δύο μήνες.eetimes+1

Τα σχέδια ενσωμάτωσης της AMD

Η AMD σχεδιάζει να συνδυάσει τα chips της Taalas με τις GPU Instinct και τα συστήματα rack-scale Helios σε μια αποσυνδεδεμένη αρχιτεκτονική, όπου οι GPU θα διαχειρίζονται την επεξεργασία εντολών που απαιτούν μεγάλη υπολογιστική ισχύ, ενώ οι επιταχυντές της Taalas θα αναλαμβάνουν τη δημιουργία tokens. Αυτό αντικατοπτρίζει την προσέγγιση της Nvidia με την Groq, όπου εξειδικευμένα chips αποκωδικοποίησης λειτουργούν παράλληλα με τις GPU.investing+2

"Η τεχνολογία της Taalas και η παγκόσμιας κλάσης ομάδα μηχανικών της ενισχύουν το χαρτοφυλάκιο τεχνητής νοημοσύνης μας, προσφέροντας διαφοροποιημένες επιδόσεις και αποδοτικότητα στον συμπερασμό", δήλωσε ο Vamsi Boppana, ανώτερος αντιπρόεδρος της AMD για την τεχνητή νοημοσύνη.investing

Η διευθύνουσα σύμβουλος της AMD, Lisa Su, δήλωσε σε παρουσίαση προϊόντος τον Ιούλιο ότι "πιστεύει ακράδαντα πως δεν υπάρχει μια λύση που να ταιριάζει σε όλους όσον αφορά τα chips", σημειώνοντας παράλληλα ότι οι GPU θα εξακολουθήσουν να αποτελούν το μεγαλύτερο μέρος της αγοράς chips τεχνητής νοημοσύνης.cnbc

Στρατηγικό πλαίσιο

Η εξαγορά συνεχίζει το σερί αγορών της AMD για την οικοδόμηση της πλατφόρμας τεχνητής νοημοσύνης της, μετά την αγορά της ZT Systems έναντι 4,9 δισεκατομμυρίων δολαρίων και την εξαγορά της Silo AI έναντι 665 εκατομμυρίων δολαρίων το 2024. Η Taalas έχει συγκεντρώσει 219 εκατομμύρια δολάρια σε χρηματοδότηση επιχειρηματικών κεφαλαίων από την ίδρυσή της.cnbc

Οι σημαντικοί πελάτες των GPU Instinct της AMD, συμπεριλαμβανομένων των OpenAI, Anthropic και Meta, θα μπορούσαν να είναι οι πρώτοι υποψήφιοι για αναπτύξεις που συνδυάζουν επιταχυντές Taalas και Instinct. Η συμφωνία αναμένεται να ολοκληρωθεί το τέταρτο τρίμηνο, υπό την επιφύλαξη έγκρισης από τις ρυθμιστικές αρχές.betakit+1