AMD kauft Startup, das KI-Modelle direkt in Chips integriert

AMD Advanced Micro Devices, Inc. ↗ 1.50% gab am Donnerstag bekannt, dass eine endgültige Vereinbarung zur Übernahme des in Toronto ansässigen Startups Taalas getroffen wurde. Das Unternehmen integriert KI-Modellgewichte direkt in Silizium, um Inferenzgeschwindigkeiten weit jenseits herkömmlicher GPUs zu erreichen. Finanzielle Bedingungen wurden nicht offengelegt.bloomberg+1

Die zum Börsenschluss angekündigte Transaktion positioniert AMD für einen direkteren Wettbewerb mit Nvidia ↘ 0.10%, das im vergangenen Dezember 20 Milliarden Dollar in einen Lizenzvertrag mit Groq investierte, um seine eigenen Inferenzkapazitäten zu stärken.cnbc+1

Funktionsweise von Taalas

Taalas wurde 2023 vom ehemaligen Tenstorrent-CEO Ljubisa Bajic und anderen ehemaligen AMD-Ingenieuren gegründet. Das Unternehmen verfolgt einen radikal anderen Ansatz bei der Inferenz, indem es Modellgewichte direkt in Silizium ätzt, anstatt sie im Speicher abzulegen. Das Ergebnis ist im Wesentlichen eine modellspezifische integrierte Schaltung.eetimes+1

Im Februar demonstrierte Taalas seinen ersten Testchip, den HC1, der im 6nm-Prozess von TSMC, Taiwan Semiconductor Manufacturing Company Limited ↗ 1.01%, gefertigt wurde. Der Chip führte Metas ↗ 0.19% Llama 3.1 8B-Modell mit 16.960 Token pro Sekunde aus – 48-mal schneller als Nvidias GPUs und 8,5-mal schneller als die Beschleuniger von Cerebras zum Zeitpunkt der Ankündigung.theregister+1

Der Kompromiss ist deutlich: Ein einmal eingesetzter Taalas-Chip kann nur das Modell ausführen, das in ihn eingebettet ist. Jede Änderung über einen LoRA-Adapter hinaus erfordert eine neue Chip-Produktion, wobei das Unternehmen angibt, dass nur zwei Metallschichten modifiziert werden müssen, ein Prozess, der etwa zwei Monate in Anspruch nehmen soll.eetimes+1

AMDs Integrationspläne

AMD plant, Taalas-Chips mit seinen Instinct-GPUs und Helios-Rack-Systemen in einer disaggregierten Architektur zu kombinieren, bei der GPUs die rechenintensive Verarbeitung übernehmen, während Taalas-Beschleuniger die Token-Generierung steuern. Dies spiegelt Nvidias Ansatz mit Groq wider, bei dem spezialisierte Dekodier-Chips neben GPUs arbeiten.investing+2

"Die Technologie und das erstklassige Ingenieurteam von Taalas stärken unser KI-Portfolio durch differenzierte Inferenzleistung und Effizienz", sagte Vamsi Boppana, AMDs Senior Vice President für KI.investing

AMD-CEO Lisa Su sagte bei einer Produkteinführung im Juli, sie sei "fest davon überzeugt, dass es bei Chips keine Einheitslösung gibt", merkte jedoch an, dass GPUs weiterhin den Großteil des KI-Chipmarktes ausmachen werden.cnbc

Strategischer Kontext

Die Übernahme setzt AMDs Einkaufstour zum Ausbau seiner KI-Plattform fort, nach dem 4,9-Milliarden-Dollar-Kauf von ZT Systems und der 665-Millionen-Dollar-Übernahme von Silo AI im Jahr 2024. Taalas hat seit seiner Gründung 219 Millionen Dollar an Risikokapital aufgenommen.cnbc

AMDs große Instinct-GPU-Kunden – darunter OpenAI, Anthropic und Meta – könnten frühe Kandidaten für Implementierungen sein, die Taalas- und Instinct-Beschleuniger kombinieren. Der Abschluss der Transaktion wird für das vierte Quartal erwartet, vorbehaltlich behördlicher Genehmigungen.betakit+1