Microsoft bringt KI-Modelle von DeepSeek und Nvidia auf Windows

Microsoft ↗ 2.38% hat am Mittwoch, dem 7. Oktober, angekündigt, dass Open-Weight-KI-Modelle von DeepSeek und Nvidia ↘ 0.52% lokal auf Windows-PCs laufen werden. Das Unternehmen gab dies auf seiner Windows- und Surface-Veranstaltung in San Francisco bekannt. Der Plan ist Teil dessen, was Microsoft als „hybride Intelligenz“ bezeichnet, bei der einige KI-Aufgaben auf dem Gerät und andere in der Cloud ausgeführt werden. Es war die erste auf Laptops ausgerichtete Veranstaltung des Unternehmens seit mehr als zwei Jahren.cnet+2

Windows-Chef Pavan Davuluri sagte laut CNET, dass lokale KI „das nächste Kapitel des PCs prägen“ werde. Eine auf der Bühne gezeigte Folie verdeutlichte, dass DeepSeek V4 Flash, ein Modell mit 284 Milliarden Parametern, mit 60 GB Speicher auskommen kann, sobald es auf 1,6 Bit pro Parameter komprimiert (quantisiert) wurde.bgr+3

Die Modelle und die Werkzeuge

Microsoft beschrieb DeepSeek V4 Flash laut Folien des offiziellen Livestreams als ein Modell, das „Spitzenklasse-Intelligenz in 60 GB Speicher“ bietet. Nvidia bezeichnet es als ein Mixture-of-Experts-Modell mit 13 Milliarden aktiven Parametern. Reuters berichtete, dass das V4-Modell auf Rechnern mit mindestens 60 GB Speicher laufen und OpenAIs GPT-5 bei einigen Programmier- und logischen Denkaufgaben schlagen kann.reuters+1

Nvidia wird am 15. Oktober zudem ein neues lokales Nemotron-Modell mit mehr als 70 Milliarden Parametern und „starken agentischen Fähigkeiten“ veröffentlichen. Die Folien der Keynote nannten nicht den genauen Namen des Modells. SlashGear berichtete, dass sowohl Nemotron als auch DeepSeek V4 Flash mit der Windows-ML-Laufzeitumgebung kompatibel sein werden. Microsoft gab außerdem bekannt, dass llama.cpp, eine beliebte Open-Source-Inferenz-Engine, für Windows ML mit High-Level-APIs zur Erstellung generativer KI-Apps bereitgestellt wird. Ein Veröffentlichungsdatum wurde noch nicht genannt.pasqualepillitteri+1

Es gab auch weitere KI-Ankündigungen:

• Microsofts eigenes Modell MAI Code 1.1 Flash wird für die lokale Ausführung verfügbar sein.cnet
• HydraFusion von GitHub, das für jede Aufgabe das passende Modell auswählt, wird Arbeit an lokale Windows-Modelle delegieren können.slashgear+1
• Microsoft Execution Containers (MXC) werden Sicherheitsgrenzen für die Aktionen von KI-Agenten festlegen.inshorts+1

Hardware für lokale KI

Die Modelle sind für PCs mit dem RTX-Spark-Chip von Nvidia gedacht, der über bis zu 128 GB gemeinsamen Speicher verfügen kann. Das neue Surface Laptop Ultra nutzt diesen Chip. Es ist ab 2.599 US-Dollar erhältlich, Vorbestellungen sind möglich und die Auslieferung beginnt am Freitag, dem 16. Oktober, so CNET. Reuters berichtete, dass die Veranstaltung das Ergebnis jahrelanger Zusammenarbeit zwischen Microsoft und Nvidia markiert, um Aufgaben wie das Schreiben von Code aus der Cloud auf Desktops und Laptops zu verlagern.pasqualepillitteri+2

Die 1,6-Bit-Komprimierung macht dies erst möglich. Bei 4 Bit würden die Gewichte von DeepSeek V4 Flash etwa 142 GB beanspruchen – mehr als jeder RTX-Spark-Rechner bietet. Eine starke Komprimierung kann jedoch auch die Qualität eines Modells beeinträchtigen, und die Behauptung einer Qualität nahe der technologischen Grenze stammt von Microsoft selbst. Unabhängige Tests dazu stehen noch aus.pasqualepillitteri