Microsoft llevará los modelos de IA de DeepSeek y Nvidia a Windows

Microsoft ↗ 2.38% anunció el miércoles 7 de octubre que los modelos de IA de código abierto (open-weight) de DeepSeek y Nvidia ↘ 0.52% se ejecutarán localmente en PC con Windows. La compañía hizo el anuncio en su evento de Windows y Surface en San Francisco. El plan forma parte de lo que Microsoft denomina "inteligencia híbrida", donde parte del trabajo de IA se ejecuta en el dispositivo y otra parte en la nube. Fue el primer evento de la compañía centrado en portátiles en más de dos años.cnet+2

El jefe de Windows, Pavan Davuluri, afirmó que la IA local "definirá el próximo capítulo de la PC", según CNET. Una diapositiva mostrada en el escenario indicaba que DeepSeek V4 Flash, un modelo con 284.000 millones de parámetros, puede ejecutarse en 60 GB de memoria una vez comprimido, o cuantizado, a 1,6 bits por parámetro.bgr+3

Los modelos y las herramientas

Microsoft describió DeepSeek V4 Flash como un modelo que ofrece una "inteligencia cercana a la frontera en 60 GB de memoria", según las diapositivas de la transmisión oficial. Nvidia lo define como un modelo de mezcla de expertos (mixture-of-experts) con 13.000 millones de parámetros activos. Reuters informó que el modelo V4 puede ejecutarse en máquinas con al menos 60 GB de memoria y puede superar a GPT-5 de OpenAI en algunas tareas de programación y razonamiento.reuters+1

Nvidia también lanzará un nuevo modelo local de Nemotron con más de 70.000 millones de parámetros y "potentes capacidades de agente" el 15 de octubre. Las diapositivas de la presentación no indicaron el nombre exacto del modelo. SlashGear informó que tanto Nemotron como DeepSeek V4 Flash funcionarán con el entorno de ejecución Windows ML. Microsoft también señaló que llama.cpp, un popular motor de inferencia de código abierto, llegará a Windows ML, con API de alto nivel para crear aplicaciones de IA generativa. No se ha facilitado una fecha de lanzamiento.pasqualepillitteri+1

También hubo otros anuncios sobre IA:

• El propio modelo MAI Code 1.1 Flash de Microsoft estará disponible para ejecutarse localmente.cnet
• HydraFusion de GitHub, que selecciona un modelo para cada tarea, podrá enviar trabajo a los modelos locales de Windows.slashgear+1
• Los contenedores de ejecución de Microsoft (MXC, por sus siglas en inglés) establecerán límites de seguridad sobre lo que pueden hacer los agentes de IA.inshorts+1

Hardware diseñado para IA local

Los modelos están dirigidos a PC con el chip RTX Spark de Nvidia, que puede tener hasta 128 GB de memoria unificada. El nuevo Surface Laptop Ultra utiliza ese chip. Su precio de salida es de 2.599 dólares, los pedidos anticipados ya están abiertos y se enviará el viernes 16 de octubre, según CNET. Reuters informó que el evento marcó años de trabajo conjunto entre Microsoft y Nvidia para trasladar tareas como la escritura de código fuera de la nube y hacia ordenadores de sobremesa y portátiles.pasqualepillitteri+2

La compresión a 1,6 bits es lo que hace que funcione. A 4 bits, los pesos de DeepSeek V4 Flash ocuparían unos 142 GB, más de lo que tiene cualquier máquina RTX Spark. Una compresión tan fuerte también puede reducir la calidad de un modelo, y la "inteligencia cercana a la frontera" es una afirmación de la propia Microsoft. Ningún grupo externo lo ha probado todavía.pasqualepillitteri