DeepSeek libera el código de su motor de IA para reducir costes operativos

El martes 20 de octubre, el desarrollador chino de IA DeepSeek lanzó DeepInfer, el software interno que utiliza para servir sus modelos a gran escala, como código abierto. La empresa presentó el lanzamiento como una forma de reducir el coste de ejecución de grandes sistemas de IA. Bloomberg informó que la medida podría hacer que la tecnología de DeepSeek sea más barata y fácil de implementar para las empresas. DeepInfer es un software que permite que los modelos de la compañía funcionen más rápido y utilicen los recursos informáticos de manera más eficiente.bloomberg.com

DeepSeek afirmó que DeepInfer impulsa a DeepSeek-V4.1-Flash "a gran escala con alto rendimiento y baja latencia". También señaló que comparte su pila de producción "para ayudar a la comunidad a reducir los costes de computación, disminuir el consumo de energía y hacer que la IA sea más asequible", según su anuncio en X. La compañía añadió que el código de inferencia para futuros modelos y optimizaciones posteriores se publicará en el mismo repositorio.alphasignal.ai+1

Qué incluye el lanzamiento

El repositorio de GitHub define a DeepInfer como "el marco de inferencia de alto rendimiento que impulsa los servicios de producción a gran escala de DeepSeek". La primera versión ofrece inferencia offline y es compatible con DeepSeek-V4.1-Flash. El código está bajo la licencia Apache 2.0. Incluye los kernels personalizados de DeepSeek, como FlashMLA, DeepGEMM y DeepEP, junto con la decodificación especulativa DSpark, la inferencia invariante por lotes y la salida estructurada. El marco está construido sobre el proyecto de código abierto vLLM.alphasignal.ai+1

DeepSeek también lanzó deepseek-recipe, un componente que convierte las solicitudes de API en prompts de modelo y analiza la salida. Coincide con la lógica de procesamiento de la API oficial de DeepSeek, por lo que las implementaciones autohospedadas se comportan como el propio servicio de la compañía.tech.ifeng.com

Hardware de Nvidia y Huawei

DeepInfer es compatible con las GPUs Nvidia SM100 y las NPUs Huawei Ascend 950. La semana pasada, DeepSeek dijo que planea preentrenar modelos en ese mismo chip de Huawei para finales de 2026. La cobertura de los medios chinos sobre el lanzamiento indicó que un solo clúster de DeepSeek procesa 155 billones de tokens al día. Esa cifra no ha sido verificada de forma independiente.aiweekly.co+2

El anuncio se produjo tres días después de que DeepSeek actualizara el modelo a V4.1-Flash-1017, con precios de API sin cambios. Hualong Securities señaló que las rápidas actualizaciones de DeepSeek respaldan la tesis de la caída de costes y el aumento de la demanda de computación de inferencia en China.stcn.com

Piezas faltantes

El lanzamiento no es un sistema de servicio completo. Según el archivo README, no incluye un sistema de caché KV, desagregación de prellenado y decodificación, ni equilibrio de carga entre réplicas. Las empresas que deseen ejecutar un servicio de producción deberán construir esa infraestructura por sí mismas. Esto hace que DeepInfer sea más útil para equipos que ya operan sistemas de inferencia distribuidos.fourweekmba.com+1

En su anuncio en chino, DeepSeek dijo que espera que el lanzamiento ayude a desarrolladores y empresas a construir implementaciones en la nube pública y privada de manera eficiente, "para que la inteligencia pueda llegar a una población más amplia a un precio más bajo".sina.cn