Thinking Machines lanza Inkling-Small, igualando a su modelo insignia con una cuarta parte del tamaño

Thinking Machines Lab lanzó el jueves Inkling-Small, un modelo multimodal de pesos abiertos que iguala o supera a su predecesor Inkling utilizando aproximadamente una cuarta parte de los parámetros, un movimiento que reduce drásticamente los requisitos de cómputo para ejecutar un sistema de IA de vanguardia.

Un modelo más pequeño con gran potencia

Inkling-Small utiliza una arquitectura de mezcla de expertos con 276 mil millones de parámetros totales y 12 mil millones activados por inferencia, en comparación con los 975 mil millones totales y 41 mil millones de parámetros activos de Inkling. El modelo acepta entradas de texto, imagen y audio, y admite una ventana de contexto de hasta un millón de tokens.siliconrepublic+1

Según Thinking Machines, el modelo iguala o supera a Inkling en tareas de razonamiento y codificación agente. En el examen Humanity's Last Exam, Inkling-Small obtuvo una puntuación superior al 31 por ciento frente al 29,7 por ciento de Inkling, y en SWE-Bench Verified superó el 80 por ciento. Artificial Analysis le otorgó una puntuación de 40 en su Índice de Inteligencia, solo un punto por debajo del 41 de Inkling.artificialanalysis+1

La empresa logró estos resultados mediante un proceso de post-entrenamiento de dos pasos: destilación en política utilizando Inkling como modelo profesor, seguido de dos semanas de aprendizaje por refuerzo centrado en agentes.kucoin

Reduciendo la barrera de entrada

Donde el Inkling original requería un mínimo de dos terabytes de VRAM agregada para ejecutar puntos de control BF16, Inkling-Small reduce drásticamente esos requisitos. El modelo está disponible en formatos BF16 y NVFP4 en Hugging Face y a través del servicio Tinker de Thinking Machines.gigazine+1

"Los clientes de Tinker han visto de primera mano que el modelo ajustado adecuado puede superar a los modelos cerrados en una variedad de tareas, y hacerlo de manera más rápida y económica", afirmó la empresa. La escala reducida hace que el ajuste fino de LoRA y de parámetros completos sea viable para equipos medianos, una capacidad anteriormente limitada a grandes corporaciones.kucoin+1

Turbulencias tras bambalinas

El lanzamiento se produce en medio de una continua agitación en el liderazgo de la startup respaldada por Nvidia ↘ 1.47%. Lilian Weng, una de los seis cofundadores originales, anunció su partida el 26 de julio citando razones de salud, siendo su último día el 29 de julio. Desde entonces, se ha reincorporado a OpenAI para liderar el trabajo en automejora recursiva. Solo quedan Mira Murati y John Schulman del equipo fundador.kucoin+3

Thinking Machines lanzó su primer modelo, Inkling, el 15 de julio. Menos de dos semanas después, lanzó un sucesor que lo supera, un ritmo que sugiere, como lo planteó la empresa, una "línea de producción" para generar modelos en lugar de un esfuerzo único.kucoin+1