Investigadores revelan cómo extraer el razonamiento oculto de los principales modelos de IA

Un equipo de investigadores ha desarrollado una técnica para extraer rastros de razonamiento ocultos de los principales modelos de IA, revelando evidencia de que al menos un sistema de IA chino podría haber sido entrenado destilando conocimientos de sus contrapartes estadounidenses, aunque los investigadores subrayan que sus hallazgos no constituyen una prueba definitiva.

Extrayendo los "pensamientos internos"

Informáticos de la Universidad de Tubinga, el Instituto Max Planck, la organización de seguridad de IA MATS Research y la firma de ciberseguridad Snyk descubrieron una vulnerabilidad en modelos de OpenAI, Anthropic y Google Alphabet Inc. ↘ 3.58% que permite extraer pasos de razonamiento ocultos: los procesos detallados de cadena de pensamiento que estos sistemas utilizan para resolver problemas complejos.wired

"Todos los proveedores de modelos de frontera que examinamos presentan esta vulnerabilidad", afirmó Alexander Panfilov, informático de la Universidad de Tubinga que participó en la investigación. "Esto podría resultar en la filtración de datos personales y facilita ataques de destilación de razonamiento a gran escala".wired

En su artículo, los investigadores muestran que el modelo de pesos abiertos Kimi K3 de Moonshot AI produce resultados "notablemente similares" a los rastros de razonamiento ocultos de Claude Opus 4.8 y GPT 5.6 Sol ante ciertas instrucciones. Sin embargo, advierten que su trabajo "no puede establecer causalmente la destilación". Los investigadores también descubrieron que otros dos modelos de pesos abiertos, DeepSeek de China e Inkling de la firma estadounidense Thinking Machines, no mostraron la misma similitud de razonamiento con Claude Opus.wired

Fallo de seguridad y respuesta de la industria

Más allá de la cuestión de la destilación, la técnica reveló una vulnerabilidad de seguridad que podría ser explotada para recuperar información sensible, como contraseñas y claves API, del razonamiento interno de un modelo. Panfilov y sus coautores alertaron a OpenAI, Anthropic y Google sobre el problema, y cada empresa ajustó su API para mitigar el riesgo. Aunque ya no es posible extraer información privada, Panfilov señaló que algunos rastros de razonamiento aún pueden ser descubiertos usando este método, y que solucionar completamente el riesgo de destilación requeriría "una revisión fundamental de la forma en que funcionan las API de estas empresas".linkedin

Contexto más amplio

Los hallazgos llegan en medio de tensiones continuas sobre la destilación de IA entre empresas estadounidenses y chinas. En febrero de 2026, Anthropic y OpenAI publicaron evidencia de campañas sistemáticas de destilación por parte de empresas de IA chinas. Más recientemente, cuando Moonshot AI lanzó Kimi K3 en julio, el asesor científico de la Casa Blanca, Michael Kratsios, acusó a la empresa de copiar la tecnología de Anthropic. Expertos independientes, sin embargo, han cuestionado si el cronograma entre el lanzamiento público de Claude y el de Kimi K3 fue lo suficientemente corto como para respaldar esa afirmación.iaps+2

La nueva investigación del equipo de Panfilov añade una dimensión técnica al debate, ofreciendo un método que podría, en principio, detectar la destilación a gran escala, al tiempo que subraya cómo las mismas herramientas de transparencia que mejoran la seguridad de la IA también pueden exponer a los modelos a la extracción competitiva.