Un método del MIT detecta modelos de IA entrenados con imágenes de abuso infantil

Investigadores del MIT, la Universidad de Boston y la organización de seguridad infantil Thorn han presentado una técnica que puede identificar si un modelo de IA de código abierto ha sido ajustado para producir material de abuso sexual infantil (CSAM), todo ello sin generar una sola imagen. El método, llamado sondeo gaussiano, logró una precisión del 100% en la identificación de variantes de modelos especializados en CSAM durante las pruebas, según los hallazgos publicados en un artículo en arXiv e informados por Tech Xplore el lunes.insideai+1

La técnica aborda una paradoja legal y práctica: bajo la ley de EE. UU., intentar generar CSAM —incluso con el propósito de probar si un modelo puede producirlo— es ilegal en sí mismo. Esto ha dejado a las plataformas de alojamiento con pocas herramientas para filtrar las modificaciones ligeras de modelos, conocidas como adaptadores LoRA, que los usuarios cargan y comparten públicamente.

Cómo funciona

El sondeo gaussiano evita por completo la necesidad de generar imágenes. En lugar de solicitar un modelo e inspeccionar sus resultados, el método introduce ruido gaussiano aleatorio —el punto de partida nativo para los modelos de difusión que generan imágenes— a través del modelo adaptado y registra cómo responden sus capas internas. Al analizar estos patrones de activación interna, un clasificador puede determinar si el adaptador ha sido entrenado con contenido dañino.arxiv+1

"Existe un enorme conjunto de preocupaciones sobre la seguridad infantil" vinculadas a los ecosistemas de modelos de pesos abiertos, señalaron los investigadores, señalando plataformas como CivitAI que informan de cientos de miles de nuevos adaptadores LoRA cargados cada mes. El enfoque está diseñado para ser lo suficientemente escalable para su implementación a nivel de plataforma, requiriendo solo pases directos estándar a través del modelo sin diseño de avisos ni revisión humana de los resultados.techxplore+1

Una crisis creciente

La investigación llega en medio de un aumento de CSAM generado por IA. El Centro Nacional para Niños Desaparecidos y Explotados recibió 67.000 informes de CSAM generado por IA en 2024, frente a los 4.700 del año anterior, según el documento. El informe de 2026 de la Internet Watch Foundation documentó 3.443 videos de abuso sexual infantil generados por IA identificados en 2025, frente a solo 13 el año anterior.casescan+1

Los investigadores probaron su método en tres arquitecturas de modelos —Stable Diffusion 1.5, SDXL 1.0 y FLUX.1-dev— utilizando LoRA especializados en CSAM a los que se accedió a través de entidades autorizadas de conformidad con las leyes aplicables. El sondeo gaussiano clasificó correctamente todos los modelos especializados en CSAM manteniendo bajas tasas de falsos positivos, y demostró ser robusto contra técnicas de manipulación adversaria como el reescalado de pesos que derrotaron a otros métodos de detección.arxiv+1

El artículo fue coescrito por Vinith Suriyakumar y Ashia Wilson del MIT, junto con investigadores de Thorn y la Universidad de Boston.arxiv+1