Une méthode du MIT détecte les modèles d’IA entraînés sur des images d’abus sexuels sur mineurs

Des chercheurs du MIT, de l'Université de Boston et de l'organisation de protection de l'enfance Thorn ont présenté une technique capable d'identifier si un modèle d'IA open source a été ajusté pour produire du matériel pédopornographique (CSAM), sans générer une seule image. La méthode, appelée sondage gaussien, a atteint une précision de 100 % dans l'identification des variantes de modèles spécialisés dans le CSAM lors des tests, selon les résultats publiés dans un article sur arXiv et rapportés par Tech Xplore lundi.insideai+1

La technique résout un paradoxe juridique et pratique : selon la loi américaine, tenter de générer du CSAM — même dans le but de tester si un modèle peut le produire — est illégal en soi. Cela a laissé les plateformes d'hébergement avec peu d'outils pour filtrer les modifications légères des modèles, connues sous le nom d'adaptateurs LoRA, que les utilisateurs téléchargent et partagent publiquement.

Comment ça fonctionne

Le sondage gaussien contourne complètement le besoin de générer des images. Au lieu de solliciter un modèle et d'inspecter ses sorties, la méthode injecte du bruit gaussien aléatoire — le point de départ natif des modèles de diffusion générateurs d'images — à travers le modèle adapté et enregistre la manière dont ses couches internes réagissent. En analysant ces modèles d'activation internes, un classificateur peut déterminer si l'adaptateur a été entraîné sur du contenu nuisible.arxiv+1

« Il existe un énorme ensemble de préoccupations en matière de sécurité des enfants » liées aux écosystèmes de modèles à poids ouverts, ont noté les chercheurs, pointant du doigt des plateformes comme CivitAI qui signalent des centaines de milliers de nouveaux adaptateurs LoRA téléchargés chaque mois. L'approche est conçue pour être suffisamment évolutive pour un déploiement au niveau de la plateforme, ne nécessitant que des passes directes standard à travers le modèle sans conception de prompt ni examen humain des sorties.techxplore+1

Une crise grandissante

La recherche arrive dans un contexte de recrudescence du CSAM généré par IA. Le National Center for Missing and Exploited Children a reçu 67 000 signalements de CSAM généré par IA en 2024, contre 4 700 l'année précédente, selon le document. Le rapport 2026 de l'Internet Watch Foundation a documenté 3 443 vidéos pédopornographiques générées par IA identifiées en 2025, contre seulement 13 l'année précédente.casescan+1

Les chercheurs ont testé leur méthode sur trois architectures de modèles — Stable Diffusion 1.5, SDXL 1.0 et FLUX.1-dev — en utilisant des LoRA spécialisés dans le CSAM accessibles via des entités autorisées conformément aux lois applicables. Le sondage gaussien a correctement classé tous les modèles spécialisés dans le CSAM tout en maintenant de faibles taux de faux positifs, et s'est avéré robuste contre les techniques de manipulation adverses telles que le rééchelonnement des poids qui ont mis en échec d'autres méthodes de détection.arxiv+1

L'article a été coécrit par Vinith Suriyakumar et Ashia Wilson du MIT, aux côtés de chercheurs de Thorn et de l'Université de Boston.arxiv+1