MIT:n menetelmä tunnistaa lapsiin kohdistuvaan hyväksikäyttöön koulutetut tekoälymallit

MIT:n, Bostonin yliopiston ja lasten turvallisuusjärjestö Thornin tutkijat ovat esitelleet tekniikan, jolla voidaan tunnistaa, onko avoimen lähdekoodin tekoälymalli hienosäädetty tuottamaan lapsiin kohdistuvaa seksuaalisen hyväksikäytön materiaalia (CSAM), ilman että yhtään kuvaa tarvitsee luoda. Gaussian probing -niminen menetelmä saavutti testeissä 100 % tarkkuuden CSAM-erikoistuneiden mallivarianttien tunnistamisessa, selviää arXiv-palvelussa julkaistusta tutkimuksesta, josta Tech Xplore raportoi maanantaina.insideai+1

Tekniikka ratkaisee oikeudellisen ja käytännön paradoksin: Yhdysvaltain lain mukaan CSAM-materiaalin luominen — jopa sen testaamiseksi, pystyykö malli tuottamaan sitä — on itsessään laitonta. Tämä on jättänyt alustat vaille työkaluja, joilla seuloa kevyitä mallimuokkauksia, niin sanottuja LoRA-sovittimia, joita käyttäjät lataavat ja jakavat julkisesti.

Miten se toimii

Gaussian probing ohittaa tarpeen luoda kuvia kokonaan. Sen sijaan, että mallia kehotettaisiin ja sen tuotoksia tarkastettaisiin, menetelmä syöttää satunnaista Gaussin kohinaa — kuvia luovien diffuusiomallien alkuperäistä lähtöpistettä — mukautetun mallin läpi ja tallentaa, miten sen sisäiset kerrokset reagoivat. Analysoimalla näitä sisäisiä aktivointimalleja luokittelija voi määrittää, onko sovitin koulutettu haitallisella sisällöllä.arxiv+1

"Lasten turvallisuuteen liittyviä huolenaiheita on valtavasti" avoimen painoarvon mallien ekosysteemeissä, tutkijat totesivat ja viittasivat CivitAI:n kaltaisiin alustoihin, joihin ladataan satoja tuhansia uusia LoRA-sovittimia joka kuukausi. Lähestymistapa on suunniteltu riittävän skaalautuvaksi alustatason käyttöönottoon, ja se vaatii vain tavallisia eteenpäin suuntautuvia läpivientejä mallin läpi ilman kehotteiden suunnittelua tai tuotosten ihmistarkastusta.techxplore+1

Kasvava kriisi

Tutkimus tulee tekoälyllä luodun CSAM-materiaalin kasvun keskellä. National Center for Missing and Exploited Children sai 67 000 raporttia tekoälyllä luodusta CSAM-materiaalista vuonna 2024, kun edellisenä vuonna niitä oli 4 700, tutkimuksessa todetaan. Internet Watch Foundationin vuoden 2026 raportti dokumentoi 3 443 tekoälyllä luotua lapsiin kohdistuvaa seksuaalisen hyväksikäytön videota vuonna 2025, kun edellisenä vuonna niitä oli vain 13.casescan+1

Tutkijat testasivat menetelmäänsä kolmella malliarkkitehtuurilla — Stable Diffusion 1.5, SDXL 1.0 ja FLUX.1-dev — käyttäen CSAM-erikoistuneita LoRA-sovittimia, joihin päästiin käsiksi valtuutettujen tahojen kautta sovellettavien lakien mukaisesti. Gaussian probing luokitteli oikein kaikki CSAM-erikoistuneet mallit säilyttäen samalla alhaiset väärien positiivisten tulosten määrät, ja se osoittautui kestäväksi vastustajien manipulaatiotekniikoita, kuten painoarvojen uudelleenskaalausta, vastaan, jotka olivat voittaneet aiemmat tunnistusmenetelmät.arxiv+1

Tutkimuksen ovat kirjoittaneet MIT:n Vinith Suriyakumar ja Ashia Wilson yhdessä Thornin ja Bostonin yliopiston tutkijoiden kanssa.arxiv+1