MIT-tutkijat: GPT-6 Astra muokkasi Qwen-mallin painoarvoja parantaakseen matematiikkaa

Neljä MIT CSAIL -tutkijaa kertoo, että OpenAI:n GPT-6 Astra nosti pienen avoimen lähdekoodin mallin matematiikkapisteitä noin kuusinkertaisesti muuttamalla sen painoarvoja suoraan ilman koulutusta. Marraskuun 2. päivänä julkaistussa blogikirjoituksessa Rikiya Takehi, Jayden Teoh, Alex Zhang ja Omar Khattab raportoivat, että Astra muokkasi 131 072 painoarvoa eli 0,016 prosenttia Alibaban Qwen3.5-0.8B-mallista. Tämä muokkaus nosti mallin MATH-500-pisteet 7,9 prosentista 48,1 prosenttiin. GSM8K-tulos nousi 13,8 prosentista 67,1 prosenttiin ja IFEval-ohjeiden noudattaminen 21,0 prosentista 62,3 prosenttiin.rikiyat.github.io

Tutkijat kutsuvat menetelmää "painoarvoavaruuden ohjelmoinniksi". Heidän väitteensä on, että kehittyneet kielimallit voivat lukea neuroverkon painoarvoja ja korjata niitä samalla tavalla kuin ohjelmoija korjaa koodia. Kirjoittajien mukaan Qwen-tulos saavutettiin korjaamalla virhetila, ei opettamalla mallille uutta matematiikkaa.

Silmukan korjaaminen, ei kyvyn lisääminen

Astra toimi Python-ympäristössä ja pystyi ajamaan mallia rajoitetun määrän kertoja harjoitustehtävissä. Kirjoituksen mukaan se jäljitti Qwenin toistuvat "ajattelusilmukat" yhteen suuntaan, jonka MLP-kerrokset 15 ja 19 kirjoittivat, ja vähensi sitten kyseisen suunnan 64 lähtösarakkeesta kussakin kerroksessa. Niiden MATH-500-vastausten osuus, jotka saavuttivat 32 768 tokenin rajan, laski 93 prosentista 33 prosenttiin. Qwenin oma mallikortti varoittaa, että malli on altis näille silmukoille.rikiyat.github.io

VentureBeatin mukaan vahvin ajo vaati 158 keskustelukierrosta, 80 Python-suoritusta ja 20,3 tuntia, sisältäen 4,7 tuntia, jotka kuluivat palvelukatkoksen vuoksi. Pienemmillä 10 tai 25 testiajon budjeteilla silmukat "eivät juuri kadonneet".venturebeat.com

Sama lähestymistapa ei toiminut Gemma 3 270M -mallilla, joka jumittuu silmukoihin harvoin. Sen MATH-500-pisteet muuttuivat alle pisteen verran. "Painoarvojen muokkaaminen voisi poistaa esteen, joka peitti kyvyn, mutta se ei voisi lisätä kykyä, jota mallilla ei ollut", kirjoittajat totesivat.rikiyat.github.io

Alustavat tarkistukset ja avoimet kysymykset

Työ on blogikirjoitus, ei vertaisarvioitu artikkeli, mutta tiimi julkaisi täydet koelokit. Yksi yhteisön tekemä uusintatesti Hugging Facessa sovelsi julkaistua muokkausta ja sai MATH-500-tulokseksi 50,2 % ajattelutilan ollessa päällä. Samassa tarkistuksessa havaittiin, että muokkaamaton perusmalli saa jo 45,8 % ajattelutilan ollessa pois päältä. Takehi totesi X-palvelussa, että erillinen lokien perusteella tehty uudelleenrakennus sai tulokseksi 51,0 %. Kumpikaan tarkistus ei ole toistanut GSM8K- tai IFEval-tulosten parannuksia.x.com+1

Muissa kokeissa Astra tunnisti peliverkkoja niiden raakapainoarvojen perusteella ja korjasi epäonnistuvan ajokäytännön muokkaamalla 3,5 prosenttia sen painoarvoista. Se kirjoitti myös tyhjästä Breakout-verkon, joka voitti perinteisesti koulutetun vertailukohdan, VentureBeat raportoi.venturebeat.com

Hypetys ja varovaisuus

Reaktiot ovat jakautuneet. PauseAI:n toimitusjohtaja Maxime Fournes kutsui sitä "erittäin harkitsemattomaksi tutkimussuunnaksi". Muut kommentoijat väittivät, että se osoitti vain mallin pystyvän poistamaan ilmeisen virheen. Kirjoittajat sanovat seuraavan askeleen olevan vertailukohta ja kehys, jolla "tällä hetkellä mustalta magialta vaikuttava asia muutetaan tiukaksi, toistettavaksi insinööritieteeksi", The Register raportoi.theregister.com