Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

anthropicanthropicanthropicAnthropic julkaisi tiistaina analyysin, jossa varoitetaan, että kiinalaisen Zhipu AI -kehittäjän (tunnetaan myös nimellä Z.ai) uusin tekoälymalli GLM-5.3 voi itsenäisesti rakentaa päästä päähän -kyberhyökkäyksiä, jotka vastaavat Anthropicin omaa Claude Mythos Preview -mallia, mutta se on julkaistu avoimena mallina ilman tehokkaita suojauksia väärinkäyttöä vastaan.anthropic
Anthropicin Frontier Red Team -ryhmän raportin mukaan GLM-5.3 kehitti toimivia hyökkäyksiä 50 kertaa 410 yrityksestä ExploitBench-testissä, joka mittaa hyökkäysten kehitystä Alphabet Inc:n Chrome-selaimen V8-moottorin tunnettuja haavoittuvuuksia vastaan, kun Claude Mythos Preview onnistui 56 kertaa. Binaarisen hyökkäyksen testissä GLM-5.3 saavutti täyden hallinnan 4 prosentissa kokeista, verrattuna Mythos-mallin 6 prosenttiin. Aiemmat mallit, mukaan lukien Claude Opus 4.6 ja GLM-5.2, eivät onnistuneet kertaakaan.anthropic
Anthropicin suurin huoli ei ole vain suorituskyky, vaan suojauksien puute. Koska GLM-5.3:n painoarvot ovat julkisesti saatavilla, sen sisäänrakennetut kieltäytymiset voidaan poistaa "abliteration"-tekniikalla. Anthropicin tiimi, jolla ei ollut aiempaa kokemusta menetelmästä, laski mallin kieltäytymisastetta yli 90 prosentista noin 3 prosenttiin standarditesteissä noin 4 400 dollarin laskentakustannuksilla. Useat kehittäjät julkaisivat vastaavia avattuja versioita vain päiviä mallin elokuun julkaisun jälkeen.anthropic
Koko abliteration-prosessin lisäksi yksinkertaisemmat kikat toimivat. Petollinen kehote, joka väitti olevansa valtuutettu red-team-harjoitus, ohitti GLM-5.3:n suojaukset 64 prosentissa tapauksista; mallin ajatusketjun esitäyttö nosti vaatimustenmukaisuuden 92 prosenttiin. Mikään näistä tekniikoista ei toiminut Claude-malleja vastaan Anthropicin testeissä.anthropic
Eräässä tutkijoiden johtamassa istunnossa GLM-5.3 löysi useita aiemmin tuntemattomia haavoittuvuuksia suositun verkkoselaimen JavaScript-moottorista ja ketjutti ne toimivaksi hyökkäykseksi: verkkosivuksi, joka lukee mielivaltaisia tiedostoja vierailijan tietokoneelta. Pienempi GLM-5.3-Flash-malli rakensi luotettavan hyökkäysketjun tunnettuun Chromen haavoittuvuuteen kahdeksassa tunnissa laskenta-aikaa ja 20 minuutissa ihmistyötä, 20,40 dollarin API-kustannuksilla.anthropic
Syyskuun 17. päivänä NIST:n tekoälystandardien ja innovaatioiden keskus julkaisi oman arvionsa, jossa GLM-5.3-mallia kutsuttiin "tähän mennessä kyvykkäimmäksi avoimeksi kybermalliksi", mutta huomautettiin, että sen kyvykkyydet ovat noin neljä kuukautta jäljessä nykyisiä yhdysvaltalaisia huippumalleja. Z.ai julkaisi GLM-5.3-mallin API-rajapintansa kautta elokuussa ja julkaisi painoarvot Hugging Facessa kaksi viikkoa myöhemmin, sanoen viiveen mahdollistaneen lisäturvallisuusarvioinnit.trendingtopics+2
Kaikki eivät jaa Anthropicin huolta. IANS Researchin Jake Williams kertoi The New Stackille, että vaikka hyökkääjät käyttävät mallia, hän ei usko sen muuttavan merkittävästi uhkakuvia. Kriitikot ovat myös huomauttaneet mahdollisesta eturistiriidasta, sillä Anthropic kilpailee suoraan Z.ai:n kanssa ja oli ainoa suuri tekoälylaboratorio, joka ei allekirjoittanut alan kirjettä, jossa tuetaan Nvidian , Metan , Microsoftin , OpenAI:n ja Googlen tukemia avoimia malleja.trendingtopics
Anthropic kuvaili tilannetta hetkeksi, joka vaatii puolustajille laajempaa pääsyä: "Vapaasti saatavilla olevien kyvykkyyksien kriittinen kynnys on nyt ylitetty".anthropic