Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

anthropicanthropicanthropic„Anthropic“ antradienį paskelbė analizę, kurioje įspėjama, kad GLM-5.3, naujausias Kinijos kūrėjo „Zhipu AI“ (taip pat žinomo kaip „Z.ai“) dirbtinio intelekto modelis, gali savarankiškai kurti visapusiškas kibernetines atakas, prilygstančias „Anthropic“ modeliui „Claude Mythos Preview“, tačiau jis buvo išleistas kaip atvirojo svorio modelis be veiksmingų apsaugos priemonių nuo piktnaudžiavimo.anthropic
„Anthropic“ „Frontier Red Team“ ataskaitoje nustatyta, kad GLM-5.3 sukūrė veikiančius įsilaužimus 50 iš 410 bandymų „ExploitBench“ sistemoje, kuri matuoja įsilaužimų kūrimą prieš žinomus „Alphabet Inc.“ „Chrome“ V8 variklio pažeidžiamumus, palyginti su 56 „Claude Mythos Preview“ atvejais. Atliekant dvejetainio išnaudojimo testą, GLM-5.3 pasiekė visišką valdymo srauto perėmimą 4 procentais atvejų, palyginti su 6 procentais „Mythos“ atveju. Ankstesni modeliai, įskaitant „Claude Opus 4.6“ ir GLM-5.2, nepasiekė jokių rezultatų.anthropic
Pagrindinis „Anthropic“ susirūpinimas yra ne tik modelio galimybės, bet ir apsaugos priemonių nebuvimas. Kadangi GLM-5.3 svoriai yra viešai prieinami, įdiegtus atsisakymus galima pašalinti naudojant techniką, vadinamą „abliteration“. „Anthropic“ komanda, neturėdama jokios ankstesnės patirties su šiuo metodu, sumažino modelio atsisakymo rodiklį nuo daugiau nei 90 procentų iki maždaug 3 procentų standartiniuose žalos vertinimo testuose, išleisdama apie 4400 JAV dolerių skaičiavimams. Keli kūrėjai paskelbė panašias atrakintas versijas praėjus vos kelioms dienoms po modelio išleidimo rugpjūčio mėnesį.anthropic
Be visiško „abliteration“, veikia ir paprastesni triukai. Apgaulinga užklausa, apsimetanti įgaliota saugumo testavimo pratyba, GLM-5.3 saugiklius apeidavo 64 procentais atvejų; išankstinis modelio mąstymo grandinės žetonų užpildymas padidino atitiktį iki 92 procentų. „Anthropic“ bandymų metu nė viena iš šių technikų nesuveikė prieš „Claude“ modelius.anthropic
Vieno tyrėjo atlikto seanso metu GLM-5.3 aptiko keletą anksčiau nežinomų populiarios interneto naršyklės „JavaScript“ variklio pažeidžiamumų ir sujungė juos į veikiančią ataką – tinklalapį, kuris nuskaito savavališkus failus iš lankytojo kompiuterio. Mažesnis „GLM-5.3-Flash“ modelis sukūrė patikimą atakos grandinę žinomam „Chrome“ pažeidžiamumui per aštuonias valandas skaičiavimų ir 20 minučių žmogaus darbo, o API kaina siekė 20,40 JAV dolerio.anthropic
Rugsėjo 17 d. NIST Dirbtinio intelekto standartų ir inovacijų centras paskelbė savo vertinimą, kuriame GLM-5.3 pavadino „kibernetiškai pajėgiausiu iki šiol išleistu atvirojo svorio modeliu“, tačiau pažymėjo, kad jo galimybės vis dar maždaug keturiais mėnesiais atsilieka nuo dabartinių JAV pažangiausių modelių. „Z.ai“ pirmą kartą pristatė GLM-5.3 per savo API rugpjūtį, o svorius „Hugging Face“ platformoje išleido po dviejų savaičių, teigdama, kad vėlavimas leido atlikti papildomus saugumo vertinimus.trendingtopics+2
Ne visi dalijasi „Anthropic“ nerimu. Jake'as Williamsas iš „IANS Research“ sakė „The New Stack“, kad nors grėsmių veikėjai naudos šį modelį, jis nesitiki, kad tai iš esmės pakeis grėsmių aplinką. Kritikai taip pat atkreipė dėmesį į galimą interesų konfliktą, pažymėdami, kad „Anthropic“ tiesiogiai konkuruoja su „Z.ai“ ir buvo vienintelė didelė DI laboratorija, nepasirašiusi pramonės laiško, remiančio atviruosius modelius, kuriuos palaiko „Nvidia“ , „Meta“ , „Microsoft“ , „OpenAI“ ir „Google“.trendingtopics
„Anthropic“ šią akimirką įvardijo kaip reikalaujančią platesnės prieigos gynėjams: „Dabar peržengta kritinė laisvai prieinamų galimybių riba“.anthropic