Anthropicin tekoäly löytää haavoittuvuuksia nopeammin kuin Microsoft ehtii korjata niitä, kertoo ProPublica

Anthropicin Claude Mythos -tekoälymalli on paljastanut ohjelmistohaavoittuvuuksia Microsoftin ↗ 15.51% tuotteista tahdilla, joka ylittää yhtiön kyvyn korjata niitä, kertovat ProPublican hankkimat sisäiset Microsoftin tallenteet ja asiakirjat.propublica

Toukokuun puolivälissä pidetyssä Project Glasswing -kokouksessa Microsoftin insinöörit keskustelivat siitä, kuinka Mythos oli löytänyt huhtikuun aikana 90 kriittistä ja 141 tärkeää virhettä pelkästään SharePointista, ja lisää löytyi toukokuun alkupuoliskolla. Insinööripäällikkö Hans Andersen kehotti kollegoitaan hoitamaan takalokaa kuntoon ennen toukokuun 31. päivän takarajaa, jonka jälkeen Anthropicin malli tulisi laajempaan käyttöön. "Pyydän, pyydän, pyydän, jos organisaatiollanne on huhtikuun virheitä, hoitakaa ne pois", Andersen sanoi ryhmälle.propublica

Kiire oli käsin kosketeltava. Kun eräs insinööri kysyi, olisiko vastustajilla pääsy heidän virheisiinsä kesäkuun 2. päivään mennessä, kollegat vahvistivat: "Kyllä".

Ennätysmäinen päivityskuorma

Rasitus on tullut julkisesti näkyväksi. Microsoft julkaisi 14. heinäkuuta kuukausittaisessa Patch Tuesday -päivityksessään korjaukset yli 600 haavoittuvuuteen, mikä on kaikkien aikojen ennätys. Lähes kaikki oli luokiteltu tärkeiksi tai kriittisiksi, ja ainakin kahta niistä hyödynnettiin jo aktiivisesti, mukaan lukien SharePoint Serverin haavoittuvuutta.linkedin+2

"No niin ihmiset. Tässä sitä ollaan. Virheiden maailmanloppu on täysin laskeutunut yllemme", kirjoitti Zero Day Initiativen Dustin Childs blogikirjoituksessaan samana päivänä.thezdi+1

Microsoft kertoi ProPublicalle, ettei kokonaismäärä "tule tasaantumaan vähään aikaan", mutta totesi yhtiön "investoineen merkittävästi sekä ihmisiin että tekoälypohjaisiin priorisointiratkaisuihin".propublica

Laajempi toimintaympäristö

Haaste ulottuu kauas Microsoftin ulkopuolelle. Hitachi ilmoitti 28. heinäkuuta, että sen osallistuminen Project Glasswingiin oli lyhentänyt miljoonia rivejä sisältävien koodikantojen uhkamallinnuksen viikoista tunteihin, paljastaen haavoittuvuuksia kriittisissä omissa ohjelmistoissa, joita aiemmat työkalut eivät olleet löytäneet.ibtimes

Kesäkuun lopussa Five Eyes -tiedusteluliittouma antoi epätavallisen yhteisvaroituksen, jonka mukaan huipputason tekoälymallit "muuttavat perustavanlaatuisesti sekä hyökkääviä että puolustavia kybervalmiuksia" ja että "aikataulu ei ole vuosia, vaan kuukausia".euronews+1

Vinh Nguyen, entinen National Security Agencyn tekoälyjohtaja ja nykyinen Anthropicin tekninen neuvonantaja, varoitti, että Microsoftin perinteinen priorisointitapa – jossa vakavimmat virheet hoidetaan ensin – saattaa olla riittämätön. Koska Mythos voi ketjuttaa vähäisiäkin virheitä tuhoisiksi hyökkäyspoluiksi, hän totesi, että "nykyinen priorisointistrategia saattaa aliarvioida riskejä".propublica

"Vaihtoehtoa ei ole", Nguyen lisäsi. "Potilaita tulee sisään nopeasti ja raivokkaasti."propublica