Gervigreind Anthropic finnur villur hraðar en Microsoft nær að laga þær

Claude Mythos gervigreindarlíkan Anthropic hefur verið að finna hugbúnaðarveikleika í vörum Microsoft ↗ 15.51% á hraða sem er meiri en fyrirtækið ræður við að laga, samkvæmt innri upptökum og skjölum Microsoft sem ProPublica hefur undir höndum.propublica

Á fundi í miðjum maí sem kallaður var Project Glasswing ræddu verkfræðingar Microsoft hvernig Mythos hefði fundið 90 alvarlegar villur og 141 mikilvæga villu í SharePoint einu saman í apríl, og enn fleiri fundust fyrri hluta maí. Verkfræðistjórinn Hans Andersen hvatti samstarfsmenn til að vinna niður verkefnalistann fyrir 31. maí, en eftir það yrði líkan Anthropic aðgengilegra. "Vinsamlegast, vinsamlegast, vinsamlegast ef ykkar deild er með apríl-villur, vinnið þær niður," sagði Andersen við hópinn.propublica

Brýningin var áþreifanleg. Þegar einn verkfræðingur spurði hvort andstæðingar myndu hafa aðgang að göllunum þeirra fyrir 2. júní, staðfestu samstarfsmenn: "Já."

Metfjöldi lagfæringa

Álagið hefur orðið sýnilegt almenningi. Þann 14. júlí gaf Microsoft út lagfæringar fyrir meira en 600 veikleika í mánaðarlegri uppfærslu sinni, sem er algjört met. Næstum allir voru metnir mikilvægir eða alvarlegir, og að minnsta kosti tveir voru þegar í notkun af tölvuþrjótum, þar á meðal galli í SharePoint Server.linkedin+2

"Jæja vinir. Hér erum við. Villuheimsendirinn er genginn í garð," skrifaði Dustin Childs hjá Zero Day Initiative í bloggfærslu þann dag.thezdi+1

Microsoft sagði við ProPublica að heildarmagnið "myndi ekki minnka í bráð" en sagði að fyrirtækið hefði "fjárfest mikið í bæði fólki og gervigreindardrifnum lausnum við forgangsröðun."propublica

Víðara samhengi

Áskorunin nær langt út fyrir Microsoft. Þann 28. júlí tilkynnti Hitachi að þátttaka þess í Project Glasswing hefði stytt ógnarmat fyrir kóðasöfn sem telja milljónir lína úr vikum í klukkustundir, og afhjúpað veikleika í mikilvægum hugbúnaði sem fyrri verkfæri höfðu misst af.ibtimes

Í lok júní sendi njósnabandalagið Five Eyes frá sér óvenjulega sameiginlega viðvörun um að gervigreindarlíkön væru "í grundvallaratriðum að breyta bæði sóknar- og varnargetu í netheimum" og að "tímaramminn sé ekki ár, heldur mánuðir".euronews+1

Vinh Nguyen, fyrrverandi yfirmaður gervigreindarmála hjá Þjóðaröryggisstofnun Bandaríkjanna (NSA) og núverandi tækniráðgjafi hjá Anthropic, varaði við því að hefðbundin nálgun Microsoft við forgangsröðun, þar sem mestu gallarnir eru teknir fyrst, gæti verið ófullnægjandi. Vegna þess að Mythos getur tengt saman smávægilega galla í hrikalegar árásarleiðir, sagði hann: "Núverandi stefna við forgangsröðun gæti vanmetið áhættuna".propublica

"Það er enginn annar kostur," bætti Nguyen við. "Sjúklingarnir koma inn hratt og örugglega."propublica