„Anthropic“ dirbtinis intelektas randa klaidas greičiau, nei „Microsoft“ jas ištaiso

„Anthropic“ dirbtinio intelekto modelis „Claude Mythos“ aptiko programinės įrangos pažeidžiamumų „Microsoft“ ↗ 0.52% produktuose tokiu tempu, kuris viršija įmonės galimybes juos ištaisyti, rodo „ProPublica“ gauti vidiniai „Microsoft“ įrašai ir dokumentai.propublica

Gegužės viduryje vykusiame susitikime, pavadintame „Project Glasswing“, „Microsoft“ inžinieriai aptarė, kaip „Mythos“ vien „SharePoint“ sistemoje balandžio mėnesį aptiko 90 kritinių ir 141 svarbią klaidą, o pirmoje gegužės pusėje jų buvo rasta dar daugiau. Inžinerijos vadovas Hansas Andersenas ragino kolegas sumažinti klaidų skaičių iki gegužės 31 d. termino, po kurio „Anthropic“ modelis taps plačiau prieinamas. „Prašau, prašau, prašau, jei jūsų skyriuje yra balandžio mėnesio klaidų, ištaisykite jas“, – sakė Andersenas grupei.propublica

Skubos jausmas buvo akivaizdus. Kai vienas inžinierius paklausė, ar piktavaliai turės prieigą prie jų klaidų iki birželio 2 d., kolegos patvirtino: „Taip“.

Rekordinis pataisymų kiekis

Įtampa tapo viešai matoma. Liepos 14 d. „Microsoft“ išleido pataisymus daugiau nei 600 pažeidžiamumų savo mėnesiniame „Patch Tuesday“ atnaujinime – tai visų laikų rekordas. Beveik visi jie buvo įvertinti kaip svarbūs arba kritiniai, o bent du jau buvo išnaudojami realioje aplinkoje, įskaitant „SharePoint Server“ spragą.linkedin+2

„Na, draugai. Štai ir atėjome. Klaidų apokalipsė mus visiškai užklupo“, – tą dieną savo tinklaraštyje rašė Dustinas Childsas iš „Zero Day Initiative“.thezdi+1

„Microsoft“ pranešė „ProPublica“, kad bendras klaidų kiekis „kurį laiką nemažės“, tačiau teigė, kad įmonė „daug investavo tiek į žmones, tiek į dirbtinio intelekto valdomus klaidų vertinimo sprendimus“.propublica

Platesnis kontekstas

Iššūkis apima ne tik „Microsoft“. Liepos 28 d. „Hitachi“ paskelbė, kad dalyvavimas „Project Glasswing“ sutrumpino grėsmių modeliavimą milijonų eilučių kodų bazėms nuo savaičių iki valandų, atskleidžiant pažeidžiamumus svarbioje nuosavoje programinėje įrangoje, kurių ankstesni įrankiai nepastebėjo.ibtimes

Birželio pabaigoje „Five Eyes“ žvalgybos aljansas išplatino neįprastą bendrą įspėjimą, kad pažangūs dirbtinio intelekto modeliai „iš esmės keičia tiek puolamąsias, tiek gynybines kibernetines galimybes“ ir kad „terminas skaičiuojamas ne metais, o mėnesiais“.euronews+1

Vinh Nguyen, buvęs Nacionalinio saugumo agentūros (NSA) dirbtinio intelekto vadovas, dabar einantis „Anthropic“ vyresniojo techninio patarėjo pareigas, įspėjo, kad standartinis „Microsoft“ klaidų vertinimo metodas – pirmiausia spręsti pačias rimčiausias problemas – gali būti nepakankamas. Kadangi „Mythos“ gali sujungti mažo pavojingumo spragas į niokojančius atakos kelius, jis teigė: „dabartinė vertinimo strategija gali nuvertinti riziką“.propublica

„Nėra jokios alternatyvos“, – pridūrė Nguyen. „Pacientai plūsta greitai ir gausiai.“propublica