ProPublica: Anthropics KI finner feil raskere enn Microsoft klarer å rette dem

Anthropics Claude Mythos-KI-modell har avdekket programvaresårbarheter i Microsoft ↗ 15.51%-produkter i et tempo som overgår selskapets evne til å tette dem, ifølge interne Microsoft-opptak og dokumenter innhentet av ProPublica.propublica

I et møte i midten av mai, kalt Project Glasswing, diskuterte Microsoft-ingeniører hvordan Mythos hadde avdekket 90 kritiske feil og 141 viktige feil bare i SharePoint i løpet av april, med enda flere funn i første halvdel av mai. Ingeniørleder Hans Andersen oppfordret kolleger til å redusere etterslepet før en frist 31. mai, da Anthropics modell ville bli mer allment tilgjengelig. "Vær så snill, hvis din avdeling har noen april-feil, få dem rettet," sa Andersen til gruppen.propublica

Det var en følbar hastesak. Da en ingeniør spurte om motstandere ville ha tilgang til feilene deres innen 2. juni, bekreftet kolleger: "Jepp."

En rekordstor mengde sikkerhetsoppdateringer

Presset har blitt synlig for offentligheten. Den 14. juli lanserte Microsoft oppdateringer for mer enn 600 sårbarheter i sin månedlige Patch Tuesday-oppdatering, en historisk rekord. Nesten alle ble vurdert som viktige eller kritiske, og minst to ble allerede utnyttet aktivt, inkludert en sårbarhet i SharePoint Server.linkedin+2

"Vel folkens. Her er vi. Feil-apokalypsen har fullstendig rammet oss," skrev Dustin Childs fra Zero Day Initiative i et blogginnlegg samme dag.thezdi+1

Microsoft uttalte til ProPublica at det totale volumet "ikke vil flate ut med det første", men sa at selskapet har "investert tungt i både mennesker og KI-drevne løsninger for prioritering av feil."propublica

Det bredere landskapet

Utfordringen strekker seg langt utover Microsoft. Den 28. juli kunngjorde Hitachi at deres deltakelse i Project Glasswing hadde redusert trusselmodellering for kodebaser på millioner av linjer fra uker til timer, og avdekket sårbarheter i virksomhetskritisk programvare som eksisterende verktøy hadde oversett.ibtimes

I slutten av juni utstedte etterretningsalliansen Five Eyes en uvanlig felles advarsel om at avanserte KI-modeller "fundamentalt transformerer både offensive og defensive cyberkapasiteter" og at "tidslinjen er ikke år, det er måneder".euronews+1

Vinh Nguyen, tidligere KI-sjef ved National Security Agency og nå senior teknisk rådgiver for Anthropic, advarte om at Microsofts standard tilnærming til prioritering, der de mest alvorlige feilene tas først, kan være utilstrekkelig. Fordi Mythos kan kjede sammen mindre feil til ødeleggende angrepsveier, sa han at "dagens strategier for prioritering kan undervurdere risikoen".propublica

"Det finnes ikke noe alternativ," la Nguyen til. "Pasientene kommer inn raskt og i stort antall."propublica