ProPublica: Anthropics AI hittar buggar snabbare än Microsoft hinner laga dem

Anthropics AI-modell Claude Mythos har hittat mjukvarusårbarheter i Microsoft ↗ 15.51%-produkter i en takt som överstiger företagets förmåga att täppa till dem, enligt interna Microsoft-inspelningar och dokument som ProPublica tagit del av.propublica

Under ett möte i mitten av maj, kallat Project Glasswing, diskuterade Microsoft-ingenjörer hur Mythos hade identifierat 90 kritiska buggar och 141 viktiga fel bara i SharePoint under april, med ännu fler upptäckta under första halvan av maj. Ingenjörschefen Hans Andersen uppmanade kollegor att beta av backloggen före en deadline den 31 maj, då Anthropics modell skulle bli mer allmänt tillgänglig. "Snälla, snälla, snälla, om er avdelning har några april-buggar, se till att få bort dem," sade Andersen till gruppen.propublica

Det var en påtaglig brådska. När en ingenjör frågade om motståndare skulle ha tillgång till deras buggar senast den 2 juni, bekräftade kollegor: "Japp."

En rekordstor mängd säkerhetsuppdateringar

Trycket har blivit synligt för allmänheten. Den 14 juli släppte Microsoft uppdateringar för mer än 600 sårbarheter i sin månatliga Patch Tuesday-uppdatering, ett historiskt rekord. Nästan alla klassades som viktiga eller kritiska, och minst två utnyttjades redan aktivt, inklusive en sårbarhet i SharePoint Server.linkedin+2

"Nåväl gott folk. Här är vi. Bugg-apokalypsen har fullständigt drabbat oss," skrev Dustin Childs från Zero Day Initiative i ett blogginlägg samma dag.thezdi+1

Microsoft uppgav för ProPublica att den totala volymen "inte kommer att plana ut på ett tag" men tillade att företaget har "investerat kraftigt i både personal och AI-drivna lösningar för prioritering av fel."propublica

Det bredare landskapet

Utmaningen sträcker sig långt utanför Microsoft. Den 28 juli meddelade Hitachi att deras deltagande i Project Glasswing hade minskat tiden för hotmodellering av kodbaser på miljontals rader från veckor till timmar, och avslöjat sårbarheter i verksamhetskritisk mjukvara som befintliga verktyg missat.ibtimes

I slutet av juni utfärdade underrättelsealliansen Five Eyes en ovanlig gemensam varning om att avancerade AI-modeller "fundamentalt transformerar både offensiva och defensiva cyberkapaciteter" och att "tidslinjen är inte år, det är månader".euronews+1

Vinh Nguyen, tidigare AI-chef vid National Security Agency och numera senior teknisk rådgivare till Anthropic, varnade för att Microsofts standardmetod för prioritering, där de mest allvarliga felen åtgärdas först, kan vara otillräcklig. Eftersom Mythos kan kedja ihop mindre fel till förödande attackvägar, sade han att "nuvarande strategier för prioritering kan undervärdera riskerna".propublica

"Det finns inget alternativ," tillade Nguyen. "Patienterna strömmar in i rasande takt."propublica