AI od Anthropic nachází chyby rychleji, než je Microsoft stíhá opravovat

Model umělé inteligence Claude Mythos od společnosti Anthropic odhaluje softwarové zranitelnosti v produktech Microsoft ↗ 15.51% tempem, které převyšuje schopnost společnosti je opravovat, vyplývá z interních nahrávek a dokumentů Microsoftu, které získala ProPublica.propublica

Na schůzce v polovině května, nazvané Project Glasswing, inženýři Microsoftu diskutovali o tom, jak Mythos jen v rámci SharePointu odhalil v dubnu 90 kritických a 141 důležitých chyb, přičemž v první polovině května jich bylo nalezeno ještě více. Inženýrský manažer Hans Andersen naléhal na kolegy, aby backlog snížili před termínem 31. května, po kterém se model Anthropicu stane šířeji dostupným. „Prosím, prosím, prosím, pokud má vaše oddělení nějaké dubnové chyby, vyřešte je,“ řekl Andersen skupině.propublica

Naléhavost byla hmatatelná. Když se jeden inženýr zeptal, zda budou mít útočníci k jejich chybám přístup do 2. června, kolegové potvrdili: „Jo.“

Rekordní nálož záplat

Zátěž se stala veřejně viditelnou. Dne 14. července vydal Microsoft opravy pro více než 600 zranitelností v rámci své měsíční aktualizace Patch Tuesday, což je historický rekord. Téměř všechny byly hodnoceny jako důležité nebo kritické a nejméně dvě již byly zneužívány v praxi, včetně chyby v SharePoint Serveru.linkedin+2

„Tak přátelé. Jsme tady. Apokalypsa chyb na nás plně dolehla,“ napsal toho dne na blogu Dustin Childs ze Zero Day Initiative.thezdi+1

Microsoft pro ProPublica uvedl, že celkový objem „se zatím nezastaví“, ale dodal, že společnost „masivně investovala jak do lidí, tak do řešení pro prioritizaci chyb řízených umělou inteligencí“.propublica

Širší souvislosti

Výzva přesahuje rámec Microsoftu. Dne 28. července společnost Hitachi oznámila, že její účast v projektu Glasswing zkrátila modelování hrozeb pro kódové základny o milionech řádků z týdnů na hodiny, čímž odhalila zranitelnosti v kritickém proprietárním softwaru, které stávající nástroje přehlédly.ibtimes

Koncem června vydala zpravodajská aliance Five Eyes neobvyklé společné varování, že modely frontier AI „zásadně transformují útočné i obranné kybernetické schopnosti“ a že „časový rámec se nepočítá na roky, ale na měsíce“.euronews+1

Vinh Nguyen, bývalý šéf AI v Národní bezpečnostní agentuře (NSA) a nyní hlavní technický poradce Anthropicu, varoval, že standardní přístup Microsoftu k prioritizaci – řešení nejzávažnějších chyb jako prvních – může být nedostatečný. Protože Mythos dokáže řetězit drobné chyby do ničivých útočných cest, uvedl: „současná strategie prioritizace může rizika podhodnocovat“.propublica

„Neexistuje žádná alternativa,“ dodal Nguyen. „Pacienti přicházejí rychle a ve velkém.“propublica