Nvidia a více než 30 firem zakládají Open Secure AI Alliance

Společnost Nvidia ↘ 0.41% a více než 30 dalších firem v pondělí oznámily vznik aliance Open Secure AI Alliance. Tato koalice si klade za cíl vyvíjet a sdílet open-source technologie a nástroje pro posílení bezpečnosti AI a kybernetické obrany.

Koalice pro otevřenou kybernetickou obranu

Aliance, která navazuje na iniciativu Akrites nadace Linux Foundation a práci komunity OpenSSF, sdružuje lídry z oblasti cloudových technologií, kybernetické bezpečnosti, podnikového softwaru a výzkumu AI. Mezi zakládající partnery patří Adobe ↗ 5.56%, Cisco ↘ 0.97%, CrowdStrike ↗ 1.07%, Cloudflare ↗ 1.34%, Dell Technologies ↘ 9.44%, Elastic ↗ 0.51%, HPE Hewlett Packard Enterprise Company ↘ 4.15%, Hugging Face, IBM International Business Machines Corporation ↗ 4.06%, Microsoft ↗ 2.22%, Palantir ↘ 5.65%, Palo Alto Networks ↗ 1.15%, Red Hat, Salesforce ↗ 4.71%, SAP ↗ 3.26%, ServiceNow ↗ 2.34%, Siemens, Snowflake ↘ 1.12%, SK Telecom ↘ 11.61%, Synopsys ↗ 0.93% a další.blogs.nvidia

Iniciativa tvrdí, že otevřené modely a nástroje jsou pro kybernetickou bezpečnost klíčové, protože podle prohlášení společnosti Nvidia „demokratizují obranné schopnosti, zvyšují transparentnost pro obránce“ a „umožňují masivně distribuovanou, komunitně řízenou a samostatně kontrolovanou obranu, bez jediného bodu selhání“.blogs.nvidia

Praktický impuls: Když uzavřené nástroje selžou

Nvidia jako katalyzátor zmínila nedávný bezpečnostní incident ve společnosti Hugging Face. Během tohoto narušení uzavřené AI nástroje, které „nedokázaly rozlišit útočníky od obránců“, zablokovaly forenzní analýzu. Hugging Face tak byla nucena nasadit na vlastní infrastruktuře model s otevřenou vahou, aby zanalyzovala více než 17 000 akcí a útok zastavila.blogs.nvidia

„Pokud obránci nemohou zkoumat, upravovat a provozovat pokročilou AI na vlastní infrastruktuře, je jejich schopnost reagovat omezená přesně ve chvíli, kdy na rychlosti záleží nejvíce,“ uvedla Nvidia.blogs.nvidia

Společnost CrowdStrike při oznámení své účasti zdůraznila, že totožné pokročilé AI modely spojené s různými testovacími prostředími dosahovaly ve výzkumu zranitelností zcela odlišných výsledků: obecný přístup vedl k míře falešně pozitivních nálezů téměř 80 procent, zatímco účelově vytvořené bezpečnostní prostředí tuto míru snížilo na přibližně 20 procent.crowdstrike

Otevřený výzkum a dopady na politiku

Nvidia přispívá novým open-source výzkumným rámcem nazvaným NVIDIA Labs Object-Oriented Agent (NOOA), který je nyní k dispozici na platformě GitHub a jehož cílem je dosáhnout toho, aby chování agentů bylo „snadněji testovatelné, sledovatelné, auditovatelné a spravovatelné“. Mezi další příspěvky patří práce společnosti HPE na standardech identity s nulovou důvěrou SPIFFE/SPIRE, projekt Lightwell společností IBM a Red Hat pro digitálně podepsané opravy a skenovací prostředí MDASH od Microsoftu určené pro více modelů.hpe+1

K založení aliance dochází jen několik dní poté, co generální ředitel společnosti Nvidia Jensen Huang sdílel samostatný otevřený dopis s názvem „Otevřené váhy a americké prvenství v AI“, který podepsalo 25 společností včetně firem Microsoft, Meta ↗ 0.21% a Palantir. Dopis vyzývá zákonodárce, aby se vyvarovali „předčasných omezení“ AI modelů s otevřenou vahou. Aliance Open Secure AI Alliance rozšiřuje tento argument i do oblasti kybernetické bezpečnosti a varuje, že „plošná omezení otevřených pokročilých systémů AI бы oslabila obrannou kapacitu a znamenala riziko koncentrace moci, závislosti a zranitelnosti u několika málo uzavřených poskytovatelů“.blogs.nvidia+2