Nvidia og over 30 selskaper lanserer Open Secure AI Alliance

Nvidia ↘ 0.41% og mer enn 30 selskaper kunngjorde mandag opprettelsen av Open Secure AI Alliance, en koalisjon som skal utvikle og dele teknologier og verktøy med åpen kildekode for å styrke KI-sikkerhet og digitalt forsvar.

En koalisjon for åpent digitalt forsvar

Alliansen, som bygger på Linux Foundations Akrites-initiativ og arbeid fra OpenSSF-fellesskapet, samler ledende aktører innen skyteknologi, cybersikkerhet, bedriftsprogramvare og KI-forskning. Blant de første partnerne er Adobe ↗ 5.56%, Cisco ↘ 0.97%, CrowdStrike ↗ 1.07%, Cloudflare ↗ 1.34%, Dell Technologies ↘ 9.44%, Elastic ↗ 0.51%, HPE Hewlett Packard Enterprise Company ↘ 4.15%, Hugging Face, IBM International Business Machines Corporation ↗ 4.06%, Microsoft ↗ 2.22%, Palantir ↘ 5.65%, Palo Alto Networks ↗ 1.15%, Red Hat, Salesforce ↗ 4.71%, SAP ↗ 3.26%, ServiceNow ↗ 2.34%, Siemens, Snowflake ↘ 1.12%, SK Telecom ↘ 11.61%, Synopsys ↗ 0.93% og flere andre.blogs.nvidia

Initiativet hevder at åpne modeller og verktøy er avgjørende for cybersikkerhet fordi de "demokratiserer forsvarskapasiteter, øker gjennomsiktigheten for forsvarere" og "muliggjør et massivt distribuert, fellesskapsdrevet og selvstyrt forsvar, uten noen enkeltfeilpunkter", ifølge Nvidias kunngjøring.blogs.nvidia

Praktisk bakgrunn: Når lukkede verktøy svikter

Nvidia trakk frem en nylig sikkerhetshendelse hos Hugging Face som en utløsende faktor. Under dette bruddet blokkerte lukkede KI-verktøy, som var ute av stand til å skille angripere fra forsvarere, den tekniske etterforskningen. Dette tvang Hugging Face til å ta i bruk en modell med åpne vekter på sin egen infrastruktur for å analysere mer enn 17 000 handlinger og begrense innbruddet.blogs.nvidia

"Når forsvarere ikke kan inspisere, tilpasse og kjøre avansert KI på sin egen infrastruktur, blir evnen til å reagere begrenset akkurat når hastighet betyr mest", skrev Nvidia.blogs.nvidia

I sin kunngjøring om deltakelsen fremhevet CrowdStrike at identiske avanserte KI-modeller i kombinasjon med ulike tilpasningsrammeverk ga vidt forskjellige resultater innen sårbarhetsforskning. En generell tilnærming ga en andel falske positive på nærmere 80 prosent, mens et spesialbygd sikkerhetsrammeverk reduserte dette til rundt 20 prosent.crowdstrike

Åpen forskning og politiske konsekvenser

Nvidia bidrar med et nytt forskningsrammeverk med åpen kildekode kalt NVIDIA Labs Object-Oriented Agent, eller NOOA, som nå er tilgjengelig på GitHub. Rammeverket er designet for å gjøre agentatferd "enklere å teste, spore, revidere og styre". Andre bidrag inkluderer HPEs arbeid med SPIFFE/SPIRE-identitetsstandarder for nulltillit, IBM og Red Hats Lightwell-prosjekt for digitalt signerte sikkerhetsoppdateringer, samt Microsofts MDASH-rammeverk for skanning av flere modeller.hpe+1

Lanseringen skjer noen dager etter at Nvidia-direktør Jensen Huang delte et eget åpent brev med tittelen "Open Weights and American AI Leadership", undertegnet av 25 selskaper, deriblant Microsoft, Meta ↗ 0.21% og Palantir. Brevet oppfordret beslutningstakere til å unngå "forhastede restriksjoner" på KI-modeller med åpne vekter. Open Secure AI Alliance viderefører dette argumentet innen cybersikkerhet og advarer om at "generelle restriksjoner på åpne avanserte KI-systemer vil svekke forsvarskapasiteten og risikere å konsentrere makt, avhengighet og sårbarhet hos et fåtall lukkede leverandører".blogs.nvidia+2