Nvidia och ett 30-tal bolag lanserar Open Secure AI Alliance

Nvidia ↘ 1.47% och mer än 30 företag meddelade på måndagen bildandet av Open Secure AI Alliance, en koalition som syftar till att utveckla och dela teknik och verktyg med öppen källkod för att stärka AI-säkerhet och cyberförsvar.

En koalition för öppet cyberförsvar

Alliansen, som bygger vidare på Linux Foundations Akrites-initiativ och arbete inom OpenSSF-gemenskapen, samlar ledande aktörer inom molntjänster, cybersäkerhet, affärssystem och AI-forskning. Bland de grundande partnerna finns Adobe ↗ 1.02%, Cisco ↘ 0.01%, CrowdStrike ↗ 4.97%, Cloudflare ↘ 0.19%, Dell Technologies ↗ 0.17%, Elastic ↗ 2.31%, HPE Hewlett Packard Enterprise Company ↗ 2.13%, Hugging Face, IBM International Business Machines Corporation ↗ 0.60%, Microsoft ↗ 0.52%, Palantir ↗ 3.68%, Palo Alto Networks ↗ 5.00%, Red Hat, Salesforce ↗ 1.84%, SAP ↘ 0.03%, ServiceNow ↗ 2.76%, Siemens, Snowflake ↘ 0.53%, SK Telecom ↘ 1.38%, Synopsys ↗ 0.93% med flera.blogs.nvidia

Initiativet hävdar att öppna modeller och verktyg är avgörande för cybersäkerheten eftersom de "demokratiserar försvarsförmågan, ökar transparensen för försvarare" och "möjliggör ett massivt distribuerat, community-drivet och självstyrt försvar utan någon enskild felkälla", enligt Nvidias meddelande.blogs.nvidia

Praktisk drivkraft: När stängda verktyg misslyckas

Nvidia hänvisade till en nyligen inträffad säkerhetsincident hos Hugging Face som en utlösande faktor. Under intrånget blockerade stängda AI-verktyg, som var "oförmögna att skilja angripare från försvarare", den kriminaltekniska analysen. Det tvingade Hugging Face att köra en öppen modell på sin egen infrastruktur för att analysera mer än 17 000 åtgärder och stoppa intrånget.blogs.nvidia

"När försvarare inte kan granska, anpassa och köra avancerad AI på sin egen infrastruktur begränsas deras förmåga att agera vid exakt det tillfälle då snabbhet är som viktigast", skrev Nvidia.blogs.nvidia

CrowdStrike framhöll i samband med sitt deltagande att identiska avancerade AI-modeller i kombination med olika stödramverk gav helt olika resultat vid sårbarhetsforskning: ett generellt tillvägagångssätt gav en andel falska positiva resultat på nära 80 procent, medan ett specialbyggt säkerhetsramverk minskade detta till cirka 20 procent.crowdstrike

Öppen forskning och politiska konsekvenser

Nvidia bidrar med ett nytt forskningsramverk med öppen källkod kallat NVIDIA Labs Object-Oriented Agent, eller NOOA, som nu finns tillgängligt på GitHub och är utformat för att göra agentbeteenden "enklare att testa, spåra, granska och styra". Andra bidrag inkluderar HPE:s arbete med nollförtroendestandarderna SPIFFE/SPIRE för identitetshantering, IBM:s och Red Hats Lightwell-projekt för digitalt signerade säkerhetsuppdateringar samt Microsofts MDASH-skanningsramverk för flera modeller.hpe+1

Lanseringen sker bara några dagar efter att Nvidias vd Jensen Huang publicerade ett separat öppet brev med titeln "Open Weights and American AI Leadership", undertecknat av 25 företag däribland Microsoft, Meta ↗ 1.02% och Palantir, där beslutsfattare uppmanas att undvika "förhastade restriktioner" för öppna AI-modeller. Open Secure AI Alliance utökar det argumentet till cybersäkerhetsområdet och varnar för att "generella restriktioner för öppna avancerade AI-system skulle försvaga försvarsförmågan och riskera att koncentrera makt, beroende och sårbarhet hos ett fåtal stängda leverantörer".blogs.nvidia+2