Nvidia und über 30 Partner gründen Open Secure AI Alliance

Nvidia ↘ 3.55% und mehr als 30 Unternehmen haben am Montag die Gründung der Open Secure AI Alliance bekannt gegeben. Die Koalition zielt darauf ab, Open-Source-Technologien und -Werkzeuge zu entwickeln und zu teilen, um die KI-Sicherheit und die Cyberabwehr zu stärken.

Eine Koalition für offene Cyberabwehr

Die Allianz, die auf der Akrites-Initiative der Linux Foundation und der Arbeit der OpenSSF-Community aufbaut, bringt führende Akteure aus den Bereichen Cloud Computing, Cybersicherheit, Unternehmenssoftware und KI-Forschung zusammen. Zu den Partnern der ersten Stunde gehören Adobe ↗ 5.72%, Cisco ↘ 2.68%, CrowdStrike ↘ 1.33%, Cloudflare ↗ 2.38%, Dell Technologies ↘ 5.73%, Elastic ↗ 3.77%, HPE Hewlett Packard Enterprise Company ↘ 2.52%, Hugging Face, IBM International Business Machines Corporation ↘ 0.49%, Microsoft ↘ 0.71%, Palantir ↘ 0.43%, Palo Alto Networks ↘ 1.52%, Red Hat, Salesforce ↗ 3.79%, SAP ↗ 3.81%, ServiceNow ↗ 4.65%, Siemens, Snowflake ↗ 4.64%, SK Telecom ↘ 3.55%, Synopsys ↘ 2.64% und weitere.blogs.nvidia

Laut der Ankündigung von Nvidia argumentiert die Initiative, dass offene Modelle und Tools für die Cybersicherheit unerlässlich sind, da sie „defensive Fähigkeiten demokratisieren, die Transparenz für Verteidiger erhöhen“ und „eine massiv verteilte, von der Community getriebene und selbstkontrollierte Abwehr ermöglichen, ganz ohne zentralen Ausfallpunkt“.blogs.nvidia

Praktischer Anstoß: Wenn geschlossene Tools versagen

Nvidia nannte einen jüngsten Sicherheitsvorfall bei Hugging Face als Katalysator. Während dieses Einbruchs blockierten geschlossene KI-Tools, die nicht in der Lage waren, Angreifer von Verteidigern zu unterscheiden, die forensische Analyse. Dies zwang Hugging Face dazu, ein Open-Weight-Modell auf der eigenen Infrastruktur einzusetzen, um mehr als 17.000 Aktionen zu analysieren und den Angriff einzudämmen.blogs.nvidia

„Wenn Verteidiger fortgeschrittene KI auf ihrer eigenen Infrastruktur nicht untersuchen, anpassen und ausführen können, ist ihre Reaktionsfähigkeit genau in dem Moment eingeschränkt, in dem Geschwindigkeit am wichtigsten ist“, schrieb Nvidia.blogs.nvidia

CrowdStrike hob bei der Ankündigung seiner Teilnahme hervor, dass identische Frontier-KI-Modelle in Kombination mit unterschiedlichen Einsatzumgebungen voneinander stark abweichende Ergebnisse in der Schwachstellenforschung lieferten: Ein generischer Ansatz führte zu einer Rate falscher Positivmeldungen von fast 80 Prozent, während eine speziell entwickelte Sicherheitsumgebung diese auf etwa 20 Prozent reduzierte.crowdstrike

Offene Forschung und politische Implikationen

Nvidia steuert ein neues Open-Source-Forschungs-Framework namens NVIDIA Labs Object-Oriented Agent oder NOOA bei, das ab sofort auf GitHub verfügbar ist und darauf ausgelegt ist, das Verhalten von Agenten „einfacher zu testen, zu verfolgen, zu prüfen und zu steuern“. Zu den weiteren Beiträgen gehören die Arbeit von HPE an den Zero-Trust-Identitätsstandards SPIFFE/SPIRE, das Lightwell-Projekt von IBM und Red Hat für digital signierte Patches sowie das Multi-Modell-Scanningsystem MDASH von Microsoft.hpe+1

Der Start erfolgt wenige Tage, nachdem Nvidia-CEO Jensen Huang einen separaten offenen Brief mit dem Titel „Open Weights and American AI Leadership“ veröffentlichte, der von 25 Unternehmen, darunter Microsoft, Meta ↘ 1.31% und Palantir, unterzeichnet wurde. Darin wurden politische Entscheidungsträger aufgefordert, voreilige Einschränkungen für Open-Weight-KI-Modelle zu vermeiden. Die Open Secure AI Alliance weitet dieses Argument auf die Cybersicherheit aus und warnt, dass pauschale Einschränkungen für offene Frontier-KI-Systeme die Abwehrfähigkeit schwächen und das Risiko bergen, Macht, Abhängigkeit und Verwundbarkeit bei wenigen geschlossenen Anbietern zu konzentrieren.blogs.nvidia+2