Nvidia og yfir 30 fyrirtæki stofna Open Secure AI Alliance

Nvidia ↘ 1.47% og meira en 30 fyrirtæki tilkynntu á mánudag um stofnun Open Secure AI Alliance, sem er bandalag ætlað að þróa og deila tækni og verkfærum í opnum upprunakóða til að styrkja öryggi gervigreindar og tölvuöryggisvarnir.

Bandalag um opnar tölvuöryggisvarnir

Bandalagið, sem byggir á Akrites-framtaki Linux Foundation og starfi OpenSSF-samfélagsins, þjappar saman leiðandi aðilum í skýjaþjónustu, tölvuöryggi, fyrirtækjahugbúnaði og gervigreindarrannsóknum. Stofnaðilar eru meðal annars Adobe ↗ 1.02%, Cisco ↘ 0.01%, CrowdStrike ↗ 4.97%, Cloudflare ↘ 0.19%, Dell Technologies ↗ 0.17%, Elastic ↗ 2.31%, HPE Hewlett Packard Enterprise Company ↗ 2.13%, Hugging Face, IBM International Business Machines Corporation ↗ 0.60%, Microsoft ↗ 0.52%, Palantir ↗ 3.68%, Palo Alto Networks ↗ 5.00%, Red Hat, Salesforce ↗ 1.84%, SAP ↘ 0.03%, ServiceNow ↗ 2.76%, Siemens, Snowflake ↘ 0.53%, SK Telecom ↘ 1.38%, Synopsys ↗ 0.93% og fleiri.blogs.nvidia

Framtakið heldur því fram að opin módel og verkfæri séu nauðsynleg fyrir tölvuöryggi vegna þess að þau „auka aðgang að varnargetu, auka gagnsæi fyrir viðbragðsaðila“ og „gera kleift að koma á dreifðum vörnum sem drifnar eru áfram af samfélaginu og undir eigin stjórn, án þess að einn veikur hlekkur geti fellt kerfið,“ samkvæmt tilkynningu Nvidia.blogs.nvidia

Hagnýtur hvati: Þegar lokuð verkfæri bregðast

Nvidia nefndi nýlegan öryggisbrest hjá Hugging Face sem hvata. Á meðan á þeim bresti stóð komu lokuð gervigreindarverkfæri, sem „gátu ekki greint á milli árásarmanna og viðbragðsaðila“, í veg fyrir stafræna rannsókn. Það neyddi Hugging Face til að innleiða opið módel á eigin innviðum til að greina meira en 17.000 aðgerðir og stöðva innbrotið.blogs.nvidia

„Þegar viðbragðsaðilar geta ekki rannsakað, aðlagað og keyrt háþróaða gervigreind á eigin innviðum eru möguleikar þeirra til viðbragða takmarkaðir á þeirri stundu þegar hraði skiptir mestu máli,“ skrifaði Nvidia.blogs.nvidia

CrowdStrike, sem tilkynnti um þátttöku sína, benti á að eins gervigreindarmódel sem pössuð voru við mismunandi „umgjörðir“ skiluðu mjög mismunandi árangri í rannsóknum á öryggisgöllum. Almenn nálgun skilaði tæplega 80 prósenta hlutfalli gervigreininga, á meðan sérsniðin öryggisumgjörð minnkaði það í tæplega 20 prósent.crowdstrike

Opin rannsókn og áhrif á stefnumótun

Nvidia leggur fram nýjan rannsóknarramma í opnum upprunakóða sem kallast NVIDIA Labs Object-Oriented Agent, eða NOOA, sem er nú aðgengilegur á GitHub og hannaður til að gera hegðun gervigreindaratvika „auðveldari í prófun, rekstri, úttekt og stjórnun“. Önnur framlög eru meðal annars vinna HPE við SPIFFE/SPIRE öryggisstaðla, Lightwell-verkefni IBM og Red Hat fyrir stafrænt undirritaðar öryggisuppfærslur, og MDASH marghliða skönnunarumgjörð Microsoft.hpe+1

Stofnunin kemur nokkrum dögum eftir að forstjóri Nvidia, Jensen Huang, birti opið bréf sem ber heitið „Open Weights and American AI Leadership“, undirritað af 25 fyrirtækjum þar á meðal Microsoft, Meta ↗ 1.02% og Palantir, þar sem þrýst er á ákvarðanatökumenn að forðast „ótímabærar takmarkanir“ á opnum gervigreindarmódelum. Open Secure AI Alliance víkkar þau rök út til tölvuöryggis og varar við því að „almennar takmarkanir á opnum gervigreindarkerfum myndu veikja varnargetu og hætta á að samþjappa valdi, fíkni og veikleikum hjá nokkrum lokuðum þjónustuaðilum“.blogs.nvidia+2