Perplexity gjør SPACE sandkasse for AI-agenter åpen kildekode

Perplexity kunngjorde torsdag at de har frigitt SPACE, sandkassen de bruker for å holde AI-agenter isolert, som et åpen kildekode-prosjekt som eksterne utviklere kan ta i bruk. Selskapet har også inngått avtaler med skyleverandørene CoreWeave ↘ 11.91%, Akamai ↘ 4.89% og Crusoe, som har sagt seg villige til å tilby verktøyet til sine kunder, meldte Semafor først.semafor.com

Lanseringen kommer samtidig som teknologibransjen retter økt oppmerksomhet mot sandkasser. AI-laboratorier har rapportert om modeller som bryter ut av sine begrensninger, får tilgang til det åpne nettet og angriper mål som Hugging Face og den australske regjeringen, ifølge Semafor.semafor.com

Hvordan SPACE fungerer

SPACE står for "Sandboxed Platform for Agentic Code Execution." Koden er skrevet i Rust og publisert på Perplexitys GitHub under Apache 2.0-lisensen. Hver agentoppgave kjører i sin egen Firecracker microVM, og legitimasjon samt utgående trafikk styres fra utsiden av den virtuelle maskinen, opplyste Perplexity på X.x.com+1

I juli byttet Perplexity ut en kommersiell sandkasseleverandør med SPACE, som nå kjører hver sesjon i deres Computer agent-produkt. Plattformen håndterer millioner av sandkasseopprettelser daglig og oppretter sandkasser tre til fem ganger raskere enn den forrige leverandøren, ifølge selskapets blogginnlegg. Blogginnlegget opplyser at CoreWeave og Akamai har testet og lansert SPACE på sine plattformer, og at Crusoe planlegger å legge det til i sin portefølje av administrerte AI-tjenester.perplexity.ai

Testing av utbrudd

Perplexity fortalte Semafor at de ga ni avanserte modeller instruksjoner om å bryte seg ut av SPACE. Ingen lyktes i løpet av 118 forsøk, mens selskapet fant at modellene kunne slippe ut av andre sandkasser som ikke er åpen kildekode, rapporterte Semafor. Perplexitys eget blogginnlegg gir en mer detaljert og noe annerledes fremstilling. Det står at en publisert evaluering ikke fant noen utbrudd fra den virtuelle maskinen til verten i 108 forsøk, men at enkelte forsøk omgikk nettverksrestriksjoner. Perplexity sier de har rettet disse svakhetene og at ingen av metodene fungerte i oppfølgingstester. Selskapet opplyser også at de har rapportert relaterte sårbarheter til andre sandkasseleverandører, ifølge blogginnlegget.perplexity.ai+1

En analogi fra nettleserens tid

"Mange selskaper tenker på hvordan de skal bygge sikre AI-agenter, og i mange tilfeller møter de veggen," sa Zibi Braniecki, medlem av Perplexitys tekniske stab, til Semafor. "Vi har en løsning." Han sammenlignet innsatsen med det tidlige internett, da selskaper samarbeidet om sikkerhetsmekanismene som gjorde trygg surfing og netthandel mulig. "Akkurat nå tenker vi for smått," sa han.semafor.com

SPACE er ikke det eneste alternativet. Nvidia ↘ 1.43% har lansert OpenShell, et åpen kildekode-verktøy som kjører AI-agenter i en sandkasse og begrenser hva de kan få tilgang til, ifølge Investing.com. SPACE følger tidligere sikkerhetslanseringer fra Perplexity, inkludert verktøysettet for agentovervåking Numbat og pakkeskanneren Bumblebee, bemerket selskapet.au.finance.yahoo.com+1