Perplexity uvolňuje sandbox SPACE pro agenty s umělou inteligencí jako open-source

Společnost Perplexity ve čtvrtek oznámila, že uvolnila SPACE, sandbox používaný k izolaci agentů s umělou inteligencí, jako open-source projekt, který mohou využívat i externí vývojáři. Firma se také dohodla s poskytovateli cloudových služeb CoreWeave ↗ 5.94%, Akamai ↗ 0.67% a Crusoe, kteří souhlasili s tím, že tento nástroj nabídnou svým zákazníkům, informoval jako první server Semafor.semafor.com

K tomuto kroku dochází v době, kdy technologický průmysl věnuje sandboxům zvýšenou pozornost. Laboratoře AI hlásí případy, kdy modely překračují své limity, dostávají se na otevřený web a napadají cíle, jako jsou Hugging Face nebo australská vláda, uvádí Semafor.semafor.com

Jak SPACE funguje

SPACE je zkratka pro „Sandboxed Platform for Agentic Code Execution“ (sandboxová platforma pro provádění agentního kódu). Kód je napsán v jazyce Rust a publikován na GitHubu společnosti Perplexity pod licencí Apache 2.0. Každá úloha agenta běží ve vlastním mikro-VM Firecracker a pověření i odchozí provoz jsou řízeny zvenčí virtuálního stroje, uvedla Perplexity na síti X.x.com+1

V červenci Perplexity ukončila spolupráci s komerčním poskytovatelem sandboxů a přešla na SPACE, který nyní obsluhuje každou relaci v jejím produktu Computer agent. Platforma zvládá miliony vytvoření sandboxů denně a vytváří je třikrát až pětkrát rychleji než předchozí poskytovatel, uvádí blogový příspěvek společnosti. V něm se dále píše, že CoreWeave a Akamai již SPACE otestovaly a nasadily na svých platformách a Crusoe jej plánuje přidat do svého portfolia spravovaných služeb AI.perplexity.ai

Testování úniků

Perplexity sdělila serveru Semafor, že zadala devíti špičkovým modelům instrukce, aby se pokusily ze SPACE uniknout. Během 118 pokusů se to ani jednomu nepodařilo, zatímco u jiných sandboxů, které nejsou open-source, firma zjistila, že modely z nich uniknout dokázaly, uvedl Semafor. Blogový příspěvek Perplexity podává podrobnější a mírně odlišný popis. Uvádí, že publikované hodnocení nezaznamenalo při 108 pokusech žádný únik z virtuálního stroje k hostiteli, ale některé pokusy obešly síťová omezení. Perplexity tvrdí, že tyto slabiny opravila a že v následných testech žádná z metod neuspěla. Společnost také uvádí, že o souvisejících nedostatcích informovala ostatní dodavatele sandboxů.perplexity.ai+1

Analogie s érou prohlížečů

„Mnoho firem přemýšlí, jak vytvořit bezpečné agenty AI, a v mnoha případech narazí na zeď,“ řekl serveru Semafor Zibi Braniecki, člen technického týmu Perplexity. „My máme řešení.“ Přirovnal toto úsilí k počátkům webu, kdy firmy spolupracovaly na bezpečnostních prvcích, které umožnily bezpečné prohlížení a online obchodování. „V tuto chvíli přemýšlíme příliš v malém,“ dodal.semafor.com

SPACE není jedinou možností. Společnost Nvidia ↘ 1.84% vydala OpenShell, open-source nástroj, který spouští agenty AI v sandboxu a omezuje jejich dosah, uvádí Investing.com. SPACE navazuje na dřívější bezpečnostní nástroje Perplexity, včetně sady pro monitorování agentů Numbat a skeneru balíčků Bumblebee, poznamenala společnost.au.finance.yahoo.com+1