„Perplexity“ pristatė vietinį DI agentą, kuris duomenis saugo ne debesyje

Antradienį „Perplexity“ pristatė „Portable Computer“ – naują savo agentinio DI platformos versiją, skirtą veikti tik vartotojo kompiuteryje ir duomenis į debesį siunčiančią tik gavus aiškų leidimą. Šis produktas žymi posūkį link privatumą tausojančio DI tuo metu, kai dauguma asistentų visas užklausas nukreipia per nuotolinius serverius.

Kaip tai veikia

„Portable Computer“ sujungia vietinį DI modelį, išvadų variklį, agento įrankius, programų jungtis ir izoliuotą kodo vykdymo aplinką į vieną sistemą, veikiančią vartotojo įrenginyje. Kiekviena užduotis pradedama vietoje. Jei įrenginyje esantis modelis susiduria su žingsniu, reikalaujančiu sudėtingesnio mąstymo, jis paprašo vartotojo leidimo prieš siunčiant tą konkretų žingsnį į debesyje esantį modelį. Failai ir jautrūs duomenys visą laiką gali likti įrenginyje.venturebeat+2

Pradžioje vartotojai gali rinktis tarp 27 milijardų parametrų „Qwen“ modelio arba „Perplexity“ sukurto „PPLX 27B“ varianto, o vėliau tikimasi „Nvidia“ „Nemotron 3.5 Lightning“ palaikymo. Vartotojai taip pat gali naudoti savo modelius ir serverius. Vietoje atliktas darbas neina į sąskaitą – tik į debesį nukreipti žingsniai skaičiuojami kaip naudojimas.tomsguide

Techninė įranga ir prieinamumas

Programinei įrangai reikalinga „Nvidia“ techninė įranga su bent 24 GB VRAM. Ji pirmiausia išleidžiama „Linux“ sistemoms, palaikant „Nvidia DGX Spark“ bei įrenginius su „DGX OS“ arba „Ubuntu“ (ARM arba x64 architektūra). „Windows“ palaikymas numatytas rugsėjį, o apie „macOS“ prieinamumą kol kas nepranešta.zdnet+1

„Portable Computer“ prieinamas „Perplexity Pro“, „Max“, „Enterprise Pro“ ir „Enterprise Max“ prenumeratoriams. „Perplexity“ šį produktą sukūrė bendradarbiaudama su „Nvidia“ ↘ 4.58%, remdamasi „DGX Spark“ stalinių kompiuterių superkompiuterių platforma.venturebeat+1

Privatumas prieš praktiškumą

Hibridinis nukreipimo modelis bando išspręsti vietinio DI problemą: mažesni įrenginiuose esantys modeliai gali atlikti paprastas užduotis, pavyzdžiui, ištraukti informaciją iš PDF failų ar vykdyti komandas, tačiau jie sunkiai susidoroja su sudėtingu mąstymu, kurį puikiai atlieka dideli debesų modeliai. Užuot vertusi vartotojus rinktis tarp privatumo ir galimybių, „Portable Computer“ leidžia sistemai pasirinktinai didinti pajėgumus, bet tik su vartotojo pritarimu.tomsguide

Dėl techninės įrangos reikalavimų šis pirmasis leidimas labiau aktualus DI entuziastams, kūrėjams ir įmonėms, jau turinčioms aukščiausios klasės „Nvidia“ sistemas, o ne paprastiems vartotojams. Vis dėlto, kaip pažymėjo „Tom's Guide“, produktas „leidžia pažvelgti, kaip galėtų atrodyti privatesnis DI asistentas, kai techninė įranga, reikalinga jam veikti, taps lengviau įperkama“.tomsguide