Perplexity kynnir staðbundinn gervigreindaraðila sem geymir gögn utan skýsins

Perplexity kynnti á þriðjudaginn Portable Computer, nýja útgáfu af gervigreindarpalli sínum sem er hannaður til að keyra alfarið á eigin vélbúnaði notandans og sendir gögn í skýið aðeins með skýru leyfi. Varan markar skref í átt að persónuverndarvænni gervigreind á tímum þegar flestir aðstoðarmenn senda allar fyrirspurnir í gegnum ytri netþjóna.

Hvernig þetta virkar

Portable Computer pakkar saman staðbundnu gervigreindarlíkani, ályktunarvél, verkfærum fyrir aðila, tengingum við forrit og sandkassa fyrir kóðakeyrslu í eitt kerfi sem keyrir á vél notandans. Hvert verkefni hefst staðbundið. Ef líkanið á tækinu rekst á skref sem krefst flóknari röksemdarfærslu, biður það notandann um leyfi áður en það sendir það tiltekna skref til skýjabundins líkans. Skrár og viðkvæm gögn geta verið áfram á tækinu allan tímann.venturebeat+2

Við útgáfu geta notendur valið á milli 27 milljarða færibreyta Qwen líkans eða eigin útgáfu Perplexity, PPLX 27B, og búist er við að Nvidia Nemotron 3.5 Lightning bætist við síðar. Notendur geta einnig notað eigin líkön og ályktunarþjóna. Vinna sem unnin er staðbundið dregst ekki frá inneignum, aðeins skref sem send eru í skýið telja til notkunar.tomsguide

Vélbúnaður og framboð

Hugbúnaðurinn krefst Nvidia vélbúnaðar með að minnsta kosti 24GB af VRAM. Hann kemur fyrst út fyrir Linux og styður Nvidia DGX Spark auk véla sem keyra DGX OS eða Ubuntu á ARM eða x64 vélbúnaði. Stuðningur fyrir Windows er áætlaður í september, en ekki hefur verið tilkynnt um framboð fyrir macOS.zdnet+1

Portable Computer er í boði fyrir Perplexity Pro, Max, Enterprise Pro og Enterprise Max áskrifendur. Perplexity þróaði vöruna í samstarfi við Nvidia ↘ 1.59% og byggir hún á DGX Spark borðtölvuvettvangnum.venturebeat+1

Persónuvernd vs. hagkvæmni

Hybrid leiðarkerfið reynir að leysa spennu í staðbundinni gervigreind: minni líkön á tækjum geta séð um einföld verkefni eins og að draga upplýsingar úr PDF skjölum eða keyra skipanir, en þau eiga í erfiðleikum með flókna röksemdarfærslu sem stór skýjalíkön ráða vel við. Í stað þess að neyða notendur til að velja á milli persónuverndar og getu, leyfir Portable Computer kerfinu að stigmagnast sértækt, en aðeins með samþykki notanda.tomsguide

Vélbúnaðarkröfurnar þýða að þessi fyrsta útgáfa höfðar helst til gervigreindaráhugafólks, forritara og fyrirtækja sem eiga nú þegar hágæða Nvidia kerfi frekar en almennra neytenda. Samt sem áður, eins og Tom's Guide benti á, býður varan upp á innsýn í hvernig persónulegri gervigreindaraðstoðarmaður gæti litið út þegar vélbúnaðurinn sem þarf til að keyra hann verður ódýrari.tomsguide