Perplexity-ն գործարկել է տեղային AI գործակալ, որը տվյալները պահում է սարքի վրա

Երեքշաբթի օրը Perplexity-ն գործարկեց Portable Computer-ը՝ իր գործակալային AI հարթակի նոր տարբերակը, որը նախատեսված է ամբողջությամբ օգտատիրոջ սեփական սարքավորման վրա աշխատելու համար՝ տվյալներն ամպ ուղարկելով միայն հստակ թույլտվությամբ: Այս արտադրանքը քայլ է դեպի գաղտնիության վրա կենտրոնացած AI, այն ժամանակ, երբ օգնականների մեծ մասը բոլոր հարցումները մշակում է հեռավոր սերվերների միջոցով:

Ինչպես է այն աշխատում

Portable Computer-ը մեկ համակարգում է միավորում տեղային AI մոդելը, եզրակացությունների շարժիչը, գործակալի գործիքները, հավելվածների միակցիչները և կոդի կատարման մեկուսացված միջավայրը, որն աշխատում է օգտատիրոջ սարքի վրա: Յուրաքանչյուր առաջադրանք սկսվում է տեղային մակարդակում: Եթե սարքի վրա գտնվող մոդելը հանդիպում է մի քայլի, որը պահանջում է ավելի առաջադեմ տրամաբանություն, այն օգտատիրոջից թույլտվություն է խնդրում, նախքան այդ կոնկրետ քայլը ամպային մոդելին ուղարկելը: Ֆայլերը և զգայուն տվյալները կարող են մնալ սարքի վրա ամբողջ ընթացքում:venturebeat+2

Գործարկման պահին օգտատերերը կարող են ընտրել 27 միլիարդ պարամետր ունեցող Qwen մոդելը կամ Perplexity-ի սեփական, հետ-մարզված PPLX 27B տարբերակը, իսկ ավելի ուշ սպասվում է Nvidia-ի Nemotron 3.5 Lightning-ի ավելացումը: Օգտատերերը կարող են նաև օգտագործել իրենց սեփական մոդելը և սերվերը: Տեղային եղանակով կատարված աշխատանքը չի սպառում վճարովի կրեդիտները, միայն ամպային քայլերն են հաշվարկվում որպես օգտագործում:tomsguide

Սարքավորում և հասանելիություն

Ծրագրային ապահովումը պահանջում է Nvidia սարքավորում՝ առնվազն 24GB VRAM-ով: Այն առաջինը թողարկվում է Linux-ի համար՝ աջակցելով Nvidia DGX Spark-ին, ինչպես նաև DGX OS-ով կամ Ubuntu-ով աշխատող ARM կամ x64 սարքերին: Windows-ի աջակցությունը նախատեսված է սեպտեմբերին, իսկ macOS-ի հասանելիության մասին տեղեկություն դեռ չկա:zdnet+1

Portable Computer-ը հասանելի է Perplexity Pro, Max, Enterprise Pro և Enterprise Max բաժանորդներին: Perplexity-ն արտադրանքը մշակել է Nvidia-ի ↗ 2.19% հետ համատեղ՝ հիմնվելով DGX Spark աշխատասեղանի սուպերհամակարգչային հարթակի վրա:venturebeat+1

Գաղտնիություն ընդդեմ գործնականության

Հիբրիդային երթուղավորման մոդելը փորձում է լուծել տեղային AI-ի խնդիրը. սարքի վրա գտնվող փոքր մոդելները կարող են կատարել պարզ առաջադրանքներ, ինչպիսիք են PDF-ներից տեղեկատվության հանումը կամ հրամանների կատարումը, սակայն նրանք դժվարանում են բարդ տրամաբանության հետ, որին մեծ ամպային մոդելները լավ են տիրապետում: Փոխանակ օգտատիրոջը ստիպելու ընտրություն կատարել գաղտնիության և հնարավորությունների միջև, Portable Computer-ը թույլ է տալիս համակարգին ընտրողաբար կատարել էսկալացիա, բայց միայն օգտատիրոջ համաձայնությամբ:tomsguide

Սարքավորման պահանջները նշանակում են, որ այս նախնական թողարկումը ավելի շատ վերաբերում է AI էնտուզիաստներին, մշակողներին և ընկերություններին, որոնք արդեն ունեն բարձրակարգ Nvidia համակարգեր, այլ ոչ թե շարքային սպառողներին: Այնուամենայնիվ, ինչպես նշում է Tom's Guide-ը, արտադրանքը "պատկերացում է տալիս այն մասին, թե ինչպիսին կարող է լինել ավելի գաղտնի AI օգնականը, երբ դրա աշխատանքի համար անհրաժեշտ սարքավորումը դառնա ավելի մատչելի":tomsguide