OpenAI-ը բոլոր հաճախորդների համար բացել է արագ AI Decisions API-ն

Հինգշաբթի՝ հոկտեմբերի 22-ին, OpenAI-ը իր Decisions API-ն դարձրեց լայնորեն հասանելի։ Գործիքը կառուցված է GPT-6 Luna-ի վրա և, ըստ ընկերության, սահմանափակ հարցերին պատասխանում է «մինչև 10 անգամ ավելի արագ, քան GPT-6 Luna-ն Responses API-ի միջոցով»։ TechCrunch-ի հաղորդմամբ՝ այս թողարկումը OpenAI-ին ուղղակիորեն մրցակցության մեջ է դնում TypeSafe-ի հետ՝ մի ստարտափ, որի Jev մոդելը ստեղծել է արագ և էժան «որոշումներ կայացնող» մոդելների կատեգորիան և օգնել ընկերությանը հասնել 7.6 միլիարդ դոլար գնահատմանopenai.com+1։

Ի՞նչ է փոխվել բետա տարբերակից հետո

API-ն բաց է թողնում ամբողջական տեքստի գեներացումը։ Մշակողները գրում են հարցը, թվարկում թույլատրելի պատասխանները և տրամադրում համատեքստը տեքստի, պատկերների կամ JSON-ի տեսքով։ OpenAI-ի փոխանցմամբ՝ API-ն այնուհետև վերադարձնում է հավանականություն, ընտրություն կամ գնահատական, որի հիման վրա հավելվածը կարող է գործել։ OpenAI-ի փոփոխությունների մատյանը ցույց է տալիս, որ API-ն բետա փուլ է մտել հոկտեմբերի 6-ին։ Այդ ժամանակից ի վեր OpenAI-ն ավելացրել է GPT-Live ձայնային ինտեգրում, հարցումների քեշավորում և եզրակացությունների տեղակայում ԱՄՆ-ում և ԵՄ-ում։ Ընկերության տվյալներով՝ նրանք նաև կրկնապատկել են սահմանաչափը՝ մինչև 400 հարց մեկ հարցման համար։ Գները կազմում են 0.10 դոլար մեկ միլիոն մուտքային թոքենի համար և 0.01 դոլար մեկ միլիոն քեշավորված թոքենի համար, իսկ ելքային թոքենների համար վճար չկաcommunity.openai.com+2։

Մի շարք վաղ հաճախորդներ նշել են արագության աճ։ Box ↘ 1.62%-ը հայտնել է, որ երթուղու ընտրությունը մոտ 5 անգամ ավելի արագ է եղել։ Datadog ↗ 0.21%-ը նշել է, որ գործակալների կողմից գեներացված հրամանների ռիսկերը գնահատելիս p95 լատենտությունը 40 անգամ ավելի արագ է եղել, քան ֆրոնտիեր մոդելների դեպքում։ Լեզուներ ուսուցանող Speak հավելվածը հայտնել է, որ հաջորդ գործողությանը սպասելու ժամանակը 1.4 վայրկյանից կրճատվել է մինչև 0.13 վայրկյանopenai.com։

Մրցավազքը Jev-ի հետ

OpenAI-ի API արտադրանքի ղեկավար Նիկունջ Հանդան TechCrunch-ին ասել է, որ գործընկերները, տեսնելով Jev-ը, արձագանքել են. «Վաու, մենք սրա համար միլիոնավոր կիրառման դեպքեր ունենք»։ Նա ասել է, որ OpenAI-ը չի մարզել հատուկ որոշումներ կայացնող մոդել։ Փոխարենը, նրանք վերակազմավորել են Luna-ն՝ ավելի արագ և էժան աշխատելու համար։ «Այս պահին դա պարզապես հին ու բարի Luna-ն է, որն անում է իր գործը», — ասել է նաtechcrunch.com։

OpenAI-ը դեռևս չի առաջնորդում այս ոլորտում։ TechCrunch-ը հայտնել է, որ AIM System One Index-ը և Artificial Analysis Decision Index-ը հակված են նախապատվությունը տալ Liquid-ի D1 Ultra-ին և Base Lab-ի Elephant-1-ին։ Jev-ը այդ ինդեքսներում զբաղեցնում է յոթերորդ և երրորդ տեղերը, մինչդեռ OpenAI-ի մոդելը՝ ութերորդ և տասնչորսերորդ։ TypeSafe-ի մոդելները նաև ամենաշատ հարցվողներն են OpenRouter-ում։ Jev-ը նաև ավելի էժան է՝ 0.042 դոլար մեկ միլիոն մուտքային թոքենի համար, սակայն, ինչպես նշել է մշակողներից մեկը, այն ընդունում է միայն տեքստcellcog.ai+1։

Խաղադրույք պատկերների և արագության վրա

Հանդան ասել է, որ պատկերների մշակումը կարող է OpenAI-ին առավելություն տալ։ «Luna-ն չափազանց հզոր է և ցույց է տալիս ավելի լավ կալիբրացիա» պատկերների դասակարգման համար, ասել է նա։ Նա նաև ակնարկել է, որ ցածր լատենտությունը կարող է նոր կիրառություններ բացել։ «Կարո՞ղ ենք սա հասցնել, ասենք, 60 միլիվայրկյանի, և այն ժամանակ կարող եք պատկերացնել API-ի կանչ՝ տեսանյութի յուրաքանչյուր կադրի համար»techcrunch.com