„OpenAI“ atvėrė „Decisions API“ visiems klientams

„OpenAI“ spalio 22 d., ketvirtadienį, padarė savo „Decisions API“ visuotinai prieinamą. Įrankis sukurtas „GPT-6 Luna“ pagrindu ir atsako į ribotus klausimus „iki 10 kartų greičiau nei „GPT-6 Luna“ per „Responses API“, teigia bendrovė. Šis išleidimas tiesiogiai supriešina „OpenAI“ su „TypeSafe“ – startuoliu, kurio „Jev“ modelis sukūrė greitų, pigių „sprendimų“ modelių kategoriją ir padėjo bendrovei pasiekti 7,6 mlrd. JAV dolerių vertę, pranešė „TechCrunch“openai.com+1. ## Kas pasikeitė nuo bandomosios versijos API praleidžia viso teksto generavimą. Kūrėjai parašo klausimą, išvardija leistinus atsakymus ir pateikia kontekstą teksto, vaizdų ar JSON formatu. Tada API grąžina tikimybę, pasirinkimą arba vertinimo balą, pagal kurį programa gali veikti, teigia „OpenAI“. „OpenAI“ pakeitimų žurnalas rodo, kad API bandomoji versija prasidėjo spalio 6 d. Nuo tada „OpenAI“ pridėjo integruotą „GPT-Live“ balso funkciją, užklausų spartinimą (prompt caching) bei duomenų apdorojimą JAV ir ES. Bendrovė taip pat padvigubino limitą iki 400 klausimų vienoje užklausoje. Kaina yra 0,10 USD už milijoną įvesties žetonų ir 0,01 USD už milijoną spartintų žetonų, o už išvesties žetonus mokestis netaikomascommunity.openai.com+2. Keli pirmieji klientai pranešė apie greičio padidėjimą. „Box“ ↗ 0.25% teigė, kad maršruto parinkimas buvo maždaug 5 kartus greitesnis. „Datadog“ ↘ 11.50% teigė, kad vertinant agentų sugeneruotų komandų riziką, p95 delsa buvo 40 kartų mažesnė nei naudojant kitus pažangius modelius. Kalbų mokymosi programėlė „Speak“ pranešė, kad laikas iki kito veiksmo sutrumpėjo nuo 1,4 sekundės iki 0,13 sekundėsopenai.com. ## Lenktynės su „Jev“ Nikunj Handa, „OpenAI“ API produktų vadovas, „TechCrunch“ sakė, kad kolegos, pamatę „Jev“, reagavo su nuostaba: „Oho, mes turime milijoną panaudojimo būdų šiam įrankiui.“ Jis teigė, kad „OpenAI“ nekūrė specialaus sprendimų modelio. Vietoj to, jie perkonfigūravo „Luna“, kad ji veiktų greičiau ir pigiau. „Šiuo metu tai tiesiog senoji gera „Luna“, kuri atlieka darbą“, – sakė jistechcrunch.com. „OpenAI“ dar ne pirmauja šioje srityje. „TechCrunch“ pranešė, kad „AIM System One Index“ ir „Artificial Analysis Decision Index“ indeksai dažniau palankiai vertina „Liquid“ „D1 Ultra“ ir „Base Lab“ „Elephant-1“. „Jev“ šiuose indeksuose užima septintą ir trečią vietas, o „OpenAI“ modelis – aštuntą ir keturioliktą. „TypeSafe“ modeliai taip pat yra dažniausiai užklausiami „OpenRouter“ platformoje. „Jev“ taip pat yra pigesnis – 0,042 USD už milijoną įvesties žetonų, tačiau, kaip pažymėjo vienas kūrėjas, jis priima tik tekstącellcog.ai+1. ## Statymas už vaizdus ir greitį Handa teigė, kad vaizdų apdorojimas gali suteikti „OpenAI“ pranašumą. „Luna“ yra itin galinga ir rodo geresnius kalibravimo rezultatus“ klasifikuojant vaizdus, sakė jis. Jis taip pat užsiminė, kad mažesnė delsa gali atverti naujų galimybių. „Ar galime pasiekti, pavyzdžiui, 60 milisekundžių, ir tada galėtumėte įsivaizduoti API užklausą kiekvienam vaizdo įrašo kadrui?“techcrunch.com