OpenAI opnar Decisions API fyrir alla viðskiptavini

OpenAI gerði Decisions API almennt aðgengilegt fimmtudaginn 22. október. Tólið er byggt á GPT-6 Luna og svarar afmörkuðum spurningum allt að 10 sinnum hraðar en GPT-6 Luna í gegnum Responses API, að sögn fyrirtækisins. Útgáfan setur OpenAI í beina samkeppni við TypeSafe, sprotafyrirtæki sem skapaði flokk hraðvirkra og ódýrra ákvarðanalíkana með Jev-líkaninu sínu og hjálpaði til við að gera fyrirtækið 7,6 milljarða dollara virði, greindi TechCrunch fráopenai.com+1. ## Hvað hefur breyst frá beta-útgáfu API-viðmótið sleppir hefðbundinni textamyndun. Forritarar skrifa spurningu, telja upp leyfileg svör og útvega samhengi sem texta, myndir eða JSON. API-viðmótið skilar síðan líkindum, valkosti eða stigagjöf sem forrit getur brugðist við, segir OpenAI. Breytingaskrá OpenAI sýnir að API-viðmótið fór í beta-prófun 6. október. Síðan þá hefur OpenAI bætt við innbyggðri GPT-Live raddsamþættingu, skyndiminni fyrir leiðbeiningar (prompt caching) og geymslu á úrvinnslu í Bandaríkjunum og ESB. Fyrirtækið segir einnig að það hafi tvöfaldað mörkin í 400 spurningar í hverri beiðni. Verðlagningin er 0,10 dollarar á hverja milljón innsláttartákn (input tokens) og 0,01 dollarar á hverja milljón tákna í skyndiminninu, en enginn kostnaður er fyrir úttakstákncommunity.openai.com+2. Nokkrir fyrstu viðskiptavinir greindu frá hraðaukningu. Box ↗ 0.94% sagði leiðarval vera um 5 sinnum hraðara. Datadog ↗ 4.62% sagði að það hafi séð 40 sinnum minni p95-töf en hjá öðrum leiðandi líkönum við mat á áhættu af skipunum sem umboðsmenn búa til. Tungumálanámsforritið Speak sagði að tími til næstu aðgerðar hafi farið úr 1,4 sekúndum í 0,13 sekúnduropenai.com. ## Kapphlaupið við Jev Nikunj Handa, vörustjóri OpenAI fyrir API, sagði við TechCrunch að samstarfsmenn sem sáu Jev hafi brugðist við með því að segja: „Vá, við höfum milljón notkunartilvik fyrir þetta.“ Hann sagði að OpenAI hafi ekki þjálfað sérstakt ákvarðanalíkan. Í staðinn endurstilltu þeir Luna til að keyra hraðar og ódýrar. „Eins og er er þetta bara venjulega Luna sem vinnur verkið,“ sagði hanntechcrunch.com. OpenAI leiðir ekki enn markaðinn. TechCrunch greindi frá því að AIM System One Index og Artificial Analysis Decision Index hallist frekar að D1 Ultra frá Liquid og Elephant-1 frá Base Lab. Jev er í sjöunda og þriðja sæti á þeim listum, á meðan líkan OpenAI er í áttunda og fjórtánda sæti. Líkön TypeSafe eru einnig mest spurðu á OpenRouter. Jev er einnig ódýrara, á skráðu verði 0,10 dollarar á hverja milljón innsláttartákn, en það tekur aðeins við texta, benti einn forritari ácellcog.ai+1. ## Veðjað á myndir og hraða Handa sagði að meðhöndlun mynda gæti gefið OpenAI forskot. „Luna er gríðarlega öflugt og hefur sýnt betri kvörðun“ fyrir myndflokkun, sagði hann. Hann gaf einnig til kynna að minni töf gæti leitt til nýrra nota. „Getum við komið þessu niður í eitthvað eins og 60 millisekúndur, og þá gætirðu ímyndað þér API-kall fyrir hvern einasta ramma í myndbandi?“techcrunch.com