OpenAI zpřístupnila Decisions API všem zákazníkům

Společnost OpenAI ve čtvrtek 22. října zpřístupnila své Decisions API široké veřejnosti. Nástroj je postaven na modelu GPT-6 Luna a podle vyjádření společnosti odpovídá na vymezené otázky „až 10krát rychleji než GPT-6 Luna prostřednictvím Responses API“. Toto vydání staví OpenAI do přímé konkurence se společností TypeSafe, startupem, jehož model Jev vytvořil kategorii rychlých a levných „rozhodovacích“ modelů a pomohl firmě dosáhnout hodnoty 7,6 miliardy dolarů, uvedl TechCrunchopenai.com+1. ## Co se od beta verze změnilo API vynechává generování celého textu. Vývojáři napíší otázku, vypíší povolené odpovědi a dodají kontext ve formě textu, obrázků nebo JSON. API následně vrátí pravděpodobnost, volbu nebo bodové hodnocení, na které může aplikace reagovat, uvedla OpenAI. Záznam změn OpenAI ukazuje, že API vstoupilo do beta verze 6. října. Od té doby OpenAI přidala nativní hlasovou integraci GPT-Live, ukládání promptů do mezipaměti (prompt caching) a rezidenci odvozování v USA a EU. Společnost také zdvojnásobila limit na 400 otázek na požadavek. Ceny jsou stanoveny na 0,10 USD za milion vstupních tokenů a 0,01 USD za milion tokenů v mezipaměti, přičemž za výstupní tokeny se neúčtuje žádný poplatekcommunity.openai.com+2. Několik prvních zákazníků hlásilo zrychlení. Společnost Box ↘ 1.62% uvedla, že výběr trasy byl přibližně 5krát rychlejší. Datadog ↗ 0.21% uvedl, že při hodnocení rizik příkazů generovaných agenty zaznamenal 40krát nižší latenci p95 než u jiných špičkových modelů. Aplikace pro výuku jazyků Speak uvedla, že její čas do další akce klesl z 1,4 sekundy na 0,13 sekundyopenai.com. ## Závod s Jev Nikunj Handa, produktový vedoucí OpenAI pro API, řekl TechCrunch, že kolegové, kteří viděli Jev, reagovali slovy: „Páni, na tohle máme milion případů použití.“ Uvedl, že OpenAI netrénovala dedikovaný rozhodovací model. Místo toho překonfigurovala Lunu tak, aby běžela rychleji a levněji. „Právě teď je to prostě stará dobrá Luna, která odvádí práci,“ řekltechcrunch.com. OpenAI zatím v oboru nevede. TechCrunch informoval, že indexy AIM System One Index a Artificial Analysis Decision Index mají tendenci upřednostňovat D1 Ultra od Liquid a Elephant-1 od Base Lab. Jev se v těchto indexech umisťuje na sedmém a třetím místě, zatímco model OpenAI na osmém a čtrnáctém. Modely TypeSafe jsou také nejčastěji dotazovanými na OpenRouter. Jev je také levnější, s uvedenou cenou 0,042 USD za milion vstupních tokenů, ale jak poznamenal jeden vývojář, přijímá pouze textcellcog.ai+1. ## Sázka na obrázky a rychlost Handa uvedl, že práce s obrázky by mohla OpenAI poskytnout výhodu. „Luna je extrémně výkonná a vykazuje lepší kalibraci“ pro klasifikaci obrázků, řekl. Naznačil také, že nižší latence by mohla vést k novým způsobům využití. „Můžeme se dostat na něco jako 60 milisekund, a pak byste si mohli představit API volání pro každý jednotlivý snímek ve videu?“techcrunch.com