OpenAI-მ Decisions API ყველა მომხმარებლისთვის ხელმისაწვდომი გახადა

ხუთშაბათს, 22 ოქტომბერს, OpenAI-მ თავისი Decisions API საყოველთაოდ ხელმისაწვდომი გახადა. ინსტრუმენტი აგებულია GPT-6 Luna-ზე და, კომპანიის განცხადებით, შეზღუდულ კითხვებს პასუხობს "10-ჯერ უფრო სწრაფად, ვიდრე GPT-6 Luna Responses API-ის მეშვეობით". TechCrunch-ის ცნობით, ეს გამოშვება OpenAI-ს პირდაპირ კონკურენციაში აყენებს TypeSafe-თან, სტარტაპთან, რომლის Jev მოდელმა შექმნა სწრაფი და იაფი "გადაწყვეტილების მიმღები" მოდელების კატეგორია და კომპანიის 7.6 მილიარდ დოლარად შეფასებას შეუწყო ხელიopenai.com+1.

რა შეიცვალა ბეტა ვერსიის შემდეგ

API გამოტოვებს სრული ტექსტის გენერაციას. დეველოპერები წერენ კითხვას, ჩამოთვლიან დასაშვებ პასუხებს და აწვდიან კონტექსტს ტექსტის, სურათების ან JSON-ის სახით. OpenAI-ის თქმით, API შემდეგ აბრუნებს ალბათობას, არჩევანს ან რუბრიკის ქულას, რომლის მიხედვითაც აპლიკაციას შეუძლია მოქმედება. OpenAI-ის ცვლილებების ჟურნალი აჩვენებს, რომ API ბეტა რეჟიმში 6 ოქტომბერს შევიდა. მას შემდეგ OpenAI-მ დაამატა GPT-Live ხმოვანი ინტეგრაცია, მოთხოვნის ქეშირება და დასკვნების განთავსება აშშ-სა და ევროკავშირში. კომპანიის თქმით, მათ ასევე გააორმაგეს ლიმიტი 400 კითხვამდე თითო მოთხოვნაზე. ფასები შეადგენს 0.10 დოლარს მილიონ შემავალ ტოკენზე და 0.01 დოლარს მილიონ ქეშირებულ ტოკენზე, ხოლო გამომავალი ტოკენებისთვის გადასახადი არ არისcommunity.openai.com+2.

რამდენიმე ადრეულმა მომხმარებელმა სიჩქარის ზრდა აღნიშნა. Box ↗ 0.68%-მა განაცხადა, რომ მარშრუტის შერჩევა დაახლოებით 5-ჯერ უფრო სწრაფი იყო. Datadog ↘ 0.86%-მა აღნიშნა, რომ აგენტების მიერ გენერირებული ბრძანებების რისკის შეფასებისას, p95 ლატენტურობა 40-ჯერ უფრო სწრაფი იყო, ვიდრე ფრონტიერ მოდელების შემთხვევაში. ენის შემსწავლელმა აპლიკაციამ Speak განაცხადა, რომ შემდეგ მოქმედებამდე დრო 1.4 წამიდან 0.13 წამამდე შემცირდაopenai.com.

რბოლა Jev-თან

ნიკუნჯ ჰანდამ, OpenAI-ის API პროდუქტის ხელმძღვანელმა, TechCrunch-ს განუცხადა, რომ კოლეგებმა, რომლებმაც Jev ნახეს, რეაგირება მოახდინეს: "ვაუ, ჩვენ ამისთვის მილიონი გამოყენების შემთხვევა გვაქვს". მან თქვა, რომ OpenAI-ს არ გაუწვრთნია სპეციალური გადაწყვეტილების მიმღები მოდელი. ამის ნაცვლად, მათ Luna დააკონფიგურირეს უფრო სწრაფად და იაფად მუშაობისთვის. "ამჟამად, ეს არის ჩვეულებრივი ძველი Luna, რომელიც საქმეს აკეთებს", – თქვა მანtechcrunch.com.

OpenAI ჯერ არ ლიდერობს ამ სფეროში. TechCrunch-ის ცნობით, AIM System One Index და Artificial Analysis Decision Index უპირატესობას ანიჭებენ Liquid-ის D1 Ultra-ს და Base Lab-ის Elephant-1-ს. Jev ამ ინდექსებში მეშვიდე და მესამე ადგილზეა, ხოლო OpenAI-ის მოდელი მერვე და მეთოთხმეტე ადგილს იკავებს. TypeSafe-ის მოდელები ასევე ყველაზე მოთხოვნადია OpenRouter-ზე. Jev ასევე უფრო იაფია, 0.042 დოლარი მილიონ შემავალ ტოკენზე, თუმცა ერთი დეველოპერის ანალიზის თანახმად, ის მხოლოდ ტექსტს იღებსcellcog.ai+1.

ფსონი სურათებსა და სიჩქარეზე

ჰანდამ თქვა, რომ სურათების დამუშავებამ შესაძლოა OpenAI-ს უპირატესობა მისცეს. "Luna უკიდურესად ძლიერია და აჩვენებს უკეთეს კალიბრაციას" სურათების კლასიფიკაციისთვის, თქვა მან. მან ასევე მიანიშნა, რომ დაბალმა ლატენტურობამ შესაძლოა ახალი გამოყენების გზები გახსნას. "შეგვიძლია თუ არა ამის მიყვანა, ვთქვათ, 60 მილიწამამდე, და შემდეგ წარმოიდგინეთ API გამოძახება ვიდეოს თითოეული კადრისთვის?"techcrunch.com