Spoluzakladatel ChatGPT spouští Jev: AI, která místo textu generuje rozhodnutí

Společnost TypeSafe AI v pondělí po dvou letech utajeného vývoje představila Jev, svůj první "System One Model". Jde o typ umělé inteligence, která zcela opouští generování textu ve prospěch vracení strukturovaných rozhodnutí, a to za zlomek nákladů a latence běžných velkých jazykových modelů. Firma se sídlem v San Franciscu zároveň oznámila získání počáteční investice ve výši 40 milionů dolarů pod vedením fondu DCVC.stackfutures

Jiný přístup k AI

Jev negeneruje text. Místo toho přijímá vstup v přirozeném jazyce nebo strukturovaný vstup a vrací typované výstupy – volby, skóre nebo pravděpodobnosti typu ano/ne – přičemž každý je doprovázen kalibrovanou hodnotou spolehlivosti. Model zpracovává tato rozhodnutí paralelně, namísto sekvenčního generování tokenů, což podle TypeSafe vysvětluje jeho rychlostní výhodu.typesafe+1

Společnost tvrdí, že Jev je u srovnatelných strukturovaných úloh 20 až 200krát rychlejší a 40 až 400krát levnější než špičkové jazykové modely. Vstupní tokeny jsou zpoplatněny částkou 0,042 USD za milion a výstupní tokeny jsou prakticky zdarma, protože nedochází k žádné autoregresivní generaci. TypeSafe uvedla výsledky benchmarků, které ukazují až 193,6násobné zrychlení a 444,6násobné snížení nákladů, přičemž uznává, že jde o horní hranici očekávaného výkonu v reálných podmínkách.explainx+2

Základní trénovací metoda, kterou TypeSafe nazývá Reinforcement Learning for Calibrated Decisions (RLCD), optimalizuje epistemicky poctivé odhady pravděpodobnosti namísto hodnocení lidských preferencí. Zakladatel Diogo Almeida, který se v OpenAI podílel na vývoji InstructGPT a technikách učení posilováním na základě lidské zpětné vazby, jež stojí za ChatGPT, popsal rozhraní modelu jako "nestrukturovaný stav na vstupu, typovaná pravděpodobnostní rozhodnutí na výstupu".stackfutures

Možnosti a omezení

Výstup Jev je omezen na tři primitivy: volbu z až 255 předdefinovaných možností, číselné skóre nebo binární pravděpodobnost. Model neumí psát prózu, vytvářet kód ani vysvětlovat své úvahy. TypeSafe to prezentuje jako záměrný kompromis, vycházející z rozlišení Daniela Kahnemana mezi rychlým, intuitivním myšlením "Systému 1" a pomalejším, uvážlivým uvažováním "Systému 2".explainx+1

Pro demonstraci rozhodování v reálném čase společnost zveřejnila video, na kterém Jev hraje hru DOOM rychlostí přibližně 10 volání za sekundu, což stojí asi 7 dolarů za hodinu hraní. Benchmark navigace po odkazech na Wikipedii ukázal, že Jev dokončuje úkoly rychleji než několik špičkových modelů běžících ve vysokorychlostním režimu bez uvažování.gigazine

Předběžný přístup a otevřené otázky

Jev je nyní dostupný prostřednictvím pořadníku na vývojářské platformě TypeSafe a dokumentace je zveřejněna na adrese docs.typesafe.ai. Nezávislé výsledky benchmarků zatím nebyly spolu s tvrzeními společnosti publikovány a model v současnosti přijímá pouze textový vstup – nikoliv obrázky. Zda si přístup strukturovaných rozhodnutí modelu Jev dokáže vybudovat trvalou niku vedle stále schopnějších univerzálních jazykových modelů, zůstává hlavní otázkou, které TypeSafe čelí při přechodu z utajení na trh.typesafe+2