ChatGPT-medskapare lanserar Jev, en AI som skippar text för strukturerade beslut

TypeSafe AI klev ur två år av tystnad i måndags med lanseringen av Jev, deras första "System One-modell" – en typ av AI som helt avstår från textgenerering till förmån för att leverera strukturerade beslut till en bråkdel av kostnaden och latensen hos stora språkmodeller. Det San Francisco-baserade företaget meddelade också en såddrunda på 40 miljoner dollar ledd av DCVC.stackfutures

Ett annorlunda förhållningssätt till AI

Jev genererar inte text. Istället tar den emot naturligt språk eller strukturerad indata och returnerar typade utdata – val, poäng eller ja/nej-sannolikheter – var och en med kalibrerade konfidensvärden. Modellen bearbetar dessa beslut parallellt istället för att producera tokens sekventiellt, vilket TypeSafe menar är hemligheten bakom dess hastighetsfördel.typesafe+1

Företaget hävdar att Jev är 20 till 200 gånger snabbare och 40 till 400 gånger billigare än ledande språkmodeller vid jämförbara strukturerade uppgifter, med indata-tokens prissatta till 0,042 dollar per miljon och utdata-tokens i praktiken gratis eftersom ingen autoregressiv generering sker. TypeSafe rapporterade mätvärden på upp till 193,6 gånger snabbare hastighet och 444,6 gånger lägre kostnad, samtidigt som de erkänner att detta representerar det övre skiktet av förväntad prestanda i verkliga scenarier.explainx+2

Den underliggande träningsmetoden, som TypeSafe kallar Reinforcement Learning for Calibrated Decisions (RLCD), optimerar för epistemiskt ärliga sannolikhetsestimat snarare än mänskliga preferenser. Grundaren Diogo Almeida, som bidrog till utvecklingen av InstructGPT och teknikerna för förstärkningsinlärning från mänsklig feedback bakom ChatGPT på OpenAI, beskrev modellens gränssnitt som "ostrukturerat tillstånd in, typade sannolikhetsbaserade beslut ut".stackfutures

Kapacitet och begränsningar

Jevs utdata är begränsad till tre primitiver: ett val bland upp till 255 fördefinierade alternativ, ett numeriskt poängvärde eller en binär sannolikhet. Den kan inte skriva prosa, producera kod eller förklara sitt resonemang. TypeSafe ramar in detta som en medveten avvägning, baserad på Daniel Kahnemans distinktion mellan snabbt, intuitivt "System 1"-tänkande och långsammare, deliberativt "System 2"-resonemang.explainx+1

För att demonstrera beslutsfattande i realtid släppte företaget en video där Jev spelar DOOM med cirka 10 anrop per sekund, till en kostnad av ungefär 7 dollar per speltimme. Ett test med navigering via Wikipedia-länkar visade att Jev slutförde uppgifter snabbare än flera ledande modeller som kördes i höghastighetsläge utan resonemang.gigazine

Tidig tillgång och öppna frågor

Jev är tillgänglig nu via en väntelista på TypeSafes utvecklarplattform, med dokumentation publicerad på docs.typesafe.ai. Oberoende testresultat har ännu inte publicerats utöver företagets egna påståenden, och modellen accepterar för närvarande endast textindata – inga bilder. Huruvida Jevs metod med strukturerade beslut kan skapa en hållbar nisch vid sidan av alltmer kapabla generella språkmodeller förblir den centrala frågan för TypeSafe när de rör sig från skuggan till marknaden.typesafe+2