ChatGPT-medskaper lanserer Jev, en KI som dropper tekst for strukturerte valg

TypeSafe AI kom ut av to år i skjul på mandag med lanseringen av Jev, deres første "System One-modell" – en type KI som dropper tekstgenerering fullstendig til fordel for å levere strukturerte beslutninger til en brøkdel av kostnaden og ventetiden til store språkmodeller. Selskapet fra San Francisco kunngjorde også en såkornrunde på 40 millioner dollar ledet av DCVC.stackfutures

En annerledes tilnærming til KI

Jev genererer ikke tekst. I stedet tar den imot naturlig språk eller strukturerte data og returnerer typede utdata – valg, skårer eller ja/nei-sannsynligheter – hver med kalibrerte konfidensverdier. Modellen behandler disse beslutningene parallelt i stedet for å produsere tokens sekvensielt, noe TypeSafe sier er årsaken til hastighetsfordelen.typesafe+1

Selskapet hevder Jev er 20 til 200 ganger raskere og 40 til 400 ganger billigere enn ledende språkmodeller på sammenlignbare strukturerte oppgaver, med inndata-tokens priset til 0,042 dollar per million og utdata-tokens i praksis gratis fordi ingen autoregressiv generering forekommer. TypeSafe rapporterte måltall på opptil 193,6 ganger raskere hastighet og 444,6 ganger lavere kostnader, samtidig som de erkjenner at dette representerer øvre sjikt av forventet ytelse i den virkelige verden.explainx+2

Den underliggende treningsmetoden, som TypeSafe kaller Reinforcement Learning for Calibrated Decisions (RLCD), optimaliserer for epistemisk ærlige sannsynlighetsestimater fremfor menneskelige preferanser. Grunnlegger Diogo Almeida, som bidro til utviklingen av InstructGPT og teknikkene for forsterkningslæring fra menneskelige tilbakemeldinger bak ChatGPT hos OpenAI, beskrev modellens grensesnitt som "ustrukturert tilstand inn, typede sannsynlighetsbaserte beslutninger ut".stackfutures

Kapasitet og begrensninger

Jevs utdata er begrenset til tre primitiver: et valg blant opptil 255 forhåndsdefinerte alternativer, en numerisk skåre eller en binær sannsynlighet. Den kan ikke skrive prosa, produsere kode eller forklare resonnementet sitt. TypeSafe rammer dette inn som et bevisst kompromiss, basert på Daniel Kahnemans skille mellom rask, intuitiv "System 1"-tenkning og langsommere, deliberativ "System 2"-resonnering.explainx+1

For å demonstrere sanntidsbeslutninger publiserte selskapet en video av Jev som spiller DOOM med omtrent 10 kall per sekund, til en kostnad på rundt 7 dollar per time med spilling. En test med navigering via Wikipedia-lenker viste at Jev fullførte oppgaver raskere enn flere ledende modeller som kjørte i høyhastighetsmodus uten resonnering.gigazine

Tidlig tilgang og åpne spørsmål

Jev er tilgjengelig nå via en venteliste på TypeSafes utviklerplattform, med dokumentasjon publisert på docs.typesafe.ai. Uavhengige testresultater er ennå ikke publisert ved siden av selskapets egne påstander, og modellen aksepterer foreløpig kun tekstinndata – ingen bilder. Hvorvidt Jevs tilnærming med strukturerte beslutninger kan skape en varig nisje ved siden av stadig mer kapable generelle språkmodeller, forblir det sentrale spørsmålet for TypeSafe når de beveger seg fra skjul til markedet.typesafe+2