El co-creador de ChatGPT lanza Jev, una IA que prioriza decisiones sobre texto

TypeSafe AI salió del modo oculto este lunes con el lanzamiento de Jev, su primer "modelo de sistema uno", un tipo de IA que prescinde de la generación de texto para ofrecer decisiones estructuradas a una fracción del costo y la latencia de los grandes modelos de lenguaje. La empresa con sede en San Francisco también anunció una ronda de financiación semilla de 40 millones de dólares liderada por DCVC.stackfutures

Un enfoque diferente hacia la IA

Jev no genera texto. En su lugar, toma entradas de lenguaje natural o estructuradas y devuelve salidas tipadas, como opciones, puntuaciones o probabilidades de sí/no, cada una acompañada de valores de confianza calibrados. El modelo procesa estas decisiones en paralelo en lugar de producir tokens de forma secuencial, lo que según TypeSafe explica su ventaja en velocidad.typesafe+1

La compañía afirma que Jev es de 20 a 200 veces más rápido y de 40 a 400 veces más barato que los LLM de vanguardia en tareas estructuradas comparables, con tokens de entrada a 0.042 dólares por millón y tokens de salida prácticamente gratuitos al no haber generación autorregresiva. TypeSafe reportó cifras de referencia de hasta 193.6 veces en ganancias de velocidad y 444.6 veces en reducción de costos, aunque reconoce que representan el límite superior del rendimiento esperado en el mundo real.explainx+2

El método de entrenamiento subyacente, que TypeSafe denomina Aprendizaje por Refuerzo para Decisiones Calibradas (RLCD), optimiza estimaciones de probabilidad epistémicamente honestas en lugar de calificaciones de preferencia humana. El fundador Diogo Almeida, quien contribuyó al desarrollo de InstructGPT y a las técnicas de aprendizaje por refuerzo con retroalimentación humana detrás de ChatGPT en OpenAI, describió la interfaz del modelo como "estado no estructurado dentro, decisiones probabilísticas tipadas fuera".stackfutures

Capacidades y limitaciones

La salida de Jev se limita a tres primitivas: una elección entre hasta 255 opciones predefinidas, una puntuación numérica o una probabilidad binaria. No puede escribir prosa, producir código ni explicar su razonamiento. TypeSafe presenta esto como una compensación deliberada, basándose en la distinción de Daniel Kahneman entre el pensamiento rápido e intuitivo del "Sistema 1" y el razonamiento deliberativo y lento del "Sistema 2".explainx+1

Para demostrar la toma de decisiones en tiempo real, la empresa publicó un video de Jev jugando a DOOM a unas 10 llamadas por segundo, con un costo de unos 7 dólares por hora de juego. Una prueba de navegación de enlaces en Wikipedia mostró que Jev completaba tareas más rápido que varios modelos de vanguardia ejecutándose en modo de alta velocidad sin razonamiento.gigazine

Acceso anticipado y preguntas abiertas

Jev ya está disponible a través de una lista de espera en la plataforma de desarrolladores de TypeSafe, con documentación publicada en docs.typesafe.ai. Aún no se han publicado resultados de evaluaciones independientes junto con las afirmaciones de la empresa, y el modelo actualmente solo acepta entrada de texto, sin imágenes. La gran pregunta que enfrenta TypeSafe al salir del modo oculto es si el enfoque de decisiones estructuradas de Jev podrá hacerse un hueco duradero frente a los LLM de propósito general cada vez más capaces.typesafe+2