Le co-créateur de ChatGPT lance Jev, une IA qui privilégie les décisions au texte

TypeSafe AI est sortie de deux ans de développement discret lundi avec le lancement de Jev, son premier "modèle de système un", une IA qui renonce totalement à la génération de texte pour fournir des décisions structurées, avec une fraction du coût et de la latence des grands modèles de langage. L'entreprise basée à San Francisco a également annoncé une levée de fonds d'amorçage de 40 millions de dollars menée par DCVC.stackfutures

Une approche différente de l'IA

Jev ne génère pas de texte. Au lieu de cela, il prend des entrées en langage naturel ou structurées et renvoie des sorties typées, comme des choix, des scores ou des probabilités oui/non, accompagnées de valeurs de confiance calibrées. Le modèle traite ces décisions en parallèle plutôt que de produire des jetons de manière séquentielle, ce qui, selon TypeSafe, explique son avantage en termes de vitesse.typesafe+1

L'entreprise affirme que Jev est 20 à 200 fois plus rapide et 40 à 400 fois moins cher que les LLM de pointe sur des tâches structurées comparables, avec des jetons d'entrée facturés 0,042 dollar par million et des jetons de sortie pratiquement gratuits, aucune génération autorégressive n'ayant lieu. TypeSafe a rapporté des chiffres de référence allant jusqu'à 193,6 fois en gain de vitesse et 444,6 fois en réduction des coûts, tout en reconnaissant qu'il s'agit de la limite supérieure des performances attendues dans le monde réel.explainx+2

La méthode d'entraînement sous-jacente, que TypeSafe appelle Apprentissage par renforcement pour des décisions calibrées (RLCD), optimise des estimations de probabilité épistémiquement honnêtes plutôt que des évaluations de préférences humaines. Le fondateur Diogo Almeida, qui a contribué au développement d'InstructGPT et aux techniques d'apprentissage par renforcement à partir de rétroaction humaine derrière ChatGPT chez OpenAI, a décrit l'interface du modèle comme "état non structuré en entrée, décisions probabilistes typées en sortie".stackfutures

Capacités et contraintes

La sortie de Jev se limite à trois primitives : un choix parmi 255 options prédéfinies, un score numérique ou une probabilité binaire. Il ne peut pas rédiger de prose, produire de code ou expliquer son raisonnement. TypeSafe présente cela comme un compromis délibéré, s'appuyant sur la distinction de Daniel Kahneman entre la pensée intuitive et rapide du "Système 1" et le raisonnement délibératif et lent du "Système 2".explainx+1

Pour démontrer la prise de décision en temps réel, l'entreprise a publié une vidéo de Jev jouant à DOOM à environ 10 appels par seconde, pour un coût d'environ 7 dollars par heure de jeu. Un benchmark de navigation sur Wikipedia a montré que Jev accomplissait des tâches plus rapidement que plusieurs modèles de pointe fonctionnant en mode haute vitesse sans raisonnement.gigazine

Accès anticipé et questions en suspens

Jev est disponible dès maintenant via une liste d'attente sur la plateforme développeur de TypeSafe, avec une documentation publiée sur docs.typesafe.ai. Les résultats de benchmarks indépendants n'ont pas encore été publiés pour confirmer les affirmations de l'entreprise, et le modèle n'accepte actuellement que des entrées textuelles, sans images. La question centrale pour TypeSafe, alors qu'elle sort de l'ombre, est de savoir si l'approche de décision structurée de Jev pourra se tailler une place durable face aux LLM généralistes de plus en plus performants.typesafe+2