Ο συνδημιουργός του ChatGPT παρουσιάζει το Jev, ένα AI που δίνει τυποποιημένες αποφάσεις αντί για κείμενο

Η TypeSafe AI βγήκε από τη διετή περίοδο μυστικότητας τη Δευτέρα με την κυκλοφορία του Jev, του πρώτου της "System One Model", ενός τύπου τεχνητής νοημοσύνης που εγκαταλείπει πλήρως την παραγωγή κειμένου υπέρ της παροχής δομημένων αποφάσεων με ένα κλάσμα του κόστους και της καθυστέρησης των μεγάλων γλωσσικών μοντέλων. Η εταιρεία με έδρα το Σαν Φρανσίσκο ανακοίνωσε επίσης έναν γύρο χρηματοδότησης 40 εκατομμυρίων δολαρίων με επικεφαλής την DCVC.stackfutures

Μια διαφορετική προσέγγιση στην τεχνητή νοημοσύνη

Το Jev δεν παράγει κείμενο. Αντίθετα, δέχεται εισαγωγή δεδομένων σε φυσική γλώσσα ή δομημένη μορφή και επιστρέφει τυποποιημένες εξόδους, όπως επιλογές, βαθμολογίες ή πιθανότητες ναι/όχι, συνοδευόμενες από βαθμονομημένες τιμές εμπιστοσύνης. Το μοντέλο επεξεργάζεται αυτές τις αποφάσεις παράλληλα αντί να παράγει διαδοχικά tokens, κάτι που η TypeSafe υποστηρίζει ότι αποτελεί το πλεονέκτημα ταχύτητάς του.typesafe+1

Η εταιρεία ισχυρίζεται ότι το Jev είναι 20 έως 200 φορές ταχύτερο και 40 έως 400 φορές φθηνότερο από τα κορυφαία LLM σε αντίστοιχες δομημένες εργασίες, με τα tokens εισόδου να κοστίζουν 0,042 δολάρια ανά εκατομμύριο και τα tokens εξόδου να είναι ουσιαστικά δωρεάν, καθώς δεν πραγματοποιείται αυτοπαλινδρομική παραγωγή. Η TypeSafe ανέφερε στοιχεία απόδοσης έως και 193,6 φορές μεγαλύτερη ταχύτητα και 444,6 φορές μείωση κόστους, αναγνωρίζοντας ότι αυτά αντιπροσωπεύουν το ανώτατο όριο της αναμενόμενης απόδοσης στον πραγματικό κόσμο.explainx+2

Η υποκείμενη μέθοδος εκπαίδευσης, την οποία η TypeSafe ονομάζει Reinforcement Learning for Calibrated Decisions (RLCD), βελτιστοποιεί τις επιστημολογικά ειλικρινείς εκτιμήσεις πιθανοτήτων αντί για αξιολογήσεις ανθρώπινης προτίμησης. Ο ιδρυτής Diogo Almeida, ο οποίος συνέβαλε στην ανάπτυξη του InstructGPT και των τεχνικών ενισχυτικής μάθησης από ανθρώπινη ανατροφοδότηση πίσω από το ChatGPT στην OpenAI, περιέγραψε τη διεπαφή του μοντέλου ως "μη δομημένη κατάσταση εισόδου, τυποποιημένες πιθανολογικές αποφάσεις εξόδου".stackfutures

Δυνατότητες και περιορισμοί

Η έξοδος του Jev περιορίζεται σε τρία πρωτόγονα στοιχεία: μια επιλογή ανάμεσα σε έως 255 προκαθορισμένες επιλογές, μια αριθμητική βαθμολογία ή μια δυαδική πιθανότητα. Δεν μπορεί να γράψει κείμενο, να παράγει κώδικα ή να εξηγήσει τη συλλογιστική του. Η TypeSafe το παρουσιάζει ως έναν σκόπιμο συμβιβασμό, βασιζόμενη στη διάκριση του Daniel Kahneman μεταξύ της γρήγορης, διαισθητικής σκέψης "Συστήματος 1" και της πιο αργής, στοχαστικής σκέψης "Συστήματος 2".explainx+1

Για να αποδείξει τη λήψη αποφάσεων σε πραγματικό χρόνο, η εταιρεία δημοσίευσε ένα βίντεο με το Jev να παίζει DOOM με περίπου 10 κλήσεις ανά δευτερόλεπτο, με κόστος περίπου 7 δολάρια ανά ώρα παιχνιδιού. Μια αξιολόγηση πλοήγησης σε συνδέσμους της Wikipedia έδειξε ότι το Jev ολοκλήρωνε εργασίες ταχύτερα από αρκετά κορυφαία μοντέλα που λειτουργούσαν σε λειτουργία υψηλής ταχύτητας χωρίς συλλογισμό.gigazine

Πρώιμη πρόσβαση και ανοιχτά ερωτήματα

Το Jev είναι διαθέσιμο τώρα μέσω λίστας αναμονής στην πλατφόρμα προγραμματιστών της TypeSafe, με την τεκμηρίωση δημοσιευμένη στη διεύθυνση docs.typesafe.ai. Τα αποτελέσματα ανεξάρτητων αξιολογήσεων δεν έχουν ακόμη δημοσιευτεί παράλληλα με τους ισχυρισμούς της εταιρείας, και το μοντέλο προς το παρόν δέχεται μόνο εισαγωγή κειμένου, όχι εικόνες. Το αν η προσέγγιση δομημένων αποφάσεων του Jev μπορεί να δημιουργήσει μια βιώσιμη θέση δίπλα στα ολοένα και πιο ικανά LLM γενικού σκοπού παραμένει το κεντρικό ερώτημα που αντιμετωπίζει η TypeSafe καθώς μεταβαίνει από τη φάση της μυστικότητας στην αγορά.typesafe+2