Η Nvidia κυκλοφορεί τα ανοιχτά μοντέλα τεχνητής νοημοσύνης Nemotron 3.5 για πράκτορες

Η Nvidia ↘ 1.43% πρόσθεσε την Πέμπτη 15 Οκτωβρίου τρία μοντέλα ανοιχτού βάρους στην οικογένεια Nemotron. Το κορυφαίο μοντέλο είναι το Nemotron 3.5 Super VL, ένα πολυτροπικό μοντέλο 120 δισεκατομμυρίων παραμέτρων για «εξειδικευμένους πράκτορες συνεχούς λειτουργίας». Συνοδεύεται από δύο μοντέλα για edge υπολογιστές, τα Nemotron 3.5 Bolt 74B-A9B 24GB και Nemotron 3.5 Bolt E4B 4GB, σύμφωνα με την Nvidia. Τα μοντέλα αυτά προορίζονται για την εκτέλεση πρακτόρων τεχνητής νοημοσύνης σε συστήματα που κυμαίνονται από κέντρα δεδομένων έως επιτραπέζιους υπολογιστές, όπως ανέφερε το Yahoo Finance. Τα Super VL και Bolt 74B-A9B είναι ήδη διαθέσιμα, ενώ το Bolt E4B αναμένεται στις 23 Οκτωβρίου.developer.nvidia.com+1

Το Super VL στοχεύει σε εταιρικούς πράκτορες

Το Super VL χρησιμοποιεί μια σχεδίαση μείγματος ειδικών (mixture-of-experts) που ενεργοποιεί 12 δισεκατομμύρια από τις 120 δισεκατομμύρια παραμέτρους του ανά token. Διαχειρίζεται κείμενο, εικόνες, έγγραφα και βίντεο σε ένα ενιαίο μοντέλο, σύμφωνα με το ιστολόγιο προγραμματιστών της Nvidia. Η εταιρεία υποστηρίζει ότι το μοντέλο προσφέρει έως και πέντε φορές υψηλότερη απόδοση σε εργασίες πρακτόρων σε σχέση με άλλα ανοιχτά μοντέλα αντίστοιχου μεγέθους όταν εκτελείται σε μία GPU. Επιπλέον, το Super VL σημείωσε 80,8% στο benchmark συλλογιστικής διαγραμμάτων CharXiv.developer.nvidia.com

Το μοντέλο προέκυψε από το Nemotron 3 Ultra και οι επιχειρήσεις μπορούν να το εκπαιδεύσουν περαιτέρω με τα δικά τους δεδομένα. Η Nvidia ανέφερε ορισμένους πρώτους χρήστες. Η Scale AI αναμένει μείωση του κόστους συμπερασμού κατά 40 φορές για συγκεκριμένο φόρτο εργασίας, ενώ η Ramp αναμένει έως και 10 φορές χαμηλότερη καθυστέρηση στην ανάγνωση αποδείξεων. Το Super VL διατίθεται μέσω των Hugging Face, OpenRouter, ModelScope και ως μικροϋπηρεσία Nvidia NIM.blogs.nvidia.com+1

Τα μοντέλα Bolt μεταφέρουν τους πράκτορες σε τοπικό υλικό

Το Bolt 74B-A9B διαθέτει 74 δισεκατομμύρια παραμέτρους και χρησιμοποιεί 9 δισεκατομμύρια ανά token. Η κβαντισμός δύο bit επιτρέπει την αποθήκευσή του σε 24GB μνήμης. Όπως και τα άλλα μοντέλα Nemotron, τα βάρη, τα δεδομένα εκπαίδευσης και οι συνταγές του είναι πλήρως ανοιχτά, δήλωσε η Nvidia. Εκτελείται μέσω των llama.cpp, Ollama, LM Studio, Unsloth και vLLM. Η Nvidia το σχεδίασε για τους φορητούς υπολογιστές RTX Spark, οι οποίοι κυκλοφορούν την Παρασκευή 16 Οκτωβρίου. Το Bolt E4B έχει σχεδιαστεί για φυσικούς και συνομιλητικούς πράκτορες, όπως φωνητικούς βοηθούς και διαδραστικούς χαρακτήρες παιχνιδιών, σε υλικό GeForce RTX, Jetson και DGX Spark.blogs.nvidia.com+1

Η στρατηγική της Nvidia για τα ανοιχτά μοντέλα

Τα μοντέλα ανοιχτού βάρους έχουν γίνει μέρος της στρατηγικής ανάπτυξης της Nvidia. Τα φθηνότερα μοντέλα μπορούν να προσελκύσουν περισσότερους οργανισμούς στην τεχνητή νοημοσύνη, γεγονός που με τη σειρά του θα μπορούσε να τονώσει τη μακροπρόθεσμη ζήτηση για τσιπ, σημείωσε το Yahoo Finance. Κινέζοι προγραμματιστές, όπως η Moonshot AI και η Alibaba ↘ 1.82%, ηγούνται επί του παρόντος στη συζήτηση για τα ανοιχτά μοντέλα με τις οικογένειες Kimi και Qwen. Ο διευθύνων σύμβουλος Jensen Huang έχει παροτρύνει τις αμερικανικές εταιρείες να δημιουργήσουν και να υιοθετήσουν περισσότερα ανοιχτά μοντέλα, ώστε ο κλάδος να μην εγκλωβιστεί σε λίγα κλειστά συστήματα. Το ZDNET χαρακτήρισε το Super VL ως «ένα ακόμη βήμα προόδου για την αμερικανική τεχνητή νοημοσύνη ανοιχτού βάρους».zdnet.com+1