Η Google κυκλοφορεί το DiffusionGemma, ένα ανοιχτό μοντέλο τεχνητής νοημοσύνης που παράγει κείμενο παράλληλα

Η Google DeepMind της Alphabet Inc. ↗ 0.87% κυκλοφόρησε την Τρίτη το DiffusionGemma, ένα πειραματικό γλωσσικό μοντέλο ανοιχτού κώδικα που εγκαταλείπει την προσέγγιση «ένα token τη φορά» των συμβατικών συστημάτων τεχνητής νοημοσύνης υπέρ της ταυτόχρονης παραγωγής ολόκληρων μπλοκ κειμένου, προσφέροντας, σύμφωνα με την εταιρεία, έως και τέσσερις φορές ταχύτερη συμπερασματολογία σε εξειδικευμένες κάρτες γραφικών.

Μια νέα αρχιτεκτονική για ταχύτητα

Σε αντίθεση με τα τυπικά αυτοπαλινδρομικά μοντέλα που παράγουν κείμενο διαδοχικά, το DiffusionGemma χρησιμοποιεί έναν αποκωδικοποιητή βασισμένο στη διάχυση που συντάσσει 256 tokens παράλληλα με κάθε πέρασμα, μετατοπίζοντας το σημείο συμφόρησης της συμπερασματολογίας από το εύρος ζώνης της μνήμης στην υπολογιστική ισχύ. Το μοντέλο είναι ένας σχεδιασμός Mixture of Experts 26 δισεκατομμυρίων παραμέτρων που ενεργοποιεί μόνο 3,8 δισεκατομμύρια παραμέτρους κατά τη συμπερασματολογία, επιτρέποντάς του να χωρέσει στα 18GB VRAM των high-end καταναλωτικών καρτών γραφικών όταν είναι κβαντισμένο.letsdatascience+2

Η Google αναφέρει ρυθμό απόδοσης άνω των 1.000 tokens ανά δευτερόλεπτο σε έναν μόνο επιταχυντή H100 της Nvidia ↘ 0.52% και πάνω από 700 tokens ανά δευτερόλεπτο σε μια Nvidia GeForce RTX 5090. Η εταιρεία χαρακτήρισε αυτά τα στοιχεία ως περίπου τέσσερις φορές την ταχύτητα απόδοσης των συγκρίσιμου μεγέθους αυτοπαλινδρομικών μοντέλων Gemma σε φόρτους εργασίας ενός χρήστη.blog+1

Βελτιστοποίηση Nvidia και διαθεσιμότητα

Η Google δήλωσε ότι συνεργάστηκε απευθείας με τη Nvidia για τη βελτιστοποίηση του DiffusionGemma σε όλη τη σειρά υλικού του κατασκευαστή chip, από τις καταναλωτικές κάρτες γραφικών GeForce RTX 4090 και 5090 έως τα συστήματα Hopper και Blackwell για επιχειρήσεις, συμπεριλαμβανομένων των DGX Spark και DGX Station για τοπική ανάπτυξη. Η εγγενής υποστήριξη για τη μορφή κινητής υποδιαστολής τεσσάρων bit NVFP4 της Nvidia επιταχύνει τους υπολογισμούς με αυτό που η Google περιέγραψε ως «σχεδόν μηδενική απώλεια ακρίβειας».blog

Τα βάρη του μοντέλου είναι διαθέσιμα με άδεια Apache 2.0 στο Hugging Face, και οι προγραμματιστές μπορούν επίσης να έχουν πρόσβαση στο DiffusionGemma μέσω του Nvidia NIM. Η εξυπηρέτηση υποστηρίζεται μέσω των vLLM, MLX και Hugging Face Transformers.google+1

Συμβιβασμοί και περιπτώσεις χρήσης-στόχοι

Η Google ήταν σαφής ότι το DiffusionGemma υπολείπεται των τυπικών μοντέλων Gemma 4 όσον αφορά τη συνολική ποιότητα απόδοσης, τοποθετώντας την κυκλοφορία ως πειραματική και στοχεύοντας ερευνητές που εξερευνούν ροές εργασίας κρίσιμης ταχύτητας, όπως η ενσωματωμένη επεξεργασία, η συμπλήρωση κώδικα και η παραγωγή μη γραμμικών δομών κειμένου. Το πλεονέκτημα της παράλληλης αποκωδικοποίησης μειώνεται επίσης υπό συνθήκες υψηλής ταυτόχρονης εξυπηρέτησης στο cloud, όπου τα αυτοπαλινδρομικά μοντέλα μπορούν ήδη να κορεστούν το υλικό μέσω της ομαδοποίησης αιτημάτων.letsdatascience+2

Η κυκλοφορία βασίζεται στην ευρύτερη έρευνα της Google για τη διάχυση κειμένου, η οποία ξεκίνησε δημόσια με την επίδειξη Gemini Diffusion τον Μάιο του 2025, και επεκτείνει την οικογένεια ανοιχτών μοντέλων Gemma 4 που κυκλοφόρησε νωρίτερα αυτόν τον μήνα.Signal Daily News+1