Τα μικρά μοντέλα τεχνητής νοημοσύνης για επιτραπέζιους υπολογιστές μπορούν να ανταγωνιστούν τα συστήματα cloud, σύμφωνα με μελέτη του Stanford

Μια μελέτη του Πανεπιστημίου Stanford προσελκύει το ενδιαφέρον καθώς διαπιστώνει ότι τα μικρά γλωσσικά μοντέλα που εκτελούνται σε επιτραπέζιους υπολογιστές μπορούν να ανταποκριθούν στις επιδόσεις μεγάλων συστημάτων τεχνητής νοημοσύνης που βασίζονται στο cloud στη συντριπτική πλειονότητα των εργασιών — καταναλώνοντας παράλληλα πολύ λιγότερη ενέργεια. Η έρευνα, η οποία εισήγαγε μια νέα μέτρηση που ονομάζεται «νοημοσύνη ανά watt», αναδείχθηκε αυτή την εβδομάδα σε άρθρο του Reuters από τον στρατηγικό αναλυτή επενδύσεων Joachim Klement, ο οποίος υποστήριξε ότι τα ευρήματα εγείρουν ερωτήματα σχετικά με τη μακροπρόθεσμη κερδοφορία των εταιρειών που κατασκευάζουν ολοένα μεγαλύτερα μοντέλα τεχνητής νοημοσύνης.Inkl+1

Τι διαπίστωσε η μελέτη

Η εργασία του Stanford, με συγγραφείς τους Jon Saad-Falcon, Avanika Narayan και συναδέλφους τους από το Πανεπιστήμιο Stanford και την Together AI, δοκίμασε περισσότερα από 20 τοπικά γλωσσικά μοντέλα με έως και 20 δισεκατομμύρια ενεργές παραμέτρους σε οκτώ επιταχυντές υλικού και ένα εκατομμύριο ερωτήματα πραγματικού κόσμου για συνομιλία και συλλογισμό. Οι ερευνητές διαπίστωσαν ότι τα τοπικά μοντέλα μπορούν να απαντήσουν με ακρίβεια στο 88,7% των ερωτημάτων, με την ακρίβεια να υπερβαίνει το 90% σε δημιουργικές εργασίες και να παραμένει ισχυρή σε εφαρμογές πωλήσεων, διαχείρισης και ψυχαγωγίας.Let's Data Science+3

Στις πιο δύσκολες εργασίες συλλογισμού, τα μικρά μοντέλα συμβαδίζουν με τα μεγάλα γλωσσικά μοντέλα σε περίπου 50% των περιπτώσεων — από μόλις 8% δύο χρόνια νωρίτερα, σύμφωνα με την ανάλυση των ευρημάτων από τον Klement. Η μελέτη διαπίστωσε επίσης ότι η «νοημοσύνη ανά watt» βελτιώθηκε 5,3 φορές μεταξύ 2023 και 2025, λόγω μιας αύξησης 3,1x από τις βελτιώσεις των μοντέλων και 1,7x από τις εξελίξεις στο υλικό.scalingintelligence.stanford+2

Επιπτώσεις στην ενέργεια και το κόστος

Τα κέρδη στην αποδοτικότητα έχουν άμεσες οικονομικές συνέπειες. Μια προσέγγιση δρομολόγησης «oracle» — που κατευθύνει τα ερωτήματα σε τοπικά μοντέλα όταν είναι ικανά — θα μπορούσε να μειώσει τη χρήση ενέργειας κατά 80,4% και το κόστος υπολογισμών κατά 73,8% σε σύγκριση με την εξαγωγή συμπερασμάτων μόνο μέσω cloud, διαπίστωσε η ομάδα του Stanford. Ακόμη και ένας ατελής δρομολογητής που λειτουργεί με ακρίβεια 80% εξακολουθεί να προσφέρει μειώσεις ενέργειας άνω του 60%.Linkedin

Τα ευρήματα της μελέτης έρχονται καθώς η Nvidia ↘ 1.51%, η οποία προμηθεύει τις GPU που τροφοδοτούν την τεχνητή νοημοσύνη στα κέντρα δεδομένων, αντιμετωπίζει ερωτήματα σχετικά με το αν η ζήτηση για κεντρικούς υπολογισμούς θα αυξηθεί όπως προβλέπεται. Ο Klement έγραψε ότι αν τα μικρά μοντέλα συνεχίσουν να βελτιώνονται με τον τρέχοντα ρυθμό τους, εταιρείες όπως η Anthropic, η OpenAI και η xAI «μπορεί να έχουν λόγους να ανησυχούν» επειδή «το μέλλον της τεχνητής νοημοσύνης θα μπορούσε να είναι μικρότερο, φθηνότερο και πολύ λιγότερο κερδοφόρο από ό,τι αναμένουν οι επενδυτές».klementoninvesting.substack

Ένα μεταβαλλόμενο τοπίο

Η έρευνα αντικατοπτρίζει μια ευρύτερη τάση του κλάδου. Ερευνητές της IBM International Business Machines Corporation ↘ 1.06% έχουν δοκιμάσει μοντέλα όπως το gpt-oss της OpenAI, το Qwen3 και το Granite 4.0 της IBM σε καταναλωτικό υλικό, διαπιστώνοντας ότι τα τρέχοντα τοπικά μοντέλα επιτυγχάνουν υψηλότερη νοημοσύνη ανά watt από τα μοντέλα παλαιότερης γενιάς σε εξειδικευμένο υλικό. Η ίδια η Nvidia δημοσίευσε μια εργασία το 2026 υποστηρίζοντας ότι τα μικρά γλωσσικά μοντέλα είναι «αρκετά ισχυρά, εγγενώς πιο κατάλληλα και αναγκαστικά πιο οικονομικά» για συστήματα τεχνητής νοημοσύνης με δυνατότητα δράσης.IBM+1

Η εργασία του Stanford κυκλοφόρησε για πρώτη φορά ως προδημοσίευση τον Νοέμβριο του 2025, με την κάλυψη τοπικών ερωτημάτων — το ποσοστό των ερωτημάτων πραγματικού κόσμου που μπορούν να χειριστούν με ακρίβεια τα τοπικά μοντέλα — να έχει αυξηθεί από 23,2% το 2023 σε 71,3% το 2025.Let's Data Science+1