Η OpenAI προσθέτει φθηνότερο μοντέλο στο Dots λόγω αυξημένου κόστους υπολογιστικής ισχύος

Η OpenAI δηλώνει ότι οι νέοι προσωπικοί βοηθοί Dots χρησιμοποιούν μεγάλη υπολογιστική ισχύ. Η εταιρεία αναθέτει πλέον μέρος της εργασίας τους σε ένα μικρότερο και φθηνότερο μοντέλο. Η παραδοχή αυτή ενισχύει τις αμφιβολίες για το αν ο κλάδος μπορεί να αντέξει το κόστος των διαρκώς ενεργών πρακτόρων τεχνητής νοημοσύνης. Σε δείπνο με δημοσιογράφους στη Νέα Υόρκη τη Δευτέρα 2 Νοεμβρίου, ο Adam Fry, επικεφαλής του καταναλωτικού τομέα του ChatGPT, δήλωσε ότι το Dots είναι «βαριά εφαρμογή από πλευράς υπολογιστικής ισχύος». Πρόσθεσε ότι κάθε βοηθός τρέχει στον δικό του υπολογιστή cloud για να εκτελεί εργασίες για τους χρήστες μέσω των συνδεδεμένων λογαριασμών τους.finance.yahoo.com

Οι ανταγωνιστές αντιμετωπίζουν το ίδιο πρόβλημα. Ο Elon Musk δήλωσε αυτή την εβδομάδα ότι το κόστος λειτουργίας του Grok Bot, του προσωπικού βοηθού που λάνσαρε η SpaceX τον Αύγουστο, είναι «μη βιώσιμα υψηλό σε σχέση με τα έσοδα». Άφησε να εννοηθεί ότι η εταιρεία μειώνει την υπολογιστική ισχύ που του διατίθεται, με αποτέλεσμα οι χρήστες να φτάνουν στα όριά τους νωρίτερα. Η στροφή του κλάδου προς τους πράκτορες ακολουθεί την επιτυχία του βοηθού Muse της Meta ↗ 1.44%, σύμφωνα με το Fortune.fortune.com

Ένα φθηνότερο μοντέλο στο μείγμα

Την Τρίτη 3 Νοεμβρίου, η OpenAI ανακοίνωσε ότι επεκτείνει τα μοντέλα που τροφοδοτούν το Dots ώστε να περιλαμβάνουν το GPT-6.1 Terra. Ένα Dot μπορεί πλέον να χρησιμοποιεί διαφορετικά μοντέλα για διαφορετικά μέρη της εργασίας του. Το Terra είναι μικρότερο και απαιτεί λιγότερη υπολογιστική ισχύ από το GPT-6 Astra, το οποίο αρχικά εκτελούσε κάθε εργασία του Dots. Ο νέος αυτόματος δρομολογητής έχει σκοπό να κάνει το Dots λιγότερο απαιτητικό σε υπολογιστική ισχύ.openai.com+1

Προς το παρόν, το Dots είναι διαθέσιμο μόνο στο πρόγραμμα Pro των 100 δολαρίων τον μήνα. Ο Fry δήλωσε ότι η διάθεσή του σε περισσότερους χρήστες εξαρτάται από μια σημαντική πρόοδο στην αποδοτικότητα της υπολογιστικής ισχύος, την οποία αναμένει ότι θα έρθει και θα μειώσει γρήγορα το κόστος. Επιθυμεί επίσης το Dots να γίνει μια διαρκώς διαθέσιμη παρουσία μέσω λειτουργιών όπως η «λειτουργία παρασκηνίου», η οποία θα σήμαινε χρήση ακόμη μεγαλύτερης υπολογιστικής ισχύος.finance.yahoo.com

Η χρηματοδότηση γίνεται δυσκολότερη

Το χρήμα είναι ο άλλος περιοριστικός παράγοντας. Η OpenAI έχει εξασφαλίσει περίπου 11 δισεκατομμύρια δολάρια σε δεσμεύσεις για τον τελευταίο γύρο χρηματοδότησης, λιγότερο από το μισό του στόχου των 30 δισεκατομμυρίων δολαρίων, με αποτίμηση 1,25 τρισεκατομμυρίων δολαρίων, ανέφερε η The Wall Street Journal News Corp ↗ 4.15%. Η εταιρεία ήλπιζε για 1,4 τρισεκατομμύρια δολάρια. Οι Financial Times ανέφεραν ότι η OpenAI μείωσε τον στόχο της στα 20 δισεκατομμύρια δολάρια, με μια μεταγενέστερη προσφορά για εύπορους ιδιώτες που αποσκοπεί στο να καλύψει το κενό. Η OpenAI δεν έχει επιβεβαιώσει δημόσια τα στοιχεία.wsj.com+1

Τσιπ και ανταγωνισμός

Η OpenAI βασίζεται κυρίως στις GPU της Nvidia ↘ 3.17% και σχεδιάζει να κλιμακώσει την παραγωγή του δικού της τσιπ, με την ονομασία Jalapeno, το 2027, ανέφερε το Fortune. Η Anthropic, η οποία χρησιμοποιεί τέσσερις τύπους τσιπ, έχει υπογράψει συμφωνίες αγοράς αξίας 895,4 δισεκατομμυρίων δολαρίων, «το σύνολο σχεδόν των οποίων αφορά υπολογιστική ισχύ και υποδομές», σύμφωνα με το τροποποιημένο S-1 της. Παρόλα αυτά, αναφέρει την αδυναμία εξασφάλισης περισσότερης υπολογιστικής ισχύος ως σημαντικό κίνδυνο. Το Fortune έθεσε το πρόβλημα ως εξής: «όσο πιο ισχυροί και διαρκώς ενεργοί γίνονται οι προσωπικοί πράκτορες τεχνητής νοημοσύνης, τόσο περισσότερη υπολογιστική ισχύ καταναλώνουν. Θα μπορέσει ποτέ η OpenAI να προλάβει τον εαυτό της;»finance.yahoo.com