Η Amazon ανοίγει τα τσιπ τεχνητής νοημοσύνης Trainium σε όλους τους προγραμματιστές PyTorch

Η Amazon.com, Inc. ↘ 0.95% παρουσίασε το TorchNeuron, ένα λογισμικό που επιτρέπει στους προγραμματιστές να εκτελούν κώδικα γραμμένο σε PyTorch στα τσιπ τεχνητής νοημοσύνης Trainium με μία μόνο αλλαγή διαμόρφωσης και χωρίς να χρειάζεται επανεγγραφή, ανέφερε το Reuters. Το εργαλείο προέρχεται από την Annapurna Labs, τη μονάδα κατασκευής τσιπ της Amazon. Στοχεύει στο πλεονέκτημα λογισμικού που υποστηρίζει την κυριαρχία της Nvidia ↘ 0.59% στον τομέα της υπολογιστικής τεχνητής νοημοσύνης.reuters.com

Το TorchNeuron βρισκόταν σε κλειστή beta από τα τέλη του περασμένου έτους. Τη Δευτέρα 19 Οκτωβρίου, η Amazon το διέθεσε σε όλους τους προγραμματιστές ως δημόσια beta, σύμφωνα με το GeekWire. Η Amazon δήλωσε ότι θα κυκλοφορήσει το λογισμικό ως ανοιχτού κώδικα υπό την άδεια Apache 2.0 την Τρίτη 20 Οκτωβρίου, στο συνέδριο PyTorch Conference North America. Το εργαλείο υποστηρίζει τα Trainium2 και Trainium3.geekwire.com+1

Πώς λειτουργεί

Μέχρι τώρα, οι προγραμματιστές που ήθελαν να εκτελέσουν κώδικα PyTorch στο Trainium έπρεπε να τον τροποποιήσουν ώστε να καλεί διεπαφές προγραμματισμού κατασκευασμένες ειδικά για τα τσιπ της Amazon, δήλωσε στο GeekWire το στέλεχος της Annapurna Labs, Colin Brace. "Αν γνωρίζετε PyTorch, τότε γνωρίζετε το Trainium", είπε. Το TorchNeuron χρησιμοποιεί το ενσωματωμένο σύστημα του PyTorch για την καταχώριση νέου υλικού, επομένως τα εργαλεία που χρησιμοποιούν ήδη οι προγραμματιστές για δοκιμές, αποσφαλμάτωση και κλιμάκωση λειτουργούν στο Trainium χωρίς αλλαγές, ανέφερε η Amazon. Λειτουργεί επίσης με το TorchTitan, το πλαίσιο κατανεμημένης εκπαίδευσης του PyTorch.aboutamazon.com+1

Η Amazon δοκιμάζει το εργαλείο κάθε βράδυ σε περισσότερα από 100.000 μοντέλα από το Hugging Face, δήλωσε ο Brace. Η εταιρεία έχει επίσης υποβάλει αλλαγές στον ίδιο τον PyTorch για να αφαιρέσει κώδικα που συνέδεε το πλαίσιο με συγκεκριμένα τσιπ, ανέφερε το GeekWire.geekwire.com

"Πρόκειται για την προσέγγιση των πελατών εκεί που βρίσκονται", δήλωσε ο Brace στο Reuters. Ανέφερε ότι περισσότεροι από 30 πρώιμοι πελάτες στους τομείς της ρομποτικής, των παγκόσμιων μοντέλων και της τεχνητής νοημοσύνης φωνής χρησιμοποιούν το λογισμικό. Η startup Deepgram, που ειδικεύεται στην τεχνητή νοημοσύνη ομιλίας, δήλωσε ότι τα benchmarks της έδειξαν πως το Trainium επεξεργάζεται περίπου 60% περισσότερο ήχο ανά δολάριο σε σχέση με την υπάρχουσα εγκατάσταση GPU της, σύμφωνα με το GeekWire.reuters.com+1

Η πρόκληση προς την Cuda

Ο PyTorch επιβλέπεται από τη Meta ↘ 0.96% και χρησιμοποιείται από τους περισσότερους προγραμματιστές τεχνητής νοημοσύνης. Η Nvidia έχει αφιερώσει πάνω από μια δεκαετία στην ανάπτυξη της Cuda, της πλατφόρμας λογισμικού της που κάνει τον κώδικα PyTorch να εκτελείται αποτελεσματικά στα δικά της τσιπ, σημείωσε το Reuters. Η μεταφορά αυτού του κώδικα σε άλλο υλικό μπορεί να απαιτήσει μήνες μηχανικής εργασίας. Αυτό έχει κάνει πολλές εταιρείες διστακτικές στο να αλλάξουν, ανέφερε το GeekWire.reuters.com+1

Οι ανταγωνιστές προχωρούν σε παρόμοιες κινήσεις. Η Google, μέρος της Alphabet ↘ 1.08%, κατασκευάζει το TorchTPU για να εκτελεί τον PyTorch εγγενώς στα τσιπ της. Η Microsoft ↗ 0.66% δήλωσε την περασμένη εβδομάδα ότι σχεδιάζει να εκτελεί τις περισσότερες από τις υπηρεσίες τεχνητής νοημοσύνης της στα δικά της τσιπ Maia, ανέφερε το GeekWire.geekwire.com

Η εμβέλεια του Trainium

Μέχρι στιγμής, οι μεγαλύτεροι χρήστες του Trainium είναι εργαστήρια τεχνητής νοημοσύνης με οικονομικούς δεσμούς με την Amazon, συμπεριλαμβανομένων των Anthropic και OpenAI. Τον Απρίλιο, ο διευθύνων σύμβουλος Andy Jassy έγραψε ότι η επιχείρηση τσιπ της Amazon είχε ετήσιο ρυθμό εσόδων άνω των 20 δισεκατομμυρίων δολαρίων, σύμφωνα με το GeekWire. Ο Brace χαρακτήρισε το TorchNeuron ως "επιταχυντή" προς την ευρύτερη χρήση των τσιπ. Ο δηλωμένος στόχος της Amazon για το υλικό, είπε, ήταν "πάντα η επιλογή".geekwire.com