Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

finance.yahoo.com+1.ibtimes.sg.miamiherald.com+1.Ένας συνασπισμός αποτελούμενος από περισσότερους από 100 επιστήμονες, νομικούς και προσωπικότητες του τεχνολογικού τομέα δήλωσε δημόσια ότι η Anthropic "δεν είναι μια ασφαλής εταιρεία τεχνητής νοημοσύνης". Η δήλωση ήρθε λίγο πριν από το ντεμπούτο της εταιρείας, δημιουργού του Claude, στο χρηματιστήριο. Το Center for AI Safety (CAIS) δημοσίευσε τη δήλωση MisAnthropic στις 18 Νοεμβρίου. Κατηγορεί την εταιρεία ότι χρησιμοποιεί το branding της ασφάλειας για να προσελκύσει επενδυτές, ενώ "αθόρυβα αποδυνάμωσε τις δεσμεύσεις της για την ασφάλεια και άσκησε πιέσεις για ρυθμίσεις που εξυπηρετούν τα συμφέροντά της", σύμφωνα με την ανακοίνωση της ομάδας.finance.yahoo.com
Το χρονικό σημείο φέρνει την κριτική αντιμέτωπη με τους επενδυτές της δημόσιας αγοράς. Η Anthropic όρισε την τιμή της αρχικής δημόσιας προσφοράς (IPO) στα 83 δολάρια ανά μετοχή την Τετάρτη, και οι μετοχές της αναμένονταν να ξεκινήσουν τη διαπραγμάτευση στον Nasdaq Global Select Market την Πέμπτη, 19 Νοεμβρίου, με το σύμβολο "ANT". Σύμφωνα με το Reuters, η προσφορά συγκέντρωσε περίπου 81 δισεκατομμύρια δολάρια και αποτίμησε την εταιρεία σε περίπου 1,5 τρισεκατομμύριο δολάρια, καθιστώντας την τη μεγαλύτερη εισαγωγή που έχει καταγραφεί ποτέ.anthropic.com+1
Μεταξύ των υπογραφόντων περιλαμβάνονται ο νομπελίστας οικονομικών Oliver Hart, ο νικητής του βραβείου Turing Judea Pearl, ο ψυχολόγος του Χάρβαρντ Steven Pinker, ο συνιδρυτής του Hugging Face Thomas Wolf και ο συνιδρυτής της xAI Igor Babuschkin. Επίσης υπέγραψαν οι Laurence Tribe και Lawrence Lessig της Νομικής Σχολής του Χάρβαρντ, ο φυσικός του MIT Max Tegmark και οι κάτοχοι του μεταλλίου Fields Peter Scholze και James Maynard. Ο νομπελίστας φυσικής Sheldon Glashow βρίσκεται επίσης στη λίστα.chosun.com+1
Η δήλωση υποστηρίζει ότι η Anthropic προειδοποιεί πως η τεχνητή νοημοσύνη που αυτοβελτιώνεται αναδρομικά "θα μπορούσε να συγκεντρώσει ισχύ και να ξεφύγει από τον ανθρώπινο έλεγχο, ωστόσο η ίδια τρέχει να την κατασκευάσει πρώτη". Το CAIS επισημαίνει την αναθεώρηση της Πολιτικής Υπεύθυνης Κλιμάκωσης (Responsible Scaling Policy) της εταιρείας τον Φεβρουάριο, η οποία κατήργησε τις μονομερείς δεσμεύσεις για παύση της ανάπτυξης. Η ομάδα αναφέρει επίσης ότι η Anthropic άσκησε πιέσεις για την αποδυνάμωση του νομοσχεδίου SB 1047 της Καλιφόρνια και του νόμου RAISE της Νέας Υόρκης. Η Anthropic έχει δηλώσει ότι ορισμένες προηγμένες δικλείδες ασφαλείας απαιτούν συλλογική δράση του κλάδου και ότι μια υπεύθυνη εταιρεία που σταματά την ανάπτυξη θα μπορούσε να μείνει πίσω από λιγότερο προσεκτικούς ανταγωνιστές.ibtimes.sg
"Δεν μπορείς να ισχυρίζεσαι αξιόπιστα ότι είσαι ασφαλής ενώ αποδυναμώνεις τις προηγούμενες δεσμεύσεις σου για την ασφάλεια και ζητάς από το κοινό δεκάδες δισεκατομμύρια δολάρια για να κατασκευάσεις τεχνητή νοημοσύνη που αυτοβελτιώνεται αναδρομικά", δήλωσε ο εκτελεστικός διευθυντής του CAIS, Dan Hendrycks.
Η επιστολή ένωσε υποστηρικτές της ασφάλειας και επιταχυντές (accelerationists), όπως ο ιδρυτής του e/acc Guillaume Verdon. Το Gizmodo σημείωσε ότι η δήλωση ήταν αρκετά ασαφής ώστε να υπογραφεί από αντίπαλα στρατόπεδα. Παρόλα αυτά, ο υποστηρικτής των ανοιχτών μοντέλων Nathan Lambert αρνήθηκε να υπογράψει, λέγοντας ότι τη βρήκε "πολύ ισχυρή για τα γούστα μου". Το Gizmodo αμφισβήτησε επίσης τα κίνητρα ορισμένων υπογραφόντων, σημειώνοντας ότι η SpaceX, η οποία κατέχει την xAI, νοικιάζει το κέντρο δεδομένων Colossus στην Anthropic.gizmodo.com
Ο Hendrycks έγραψε ότι πολλές ομάδες ασφάλειας τεχνητής νοημοσύνης συμφώνησαν ιδιωτικά με τη δήλωση, αλλά "ένιωσαν ότι δεν μπορούν να υπογράψουν χωρίς να διακινδυνεύσουν τις σχέσεις τους ή μελλοντική χρηματοδότηση". Πρόσθεσε ότι "η Anthropic έχει σχεδόν, αλλά όχι πλήρως, ελέγξει το οικοσύστημα που υποτίθεται ότι θα την κρατούσε υπόλογη".
Το Gizmodo κατέληξε στο συμπέρασμα ότι η επιστολή είναι απίθανο να επηρεάσει την IPO. Η ζήτηση οδήγησε την Anthropic να αυξήσει την τιμή της πάνω από το εύρος των 70 έως 78 δολαρίων που είχε αρχικά προγραμματιστεί, και τα συμβόλαια μελλοντικής εκπλήρωσης του Nasdaq αυξήθηκαν νωρίς την Πέμπτη λόγω προσδοκιών για ένα ισχυρό ντεμπούτο. Οι ίδιες οι καταθέσεις της Anthropic στην Επιτροπή Κεφαλαιαγοράς (SEC) προειδοποιούν ότι τα προηγμένα συστήματα θα μπορούσαν να αναπτύξουν δυνατότητες ταχύτερα από ό,τι μπορούν να αξιολογηθούν ή να προβούν σε επιβλαβείς ενέργειες από μόνα τους.diariolibre.com+2