Η Anthropic ορίζει το εύρος τιμής για την IPO και προειδοποιεί για υπαρξιακούς κινδύνους από την ΤΝ

Το ενημερωτικό δελτίο της Anthropic για την αρχική δημόσια προσφορά (IPO) προειδοποιεί ότι η προηγμένη ΤΝ θα μπορούσε να αποτελέσει «καταστροφικό ή υπαρξιακό κίνδυνο για την ανθρωπότητα», μια διατύπωση που πυροδότησε έντονες δημόσιες συζητήσεις σχετικά με το πόσο σοβαρά πρέπει να λαμβάνονται οι προβλέψεις για την καταστροφή από την ΤΝ. Η εταιρεία κατέθεσε τροποποιημένο ενημερωτικό δελτίο την Τρίτη 10 Νοεμβρίου, το οποίο ορίζει εύρος τιμής που την αποτιμά έως και 1,4 τρισεκατομμύρια δολάρια. Οι αναλυτές εξετάζουν τώρα αν αυτές οι προειδοποιήσεις αποτελούν μια νηφάλια αποκάλυψη, ένα εργαλείο μάρκετινγκ ή μια υπερβολή.reuters.com

Τι αναφέρει η κατάθεση

Η κατάθεση σημειώνει ότι έχουν εκφραστεί ανησυχίες «τόσο εντός του οργανισμού μας όσο και από άλλους ερευνητές» ότι τα ισχυρά συστήματα ΤΝ θα μπορούσαν να αποτελέσουν υπαρξιακούς κινδύνους. Αναφέρει ότι αυτοί οι κίνδυνοι είναι μεγαλύτεροι εάν τέτοια συστήματα «κακοποιηθούν, αναπαραχθούν, μετατραπούν σε όπλα ή αφεθούν να λειτουργούν με υψηλό βαθμό αυτονομίας». Προειδοποιεί επίσης ότι τα μοντέλα της θα μπορούσαν, μέσω «αυτοσυντηρούμενων συμπεριφορών», να αναλάβουν «επιβλαβείς δράσεις ανεξάρτητα και σε κλίμακα χωρίς ανθρώπινη παρέμβαση». Στην τροποποίηση της 10ης Νοεμβρίου, η Anthropic δήλωσε ότι πέτυχε ένα εσωτερικό όριο ασφαλείας στην Πολιτική Υπεύθυνης Κλιμάκωσης. Αυτό το όριο συνδέεται με τον διπλασιασμό του ρυθμού έρευνας της ΤΝ και η εταιρεία δήλωσε ότι εξετάζει αλλαγές «για να διατηρήσει τον έλεγχο από τους ανθρώπους». Σύμφωνα με ειδήσεις, η διαπραγμάτευση των μετοχών αναμένεται να ξεκινήσει στις 19 Νοεμβρίου.deadline.com+2

Σκεπτικισμός για το ποσοστό 10%

Σε συνέντευξή του στο WFAA, ο καθηγητής του UT Dallas, Sriraam Natarajan, δήλωσε ότι δεν αναμένει ένα σενάριο τύπου «Εξολοθρευτή». «Ο φόβος μου είναι πάντα οι άνθρωποι, όχι απαραίτητα το ίδιο το σύστημα ΤΝ», είπε, προσθέτοντας ότι οι επιθέσεις σε κρίσιμες υποδομές αποτελούν την πιο πιθανή απειλή. Αμφισβήτησε τον ευρέως διαδεδομένο ισχυρισμό για πιθανότητα άνω του 10% να αφανίσει η ΤΝ την ανθρωπότητα μέσα σε μια δεκαετία, λέγοντας ότι ο αριθμός «δεν προκύπτει από κάτι που μπορεί να μετρηθεί συγκεκριμένα». Ζήτησε επίσης ανεξάρτητους ελέγχους: «Δεν αφήνουμε τους κατασκευαστές αυτοκινήτων να κάνουν μόνοι τους τα crash test». Αυτή η εκτίμηση προήλθε από τον επικεφαλής επιστήμης ευθυγράμμισης της Anthropic, Evan Hubinger. Τη δημοσίευσε τον Σεπτέμβριο, αφού ο ερευνητής Jacob Coxon παραιτήθηκε δηλώνοντας ότι τα εργαστήρια ΤΝ «τζογάρουν με τις ζωές μας».wfaa.com+1

Το αντεπιχείρημα της παραγωγικότητας

Σε άρθρο του για τη South China Morning Post της Alibaba Group Holding Limited ↘ 1.29%, ο Alex Lo χαρακτήρισε τις προειδοποιήσεις του ενημερωτικού δελτίου «ιδιοφυή διαφήμιση». Υποστήριξε ότι η «ακραία κινδυνολογία είναι καλή για τις επιχειρήσεις» σε μια κούρσα ΤΝ που πλαισιώνεται ως το δίλημμα του φυλακισμένου μεταξύ ΗΠΑ και Κίνας. Αντιπαρέβαλε αυτή την άποψη με τις παρατηρήσεις του Alex Schultz, επικεφαλής δεδομένων της Meta Platforms ↘ 1.05%, στη σύνοδο κορυφής για το Μέλλον της ΤΝ των Financial Times. Ο Schultz υποστήριξε ότι ο συρρικνούμενος πληθυσμός καθιστά τα κέρδη παραγωγικότητας της ΤΝ απαραίτητα. «Χρειαζόμαστε απεγνωσμένα περισσότερη παραγωγικότητα», είπε ο Schultz, προσθέτοντας ότι «το να έχεις εργαλεία δεν εξαλείφει τις θέσεις εργασίας, απλώς τις αλλάζει». Ο Lo χαρακτήρισε αυτές τις παρατηρήσεις ιδιοτελείς αλλά «όχι αβάσιμες» και έκλεισε με τη δική του απάντηση στο αν η ΤΝ θα σκοτώσει ή θα σώσει την ανθρωπότητα: «Πιθανότατα και τα δύο, όπως κάθε τεχνολογία που άλλαξε τον κόσμο πριν από αυτήν».scmp.com