Υποστήριξη και σκεπτικισμός για την επιβράδυνση της τεχνητής νοημοσύνης

Μια σπάνια συναίνεση διαμορφώνεται μεταξύ ορισμένων από τις πιο ισχυρές προσωπικότητες στον τομέα της τεχνητής νοημοσύνης: ο κλάδος πρέπει να πατήσει φρένο. Το Σαββατοκύριακο, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, δημοσίευσε ένα δοκίμιο 3.800 λέξεων με τίτλο "Πρέπει να επιβραδύνουμε το μέτωπο", προτείνοντας ένα σχέδιο τριών βημάτων για την επιβράδυνση της ανάπτυξης μοντέλων τεχνητής νοημοσύνης και την εισαγωγή ανεξάρτητης παρακολούθησης της ασφάλειας. Μέσα σε λίγες ώρες, ο διευθύνων σύμβουλος της OpenAI, Sam Altman, και ο Elon Musk της xAI εξέφρασαν την υποστήριξή τους, με τον Musk να γράφει απλά στο X: "Ο Dario έχει δίκιο".nytimes+3

Διαμορφώνεται ένα σχέδιο τριών μερών

Στο δοκίμιό του το Σάββατο, ο Amodei προειδοποίησε ότι η τεχνητή νοημοσύνη θα μπορούσε μέσα σε έξι έως 12 μήνες να είναι ικανή να καθοδηγεί σμήνη αυτόνομων πρακτόρων πέρα από τον ανθρώπινο έλεγχο. Πρότεινε όλες οι εταιρείες τεχνητής νοημοσύνης αιχμής να δεσμευτούν για την παροχή "συνεχούς πρόσβασης, παρόμοιας με αυτή των εργαζομένων" σε ανεξάρτητους αξιολογητές τρίτων, ακολουθούμενη από πρότυπα ασφαλείας σε επίπεδο κλάδου και τελικά παγκόσμια ρύθμιση. Η Anthropic έχει ήδη δεσμευτεί μονομερώς για το πρώτο βήμα.bbc+3

Ο Altman απάντησε στο X ότι η πρόταση ευθυγραμμίζεται με τις εσωτερικές συζητήσεις στην OpenAI, γράφοντας: "Συμφωνώ με τον Dario ότι πρέπει να επιβραδύνουμε το μέτωπο", και δεσμεύτηκε να υιοθετήσει το πλαίσιο αξιολογητών τρίτων. Τη Δευτέρα, ο πρόεδρος της OpenAI, Greg Brockman, πρόσθεσε αποχρώσεις στο podcast Odd Lots του Bloomberg, υποστηρίζοντας ότι οποιαδήποτε επιβράδυνση θα πρέπει να στοχεύει μόνο στα εργαστήρια αιχμής που ξοδεύουν εκατοντάδες δισεκατομμύρια σε υπερυπολογιστές, και όχι στους προγραμματιστές ανοιχτού κώδικα ή τους ερασιτέχνες.nbcnews+2

Ηγέτης της υγειονομικής περίθαλψης συμμετέχει στη χορωδία

Ο ιδρυτής και διευθύνων σύμβουλος της Tempus AI ↗ 5.42%, Eric Lefkofsky, έγινε μία από τις πρώτες σημαντικές προσωπικότητες εκτός των βασικών εργαστηρίων τεχνητής νοημοσύνης που υποστήριξαν την έκκληση. Σε συνέντευξη τη Δευτέρα στα κεντρικά γραφεία του Bloomberg στη Νέα Υόρκη, ο Lefkofsky δήλωσε ότι μπορεί να φανταστεί ένα σημείο όπου τα αυτοβελτιούμενα μοντέλα θα ξεπεράσουν την ανθρώπινη επίβλεψη. "Μπορώ να φανταστώ ότι, δεδομένου του γεγονότος ότι τα μοντέλα τώρα εκπαιδεύονται και βελτιώνονται μόνα τους, υπάρχει ένα σημείο όπου αναρωτιέσαι: 'Θα ξεφύγει αυτό από τον έλεγχό μας;'" είπε. Ο Lefkofsky ανέφερε επίσης την αποδοτικότητα κεφαλαίου ως λόγο για την υποστήριξη μιας μετρημένης προσέγγισης, σύμφωνα με το Crain's Chicago Business.bloomberg+1

Δεν συμφωνούν όλοι

Ο επενδυτής Michael Burry, ο διαχειριστής hedge fund που ενέπνευσε το "The Big Short", δημοσίευσε μια αιχμηρή διάψευση στο Substack του, Cassandra Unchained. Ο Burry υποστήριξε ότι τα μεγάλα γλωσσικά μοντέλα δεν είναι αληθινή τεχνητή νοημοσύνη, ότι μια επιβράδυνση θα προστάτευε μόνο τους κατεστημένους παίκτες από τον ανταγωνισμό και ότι οι προειδοποιήσεις ασφαλείας ισοδυναμούν με "εξελιγμένο μάρκετινγκ" που έχει σχεδιαστεί για να δημιουργήσει διαφημιστική εκστρατεία πριν από πιθανές αρχικές δημόσιες προσφορές. Χαρακτήρισε τις εκκλήσεις ως μια προσπάθεια να καλυφθεί ένας κλάδος που ήδη παλεύει με την επιβράδυνση της ανάπτυξης.nypost+2

Η συζήτηση επηρεάζει ήδη τις αγορές. Η Citigroup ↘ 1.90% προειδοποίησε τη Δευτέρα ότι οι αυξανόμενες ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης θα μπορούσαν να επιβαρύνουν τα εταιρικά κέρδη, ενώ οι μετοχές των εταιρειών υπολογιστικού νέφους και τσιπ υποχώρησαν ευρέως στις συναλλαγές πριν από το άνοιγμα της αγοράς. Η επικείμενη απόφαση της Ομοσπονδιακής Τράπεζας των ΗΠΑ για τα επιτόκια αργότερα αυτή την εβδομάδα προσθέτει ένα ακόμη επίπεδο αβεβαιότητας για τους επενδυτές που σταθμίζουν τον μελλοντικό ρυθμό των επενδύσεων στην τεχνητή νοημοσύνη.news.futunn+1