Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

bbcnytimes+1ftΟ Jack Clark, συνιδρυτής της Anthropic, δήλωσε στο BBC τη Δευτέρα ότι οι κυβερνήσεις θα πρέπει να εξετάσουν το ενδεχόμενο να απαιτήσουν από τις εταιρείες τεχνητής νοημοσύνης να ενσωματώνουν στα συστήματά τους ανεξάρτητα επαληθεύσιμους διακόπτες απενεργοποίησης, προσθέτοντας ρυθμιστική ισχύ σε ένα αυξανόμενο κύμα ανησυχίας εντός του κλάδου σχετικά με τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης.bbc
Ο Clark ανέφερε ότι, αν και τα περισσότερα μεγάλα εργαστήρια τεχνητής νοημοσύνης, συμπεριλαμβανομένης της Anthropic, διατηρούν ήδη εσωτερικούς μηχανισμούς για τον τερματισμό του λογισμικού τους, οι εθελοντικές δικλείδες ασφαλείας ενδέχεται να μην επαρκούν. "Θα πρέπει οι εταιρείες να υποχρεούνται να διαθέτουν διακόπτη απενεργοποίησης; Υπόκειται αυτός ο διακόπτης σε επαλήθευση από τρίτο μέρος;" αναρωτήθηκε ο Clark στη συνέντευξη, χαρακτηρίζοντας αυτά τα ερωτήματα κεντρικά για τον "ευρύτερο διάλογο πολιτικής" γύρω από την τεχνητή νοημοσύνη.bbc
Οι δηλώσεις αυτές επισφραγίζουν μια ταραχώδη περίοδο για την Anthropic και τον ευρύτερο τομέα της τεχνητής νοημοσύνης. Στις 8 Σεπτεμβρίου, ο ερευνητής της Anthropic, Evan Hubinger, δήλωσε δημόσια ότι πιστεύει πως υπάρχει πιθανότητα άνω του 10 τοις εκατό για εξαφάνιση της ανθρωπότητας από την τεχνητή νοημοσύνη μέσα στην επόμενη δεκαετία, ένα ποσοστό που ο νομπελίστας Geoffrey Hinton χαρακτήρισε στο BBC ως "όχι παράλογο". Τα σχόλια αυτά ακολούθησαν την παραίτηση του ερευνητή Jacob Coxon, ο οποίος κατηγόρησε τα εργαστήρια τεχνητής νοημοσύνης ότι "τρέχουν προς την αυτοβελτιούμενη υπερνοημοσύνη, παίζοντας κορώνα γράμματα με τις ζωές μας".bbc+2
Το Σάββατο, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, δημοσίευσε ένα δοκίμιο 3.800 λέξεων ζητώντας μια γενική επιβράδυνση στην ανάπτυξη των δυνατοτήτων της τεχνητής νοημοσύνης, υποστηρίζοντας ότι ο κλάδος χρειάζεται "ένα έως δύο επιπλέον χρόνια" για την εφαρμογή προστατευτικών μέτρων. Το δοκίμιο έλαβε άμεση υποστήριξη από τον διευθύνοντα σύμβουλο της OpenAI, Sam Altman, τον Elon Musk και τον πρόεδρο της Google Alphabet Inc. DeepMind, Demis Hassabis. Ο πρόεδρος Donald Trump απέρριψε τις προειδοποιήσεις την Κυριακή, παρομοιάζοντας τους επικριτές με "πολύ αρνητικές δυνάμεις" και επιμένοντας ότι οι Ηνωμένες Πολιτείες πρέπει να διατηρήσουν το προβάδισμά τους στην τεχνολογία.cbc+2
Η πίεση του Clark για ρύθμιση έρχεται σε μια εμπορικά κρίσιμη στιγμή για την Anthropic, η οποία προετοιμάζεται για μια αρχική δημόσια προσφορά το συντομότερο τον Οκτώβριο, η οποία σύμφωνα με τους Financial Times θα μπορούσε να αποτιμήσει την εταιρεία στα 2 τρισεκατομμύρια δολάρια, ένα ποσό που θα την καθιστούσε τη μεγαλύτερη IPO στην ιστορία. Επενδυτές δήλωσαν στους FT ότι τα ετησιοποιημένα έσοδα της Anthropic αναμένεται να φτάσουν μεταξύ 100 και 120 δισεκατομμυρίων δολαρίων έως το τέλος του 2026, σημειώνοντας αύξηση πάνω από δέκα φορές μέσα σε ένα χρόνο.qz+1
Ο Clark αναγνώρισε την ένταση μεταξύ της έκκλησης για περιορισμούς και της λειτουργίας σε μια έντονα ανταγωνιστική αγορά. Προειδοποίησε ότι το να αφεθεί η τεχνητή νοημοσύνη ως μια "εντελώς αρρύθμιστη βιομηχανία" αποτελεί επικίνδυνο μονοπάτι. "Παίζουμε με τεράστιους κινδύνους", είπε. "Το θέμα είναι ότι πρέπει να αλλάξουμε την πορεία αυτού του κλάδου".bbc