Συνιδρυτής της Anthropic: Ίσως χρειαστεί νομοθετική επιβολή διακόπτη ασφαλείας για την ΤΝ

Ο πρώην ερευνητής της Anthropic και της OpenAI, Jacob Coxon, του οποίου η παραίτηση την περασμένη εβδομάδα προκάλεσε κύμα ανησυχίας στον κλάδο της τεχνολογίας, δήλωσε στην εκπομπή Meet the Press του NBC News ότι, αν και η απενεργοποίηση των συστημάτων ΤΝ παραμένει τεχνικά εφικτή σήμερα, αυτό το παράθυρο ευκαιρίας ενδέχεται να κλείνει. Η προειδοποίησή του ήρθε την ώρα που ο συνιδρυτής της Anthropic, Jack Clark, δήλωνε ξεχωριστά στο BBC ότι ένας επαληθεύσιμος από τρίτους "διακόπτης ασφαλείας" ίσως χρειαστεί να γίνει νομική απαίτηση για τις εταιρείες ΤΝ.bbc

Ο Coxon, ο οποίος παραιτήθηκε από την Anthropic στις 9 Σεπτεμβρίου γράφοντας ότι "οι άνθρωποι που κατασκευάζουν ΤΝ πιστεύουν ειλικρινά ότι θα μπορούσε να μας εξολοθρεύσει όλους μέχρι το τέλος της δεκαετίας", χρησιμοποίησε μια σειρά από τηλεοπτικές εμφανίσεις το Σαββατοκύριακο για να στηρίξει την έκκληση του διευθύνοντος συμβούλου της Anthropic, Dario Amodei, για επιβράδυνση της ανάπτυξης προηγμένης ΤΝ. Μιλώντας στο Meet the Press το Σάββατο, είπε ότι ένας διακόπτης ασφαλείας "πιθανότατα θα λειτουργούσε σε πολλές ΤΝ προς το παρόν", αλλά προειδοποίησε ότι "πολύ σύντομα υπάρχει η πιθανότητα ο διακόπτης να μην λειτουργεί, επειδή ένα σμήνος μπορεί να έχει ξεκινήσει μια επιχείρηση hacking σε ολόκληρο το διαδίκτυο".thestatesman+2

Οι ηγέτες του κλάδου συσπειρώνονται υπέρ της αυτοσυγκράτησης

Η δημόσια εκστρατεία του Coxon έχει επιφέρει μια ασυνήθιστη σύγκλιση μεταξύ κατά τα άλλα σκληρών ανταγωνιστών. Ο Amodei πρότεινε ένα πλαίσιο ασφαλείας τριών πυλώνων το Σαββατοκύριακο, το οποίο περιλαμβάνει μόνιμους αξιολογητές από τρίτους εντός των εταιρειών ΤΝ, κοινά πρότυπα ασφαλείας μεταξύ των δημοκρατικών εθνών και διεθνή συντονισμό. Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, ο Elon Musk και ο διευθύνων σύμβουλος της Google Alphabet Inc. ↗ 3.06% DeepMind, Demis Hassabis, υποστήριξαν όλοι την ευρύτερη προσπάθεια για αυτοσυγκράτηση.ciodive+1

Ο διευθύνων σύμβουλος της Microsoft ↗ 1.97%, Satya Nadella, πρόσθεσε την υποστήριξή του, γράφοντας στο X ότι "κάθε επιδίωξη υπερνοημοσύνης πρέπει να βασίζεται στη θεμελιώδη αρχή ότι αν η ΤΝ που κατασκευάζουμε δεν βοηθά την ανθρωπότητα και δεν βρίσκεται υπό ανθρώπινο έλεγχο, δεν αξίζει να την επιδιώκουμε". Ο Nadella ενέκρινε την παρουσία ενσωματωμένων αξιολογητών και ζήτησε διακυβέρνηση που εκτείνεται πέρα από "μια χούφτα οντοτήτων".thestatesman+1

Η συζήτηση για τον διακόπτη ασφαλείας μεταφέρεται στο νομοθετικό επίπεδο

Ο Clark δήλωσε στο BBC ότι, ενώ "τα περισσότερα εργαστήρια διαθέτουν διάφορες μεθόδους για την απενεργοποίηση των συστημάτων τους", οι ρυθμιστικές αρχές ίσως χρειαστεί να επιβάλουν τέτοια μέτρα. Στις Ηνωμένες Πολιτείες, οι νομοθέτες έχουν προτείνει τον νόμο Kill Switch Act, ο οποίος θα απαιτεί από τις εταιρείες να εφαρμόζουν μηχανισμούς τερματισμού λειτουργίας και θα εξουσιοδοτεί τις κυβερνητικές υπηρεσίες να ζητούν την απενεργοποίηση ορισμένων εργαλείων.bbc

Ο ερευνητής ευθυγράμμισης της Anthropic, Evan Hubinger, υπογράμμισε τον επείγοντα χαρακτήρα της συζήτησης, δηλώνοντας δημόσια ότι πιστεύει πως η πιθανότητα η ΤΝ να προκαλέσει τον αφανισμό της ανθρωπότητας είναι "μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία". Ο νομπελίστας Geoffrey Hinton χαρακτήρισε αυτή την εκτίμηση "όχι παράλογη".bbc

Δεν συμφωνούν όλοι. Ο πρόεδρος Donald Trump εξέδωσε δήλωση τη Δευτέρα αντιτιθέμενος στην προσπάθεια επιβράδυνσης, προειδοποιώντας ότι θα μπορούσε να υπονομεύσει την αμερικανική ανταγωνιστικότητα. Η κυβέρνηση του Ηνωμένου Βασιλείου απέρριψε επίσης την ιδέα του διακόπτη ασφαλείας, με εκπρόσωπο να δηλώνει ότι "δεν θα εμπόδιζε την ανάπτυξη ή την κακή χρήση αλλού".ciodive+1

Για τον Coxon, το επιχείρημα είναι απλούστερο. "Η προσωπική μου άποψη θα ήταν να επιμείνουμε και να επιτρέψουμε στα τρέχοντα εργαστήρια να αυτορυθμιστούν", είπε στο NBC News. "Πιστεύω όντως ότι οι άνθρωποι που διευθύνουν τα εργαστήρια, ειδικά με βάση τις πρόσφατες επικοινωνίες τους, είναι απόλυτα ειλικρινείς. Θα ήθελαν να επιβραδύνουν τους εαυτούς τους".economictimes