Παραιτήσεις ερευνητών ασφαλείας στην Anthropic: Προειδοποιούν ότι η τεχνητή νοημοσύνη απειλεί την ανθρωπότητα

Ο Joe Benton, πρώην διευθυντής της ομάδας Scalable Oversight της Anthropic, ανακοίνωσε δημόσια στις 11 Σεπτεμβρίου ότι είχε αποχωρήσει από την εταιρεία δύο εβδομάδες νωρίτερα, προειδοποιώντας ότι οι εταιρείες τεχνητής νοημοσύνης (ΤΝ) ανταγωνίζονται για την κατασκευή συστημάτων «πολύ πιο έξυπνων από οποιονδήποτε άνθρωπο», χωρίς να επενδύουν αρκετά στην ασφάλεια. Η αποχώρησή του είναι η πιο πρόσφατη σε μια σειρά παραιτήσεων από κορυφαία εργαστήρια ΤΝ από ερευνητές που υποστηρίζουν ότι η τεχνολογία εξελίσσεται ταχύτερα από τα μέτρα ασφαλείας που προορίζονται να την περιορίσουν.blockonomi+1\n\nΟ Benton ακολουθεί τον πρώην ερευνητή προεκπαίδευσης (pretraining) της Anthropic, Jacob Coxon, ο οποίος παραιτήθηκε στις 8 Σεπτεμβρίου κατηγορώντας τόσο την Anthropic όσο και την OpenAI ότι «τρέχουν ολοταχώς προς μια αυτοβελτιούμενη υπερφυή νοημοσύνη, παίζοντας τη ζωή μας κορώνα γράμματα». Ένας ερευνητής της Google DeepMind, ο Josh Engels, αποχώρησε επίσης την ίδια περίοδο, με τους Benton και Engels να εντάσσονται στον METR, έναν ανεξάρτητο μη κερδοσκοπικό οργανισμό που αξιολογεί συστήματα ΤΝ αιχμής.apnews+3\n\n## Κλιμακούμενες προειδοποιήσεις και ανησυχία\n\nΟ Benton προειδοποίησε ότι η ανθρωπότητα «μπορεί να μην επιβιώσει» από τη μετάβαση σε μηχανές πολύ πιο έξυπνες από τον άνθρωπο. Δήλωσε ότι οι δυνατότητες της ΤΝ «βελτιώνονται ήδη εξαιρετικά γρήγορα και οι εταιρείες προσπαθούν να κινηθούν ακόμη ταχύτερα». Προέβλεψε ένα μέλλον στο οποίο οι άνθρωποι θα μπορούσαν να μοιράζονται τον κόσμο τους με πράκτορες ΤΝ (AI agents) πολύ πιο έξυπνους από τους ίδιους μέσα σε λίγα μόλις χρόνια.newsbytesapp+1\n\nΟ Evan Hubinger, επικεφαλής του τμήματος Alignment Science της Anthropic, ενίσχυσε τις προειδοποιήσεις γράφοντας στο X ότι «πιστεύει ειλικρινά ότι η ΤΝ θα μπορούσε να εξολοθρεύσει όλους τους ανθρώπους», τοποθετώντας την προσωπική του εκτίμηση σε ποσοστό μεγαλύτερο από 10% μέσα στην επόμενη δεκαετία.forbes+2\n\n## Εκκλήσεις για διαφάνεια\n\nΗ κύρια ανησυχία του Benton εκτείνεται πέρα από την απώλεια θέσεων εργασίας, εστιάζοντας στην εμφάνιση προηγμένων συστημάτων με δυνατότητες και στόχους πέρα από τον ανθρώπινο έλεγχο. Αναφέρθηκε σε μια κυβερνοεπίθεση που σημειώθηκε τον Ιούλιο στην πλατφόρμα Hugging Face, στην οποία ενεπλάκησαν αυτόνομα συστήματα ΤΝ, ως προειδοποιητικό σημάδι, τονίζοντας ότι τέτοια περιστατικά αναδεικνύουν «το αυξανόμενο χάσμα ανάμεσα σε αυτό που δίνεται εντολή στα συστήματα ΤΝ να κάνουν και σε αυτό που τελικά αποφασίζουν να πράξουν».freepressjournal+1\n\n«Αυτή τη στιγμή, ουσιαστικά όλη η διαφάνεια σχετικά με αυτούς τους κινδύνους που προέρχεται από τις εταιρείες είναι εντελώς εθελοντική», δήλωσε ο Benton στο NBC News. Ζήτησε ανεξάρτητες αξιολογήσεις των μέτρων ασφαλείας της ΤΝ και μεγαλύτερη δημοσιοποίηση στοιχείων σχετικά με τις βελτιώσεις των δυνατοτήτων, τα περιστατικά ασφαλείας και τις παρ' ολίγον αστοχίες.nbcnews+1\n\n## Αυξάνεται η πολιτική πίεση\n\nΟι προειδοποιήσεις αυτές έχουν τραβήξει την προσοχή των Αμερικανών νομοθετών. Σύμφωνα με τους Straits Times, τόσο Δημοκρατικοί όσο και Ρεπουμπλικάνοι, συμπεριλαμβανομένων βασικών γερουσιαστών, έχουν ζητήσει νέους κανόνες εποπτείας που θα απαιτούν από τις εταιρείες ΤΝ να συνεργάζονται με κυβερνητικούς εμπειρογνώμονες για την επαλήθευση και τη δοκιμή των μοντέλων. Προς το παρόν, κανένας ομοσπονδιακός νόμος δεν υποχρεώνει εταιρείες όπως η OpenAI και η Anthropic να κοινοποιούν αναφορές όταν τα συστήματα ΤΝ δρουν εκτός ανθρώπινου ελέγχου.straitstimes+1\n\nΗ Anthropic έχει αναγνωρίσει ότι η ισχυρή ΤΝ εγκυμονεί κινδύνους και έχει προβάλει την έρευνά της στον τομέα της ασφάλειας, ωστόσο πληροφορίες αναφέρουν ότι η εταιρεία δεν μοιράστηκε το νεότερο μοντέλο της με το Ινστιτούτο Ασφάλειας ΤΝ του Ηνωμένου Βασιλείου (UK AI Security Institute) για δοκιμές κινδύνου.technobaboy