Ερευνητές τεχνητής νοημοσύνης παραιτούνται λόγω φόβου για την τεχνολογία που δημιούργησαν

Ερευνητές στην πρώτη γραμμή της ανάπτυξης της τεχνητής νοημοσύνης λαμβάνουν αναρρωτικές άδειες, αναζητούν ψυχολογική υποστήριξη και παραιτούνται σε αυξανόμενους αριθμούς, καθώς το ψυχολογικό βάρος της εργασίας τους γίνεται δυσβάσταχτο, σύμφωνα με έρευνα των Financial Times που δημοσιεύθηκε στις 22 Σεπτεμβρίου.ft+1

Κρίση ψυχικής υγείας στα εργαστήρια τεχνητής νοημοσύνης

Το προσωπικό στο Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου, ο κυβερνητικός φορέας που είναι επιφορτισμένος με την αξιολόγηση των μοντέλων τεχνητής νοημοσύνης αιχμής, είναι μεταξύ εκείνων που έχουν πληγεί περισσότερο. Αρκετοί υπάλληλοι βρίσκονται επί του παρόντος σε αναρρωτική άδεια λόγω του άγχους που συνδέεται με τα εξαντλητικά προγράμματα δοκιμών και με αυτό που ένας πρώην υπάλληλος περιέγραψε ως "αγχωτική και, κατά καιρούς, τοξική" ατμόσφαιρα. Η πίεση έχει πέσει κυρίως στις ομάδες αξιολόγησης κυβερνοασφάλειας και βιοχημείας, των οποίων το έργο περιλαμβάνει τον έλεγχο του κατά πόσον τα μοντέλα τεχνητής νοημοσύνης μπορούν να βοηθήσουν στη δημιουργία νέων βιολογικών απειλών ή στην ανακάλυψη άγνωστων ευπαθειών λογισμικού.aiweekly+1

Τα προβλήματα εκτείνονται πολύ πέρα από το βρετανικό ινστιτούτο. Εργαζόμενοι στις Anthropic, OpenAI και Google Alphabet Inc. ↘ 3.58% DeepMind αναφέρουν παρόμοιες δυσκολίες. Ένας υπάλληλος της DeepMind δήλωσε στους Financial Times ότι η έρευνα για την ασφάλεια της τεχνητής νοημοσύνης ενέχει τόσο υψηλό κίνδυνο εξάντλησης που μοιάζει με "αδύνατη αποστολή", προσθέτοντας: "Η αίσθηση ότι έχουμε χάσει τον έλεγχο, μαζί με την αγωνία για τη δημιουργία κάτι που προκαλεί πραγματική βλάβη, οδηγεί πολλούς ανθρώπους σε παραίτηση ή αναρρωτική άδεια".sedaily+1

Σωρεία παραιτήσεων υψηλόβαθμων στελεχών

Περισσότεροι από δώδεκα ανώτεροι ερευνητές έχουν παραιτηθεί από τα τρία κορυφαία δυτικά εργαστήρια τεχνητής νοημοσύνης τα τελευταία δύο χρόνια, σύμφωνα με τους Financial Times. Η πιο σημαντική πρόσφατη αποχώρηση ήταν αυτή του 27χρονου Jacob Coxon, ο οποίος έφυγε από την Anthropic στις αρχές Σεπτεμβρίου μετά από μόλις τέσσερις μήνες, χάνοντας σημαντικά δικαιώματα μετοχών. Σε μια ανάρτηση στο X που έχει συγκεντρώσει πάνω από 115 εκατομμύρια προβολές, ο Coxon έγραψε: "Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Αυτό δεν είναι διαφημιστικό κόλπο".axios+2

Σε συνέντευξή του στο CNN, ο Coxon δήλωσε ότι οι εταιρείες τεχνητής νοημοσύνης "τζογάρουν με τις ζωές μας" και προειδοποίησε ότι η προοπτική της τεχνητής νοημοσύνης να γίνει πιο έξυπνη από μόνη της είναι "το πιο τρομακτικό". Την αποχώρησή του ακολούθησαν υποστηρικτικά σχόλια από τον ερευνητή ευθυγράμμισης της Anthropic, Evan Hubinger, ο οποίος έγραψε ότι ο ίδιος εκτιμά την πιθανότητα η τεχνητή νοημοσύνη να προκαλέσει τον αφανισμό της ανθρωπότητας μέσα στην επόμενη δεκαετία σε πάνω από 10 τοις εκατό.cnbc+1

Εκκλήσεις για δράση από τους εργαζόμενους

Το κύμα παραιτήσεων έχει προσελκύσει την προσοχή της ακαδημαϊκής κοινότητας. Σε εκδήλωση του Stanford HAI στις 21 Σεπτεμβρίου, ο Rob Reich, καθηγητής πολιτικών επιστημών, προέτρεψε τους εργαζόμενους σε εταιρείες τεχνητής νοημοσύνης αιχμής να εξετάσουν το ενδεχόμενο συλλογικής δράσης. Ο Reich σημείωσε ότι κατά τη διάρκεια της κρίσης του διοικητικού συμβουλίου της OpenAI το 2023, η αλληλεγγύη των εργαζομένων έσωσε τη θέση του Sam Altman. "Η οργάνωση των εργαζομένων, με την παραδοσιακή έννοια, μπορεί επίσης να είναι πολύ σημαντική στα εργαστήρια για να προσπαθήσουν να επιβραδύνουν την ανάπτυξη", είπε, υπονοώντας ότι αν οι περισσότεροι από 1.300 υπογράφοντες μιας πρόσφατης ανοιχτής επιστολής που ζητούσαν πιο αργή ανάπτυξη της τεχνητής νοημοσύνης δεν έχουν εξετάσει έστω και μια ημέρα αποχής από την εργασία τους, "τότε δεν είμαι σίγουρος ότι παίρνω την επιστολή στα σοβαρά".

Οι παρατηρήσεις έρχονται εν μέσω μιας ευρύτερης συζήτησης για το αν οι εκκλήσεις για επιβράδυνση από στελέχη όπως ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, και ο Sam Altman της OpenAI αντικατοπτρίζουν γνήσια ανησυχία ή, όπως υποστήριξε ο τεχνολογικός δημοσιογράφος Steven Vaughan-Nichols στο Computerworld International Business Machines Corporation ↗ 0.60%, χρησιμεύουν για να κερδίσουν χρόνο για εταιρείες των οποίων τα οικονομικά παραμένουν επισφαλή.futurism