Η Anthropic προσλαμβάνει ειδικούς σε όπλα για να προστατεύσει την τεχνητή νοημοσύνη από κακή χρήση

Η Anthropic προχωρά σε προσλήψεις αναλυτών επιβολής και ειδικών σε θέματα που έχουν ως στόχο να αποτρέψουν τη χρήση των συστημάτων τεχνητής νοημοσύνης της για τη δημιουργία όπλων μαζικής καταστροφής, τη διάπραξη κυβερνοεπιθέσεων ή την εκτέλεση οικονομικής απάτης.

Η εταιρεία δημοσίευσε τις τελευταίες ημέρες μια σειρά από αγγελίες εργασίας αναζητώντας ειδικούς σε ραδιολογικές και πυρηνικές βλάβες, χημικά και εκρηκτικά, κυβερνοέγκλημα και άλλες κατηγορίες απειλών, όπως ανέφερε πρώτο το Axios και εξέτασε το Yahoo Finance. Οι ρόλοι, οι οποίοι προσφέρουν μισθούς στο εύρος των 200.000 δολαρίων, δεν απαιτούν δεξιότητες προγραμματισμού — η Anthropic επιθυμεί αντ' αυτού πραγματική εμπειρία σε τομείς όπως η πυρηνική φυσική, η βιολογία και τα εκρηκτικά, μαζί με την ικανότητα να σκέφτονται σαν επιτιθέμενοι που αναζητούν αδύναμα σημεία στις άμυνες της εταιρείας.thenextweb+1

Ένας αυξανόμενος μηχανισμός ασφαλείας

Μια αγγελία για "Αναλυτή Επιβολής Διασφαλίσεων, Ραδιολογικές & Πυρηνικές Βλάβες" ζητά υποψηφίους με υπόβαθρο στην πυρηνική μηχανική ή τη φυσική υγείας και εμπειρία στη μη διάδοση όπλων μαζικής καταστροφής ή την ανάλυση απειλών. Μια άλλη, που επικεντρώνεται στις κυβερνοαπειλές, ζητά από τους αναλυτές να εντοπίζουν και να μετριάζουν τις προσπάθειες οπλοποίησης των μοντέλων της Anthropic για κακόβουλες κυβερνοεπιχειρήσεις. Η εταιρεία προσλαμβάνει επίσης ερευνητές βιολογικής ασφάλειας με διδακτορικά στη ιολογία, τη μικροβιολογία ή συναφείς τομείς για να "καθορίσουν πώς μοιάζει η υπεύθυνη ασφάλεια τεχνητής νοημοσύνης στον βιολογικό τομέα".job-boards.greenhouse+2

Ένας εκπρόσωπος της Anthropic δήλωσε στο The Next Web ότι "η διασφάλιση ότι τα μοντέλα μας δεν παρέχουν δυνητικά επιβλαβείς πληροφορίες είναι κεντρικής σημασίας για την υπεύθυνη ανάπτυξη", προσθέτοντας ότι εκατοντάδες υπάλληλοι εργάζονται πλέον στον τομέα της ασφάλειας. Το BBC ανέφερε νωρίτερα φέτος ότι η Anthropic αναζητούσε έναν ειδικό σε χημικά όπλα και εκρηκτικά υψηλής ισχύος για να μετριάσει αυτό που αποκάλεσε "καταστροφική κακή χρήση" της τεχνολογίας της.bbc+1

Οι επανειλημμένες προειδοποιήσεις του Amodei

Η προσπάθεια προσλήψεων συμβαδίζει με τις προειδοποιήσεις του διευθύνοντος συμβούλου Dario Amodei, ο οποίος έχει περάσει το μεγαλύτερο μέρος του περασμένου έτους κρούοντας τον κώδωνα του κινδύνου για τους κινδύνους που ενέχει η προηγμένη τεχνητή νοημοσύνη. Σε ένα δοκίμιο του Ιανουαρίου, ο Amodei έγραψε ότι οι βιολογικές επιθέσεις τον ανησυχούν περισσότερο, σημειώνοντας ότι "αν προσθέσουμε εκατομμύρια ανθρώπους και μερικά χρόνια, πιστεύω ότι υπάρχει σοβαρός κίνδυνος μιας μεγάλης επίθεσης, με απώλειες που ενδεχομένως να φτάνουν τα εκατομμύρια ή και περισσότερο". Έχει επίσης προειδοποιήσει για ένα παράθυρο έξι έως 12 μηνών για τις εταιρείες και τις κυβερνήσεις ώστε να διορθώσουν τα κενά ασφαλείας λογισμικού που έχουν εντοπίσει τα τελευταία μοντέλα της Anthropic.axios+2

Αυτορρύθμιση σε ένα νομοθετικό κενό

Η Anthropic δεν είναι μόνη σε αυτή την προσπάθεια. Η OpenAI προσλαμβάνει επίσης ερευνητές που επικεντρώνονται σε βιολογικούς και χημικούς κινδύνους, με μισθούς έως και 445.000 δολάρια. Η παράλληλη αυτή ώθηση υπογραμμίζει μια ασυνήθιστη δυναμική στη βιομηχανία της τεχνητής νοημοσύνης: οι εταιρείες που κατασκευάζουν τα πιο ισχυρά μοντέλα είναι επίσης αυτές που στελεχώνουν τις ομάδες τους για να τα αστυνομεύουν, ελλείψει ολοκληρωμένης ομοσπονδιακής νομοθεσίας για την ασφάλεια της τεχνητής νοημοσύνης. Ο Amodei έχει αναγνωρίσει την ένταση, χαρακτηρίζοντας τις ίδιες τις εταιρείες τεχνητής νοημοσύνης ως ένα επίπεδο κινδύνου ακριβώς κάτω από τα εχθρικά κράτη.thenextweb