Πρώην επιστήμονας της DeepMind προειδοποιεί: Η τεχνητή νοημοσύνη εξελίσσεται ανεξέλεγκτα

Ο Alex Turner, πρώην ερευνητής στην ομάδα ευθυγράμμισης της Google Alphabet Inc. ↘ 1.24% DeepMind, μίλησε στο Bloomberg τη Δευτέρα υποστηρίζοντας ότι η ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης έχει ξεπεράσει την ικανότητα κυβερνήσεων, εταιρειών και υπερδυνάμεων να διαχειριστούν τους κινδύνους που απορρέουν από αυτήν. Οι δηλώσεις του έρχονται εν μέσω ενός πρωτοφανούς κύματος εκκλήσεων από κορυφαία στελέχη του κλάδου για επιβράδυνση της ραγδαίας προόδου.

Η αυξανόμενη επιρροή ενός πληροφοριοδότη

Ο Turner παραιτήθηκε από την Google DeepMind τον Ιούνιο, αφότου η εταιρεία υπέγραψε συμφωνία που επιτρέπει στο Πεντάγωνο να χρησιμοποιεί την τεχνητή νοημοσύνη της για απόρρητες εργασίες, μια συμφωνία που, όπως υποστήριξε, στερούνταν δεσμευτικών περιορισμών κατά των αυτόνομων όπλων ή της μαζικής επιτήρησης. Έκτοτε, έχει γίνει μία από τις πιο εξέχουσες φωνές που προειδοποιούν για την πορεία της τεχνητής νοημοσύνης. Σε εμφάνισή του στο CNBC την περασμένη εβδομάδα, δήλωσε ότι ανησυχεί για τον «κίνδυνο αφανισμού» από την τεχνολογία.cnbc+2

Στη συνέντευξή του στο Bloomberg τη Δευτέρα, ο Turner ανέδειξε την αναδρομική αυτοβελτίωση, δηλαδή την ικανότητα των συστημάτων τεχνητής νοημοσύνης να ενισχύουν τις δικές τους δυνατότητες, ως κεντρικό κίνδυνο, προειδοποιώντας ότι θα μπορούσε να παράγει ταχύτατα νοημοσύνη πέρα από την ανθρώπινη κατανόηση. Επισήμανε επίσης την παρακολούθηση της υπολογιστικής ισχύος ως πρακτικό μοχλό ρύθμισης, υποστηρίζοντας ότι ο έλεγχος της τεράστιας επεξεργαστικής ισχύος που απαιτείται για την εκπαίδευση μοντέλων αιχμής θα μπορούσε να δώσει στις κυβερνήσεις έναν συγκεκριμένο τρόπο επιβολής ορίων. Ο Turner παραδέχτηκε ότι οι πρόσφατες εκκλήσεις των κολοσσών της τεχνολογίας για επιβράδυνση μπορεί να είναι εν μέρει ειλικρινείς και εν μέρει μια στρατηγική κίνηση για την εδραίωση του πλεονεκτήματός τους.bloomberg

Δυναμώνει η φωνή του κλάδου

Οι προειδοποιήσεις του Turner έρχονται σε μια κρίσιμη εβδομάδα για τη συζήτηση σχετικά με την ασφάλεια της τεχνητής νοημοσύνης. Το Σάββατο, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, δημοσίευσε ένα δοκίμιο 3.800 λέξεων με τίτλο «Πρέπει να επιβραδύνουμε την πρόοδο», καλώντας τα εργαστήρια να περιορίσουν σκόπιμα την ανάπτυξη δυνατοτήτων ώστε η έρευνα για την ασφάλεια να προλαβαίνει τις εξελίξεις. Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, και ο Elon Musk υποστήριξαν δημόσια το μήνυμα, ενώ και ο Demis Hassabis, επικεφαλής της Google DeepMind, εξέφρασε τη συμφωνία του.cnbc+1

Ο Amodei πρότεινε ένα πλαίσιο τριών σημείων: ενσωμάτωση ανεξάρτητων αξιολογητών στα εργαστήρια, συντονισμό των προτύπων ασφαλείας μεταξύ των δημοκρατικών εθνών και, τελικά, επέκταση αυτών των συμφωνιών σε παγκόσμιο επίπεδο, συμπεριλαμβανομένης της Κίνας. Ωστόσο, μέχρι τη Δευτέρα, κανένα ανταγωνιστικό εργαστήριο δεν είχε ακολουθήσει τη συγκεκριμένη δέσμευση της Anthropic να παρέχει σε εξωτερικούς ελεγκτές πρόσβαση επιπέδου εργαζομένου.shattered

Το δίλημμα της Κίνας

Η γεωπολιτική διάσταση παραμένει καθοριστική. Ο ίδιος ο Amodei χαρακτήρισε την Κίνα ως το «πιο δύσκολο δίλημμα» για οποιαδήποτε πρόταση επιβράδυνσης, αναγνωρίζοντας τον κίνδυνο ότι η μονομερής αυτοσυγκράτηση των δυτικών εργαστηρίων θα μπορούσε να δώσει πλεονέκτημα στο Πεκίνο. Ο Turner, σε ξεχωριστή ανταλλαγή απόψεων στα μέσα κοινωνικής δικτύωσης, απάντησε στον υπεύθυνο για την τεχνητή νοημοσύνη της κυβέρνησης Τραμπ, David Sacks, ο οποίος απέρριψε τις εκκλήσεις για νομοθεσία επιβράδυνσης ως προσπάθεια περιορισμού του ανταγωνισμού. Σε άρθρο του στην εφημερίδα Guardian την Κυριακή, ο Turner έγραψε ότι η λύση είναι «απλή: να εμποδίσουμε τις εταιρείες από το να επιτρέπουν στην τεχνητή νοημοσύνη να αυτοβελτιώνεται πέρα από ένα διαχειρίσιμο επίπεδο νοημοσύνης».politomix+3