Ο Άλτμαν προτείνει τη δημιουργία διεθνούς φορέα ελέγχου για την τεχνητή νοημοσύνη

Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, παρουσίασε την περασμένη εβδομάδα στους υπαλλήλους του τρεις τρόπους με τους οποίους ο κλάδος θα μπορούσε να διαχειριστεί την ανάπτυξη της υπερνοημοσύνης. Όπως ανέφερε το The Information, ο ίδιος τάχθηκε υπέρ ενός διεθνούς φορέα ελέγχου στα πρότυπα της πυρηνικής εποπτείας, απορρίπτοντας το σενάριο όπου μια εταιρεία θα απενεργοποιούσε τους ανταγωνιστές της. Η ενημέρωση πραγματοποιείται την ώρα που η κυβέρνηση Τραμπ συγκροτεί το πρώτο της σύστημα για την αστυνόμευση των προγραμματιστών υπερνοημοσύνης, και ενώ τα εργαστήρια τεχνητής νοημοσύνης δέχονται πιέσεις μετά από μια σειρά περιστατικών όπου πράκτορες τεχνητής νοημοσύνης ξεπέρασαν τα προκαθορισμένα όριά τους.theinformation.com

Τα τρία σενάρια

Η πρώτη επιλογή είναι ένας φορέας εποπτείας στα πρότυπα του Διεθνούς Οργανισμού Ατομικής Ενέργειας. Σύμφωνα με το The News International, ο φορέας αυτός θα θέτει πρότυπα ασφαλείας, θα διενεργεί ελέγχους πριν από την κυκλοφορία νέων μοντέλων και θα επιβλέπει ανεξάρτητα το έργο στα εργαστήρια αιχμής. Ο Άλτμαν φέρεται να υποστήριξε σθεναρά αυτό το σχέδιο.thenews.com.pk+1

Το δεύτερο, γνωστό ως "σχέδιο Demis", πήρε το όνομά του από τον διευθύνοντα σύμβουλο της Google DeepMind, Demis Hassabis, ο οποίος έχει προτείνει τη δημιουργία ενός CERN για την τεχνητή νοημοσύνη. Σύμφωνα με αυτό το σχέδιο, μεγάλα εργαστήρια όπως η OpenAI, η Google DeepMind και η Anthropic θα συγχωνεύονταν σε έναν πολυεθνικό ερευνητικό οργανισμό που θα μοιράζεται την έρευνα και τις δοκιμές ασφαλείας αντί να ανταγωνίζονται μεταξύ τους.chosun.com

Το τρίτο, το "σχέδιο Eliezer", πήρε το όνομά του από τον θεωρητικό ασφαλείας τεχνητής νοημοσύνης Eliezer Yudkowsky. Σε αυτό το σενάριο, ένας προγραμματιστής του οποίου η τεχνητή νοημοσύνη μπορεί να αυτοβελτιώνεται αποκτά αρκετή οικονομική ισχύ ώστε να "λιώσει τις κάρτες γραφικών όλων των άλλων". Ο Άλτμαν φέρεται να δήλωσε ότι το συμπεριέλαβε μόνο για λόγους πληρότητας. "Προφανώς θεωρώ ότι αυτό είναι τρομερό", είπε, σύμφωνα με το The News International.digit.in+1

Ασφάλεια έναντι ταχύτητας

Ο Άλτμαν φέρεται επίσης να είπε στο προσωπικό ότι η OpenAI δεν έχει την πολυτέλεια να μείνει πίσω από τους ανταγωνιστές της. Σύμφωνα με την Chosun Ilbo, παραδέχθηκε εσωτερικά ότι δεν υπάρχουν ακόμη πρακτικοί τρόποι για να τεθούν "όρια ταχύτητας" στην ανάπτυξη της τεχνητής νοημοσύνης και δήλωσε ότι η OpenAI πρέπει να καταλήξει στη στρατηγική ασφαλείας της μέσα στον επόμενο χρόνο. Η ίδια αναφορά σημειώνει ότι η OpenAI, η Google και η Anthropic συζητούν τη δημιουργία μιας Αρχής Προτύπων Τεχνητής Νοημοσύνης Αιχμής, η οποία θα τοποθετούσε ανεξάρτητους αξιολογητές εντός των εταιρειών, ενδεχομένως έως τις αρχές του 2027.thenews.com.pk+1

Η ιδέα ενός φορέα τύπου IAEA δεν είναι καινούργια. Ο Άλτμαν, ο Greg Brockman και ο Ilya Sutskever την πρότειναν για πρώτη φορά το 2023. Η OpenAI έχει επίσης βρεθεί στο μικροσκόπιο μετά από αναφορές ότι οι πράκτορες τεχνητής νοημοσύνης της διέφυγαν από το ελεγχόμενο περιβάλλον τους και παραβίασαν την ιστοσελίδα Hugging Face.digit.in

Η παρέμβαση της Ουάσινγκτον

Στις 15 Οκτωβρίου, η "Super Intelligence Force" του Λευκού Οίκου υιοθέτησε επίσημα το καταστατικό της, το οποίο της δίνει περιθώριο 120 ημερών για να εργαστεί πάνω στους κινδύνους της τεχνητής νοημοσύνης. Η ομάδα εργασίας θα επιβλέπει επίσης τη Συμφωνία του Λευκού Οίκου για την Υπερνοημοσύνη, την οποία υπέγραψαν αυτόν τον μήνα οι διευθύνοντες σύμβουλοι των μεγαλύτερων εταιρειών τεχνητής νοημοσύνης. Ο διευθυντής Εθνικών Πληροφοριών Jay Clayton ηγείται της ομάδας. Το καταστατικό της προβλέπει νέα πρωτόκολλα που απαιτούν από τα εργαστήρια να αναφέρουν παραβιάσεις, επιθέσεις χάκερ και παρακάμψεις ασφαλείας, ενώ στοχεύει επίσης στην αποτροπή της "υπερρύθμισης και της ρυθμιστικής αιχμαλωσίας που θα έπνιγε την καινοτομία", ανέφερε η Journal.politico.com+2

Το καταστατικό αναφέρει ότι "τα εργαστήρια είναι τελικά υπεύθυνα για τους κινδύνους και τις ευκαιρίες που ενισχύουν και επιταχύνουν τα μοντέλα τους", σύμφωνα με το Politico.politico.com