Η Φέι-Φέι Λι ζητά ανεξάρτητη εποπτεία για την ασφάλεια της τεχνητής νοημοσύνης

Η Φέι-Φέι Λι, πρωτοπόρος στον τομέα της τεχνητής νοημοσύνης και συνιδρύτρια της World Labs, ζήτησε την Τρίτη μεγαλύτερη εποπτεία της τεχνητής νοημοσύνης από ανεξάρτητους και δημόσιους φορείς, υποστηρίζοντας ότι οι αξιολογήσεις ασφαλείας των ολοένα και πιο ικανών συστημάτων δεν πρέπει να αφήνονται αποκλειστικά στις εταιρείες που τα κατασκευάζουν.bloomberg

Μιλώντας στο Bloomberg TV, η Λι ανέφερε ότι, παρόλο που οι ερευνητές εντός των εταιρειών τεχνητής νοημοσύνης μπορούν να μετρήσουν την ισχύ και τα χαρακτηριστικά ασφαλείας μεμονωμένων μοντέλων, αυτό δεν υποκαθιστά τα ευρύτερα πρότυπα που αναπτύσσονται από κυβερνήσεις, τη βιομηχανία και ακαδημαϊκά ιδρύματα. Υποστήριξε ότι τα ανεξάρτητα σημεία αναφοράς, η ακαδημαϊκή κοινότητα, η κυβέρνηση και η βιομηχανία έχουν όλοι ρόλο να διαδραματίσουν στην αξιολόγηση των ολοένα και πιο ισχυρών συστημάτων.bloomberg+1

Ένα συνεπές μήνυμα σε ένα μεταβαλλόμενο τοπίο

Οι δηλώσεις της Λι ευθυγραμμίζονται με μια θέση που έχει διατυπώσει τον τελευταίο χρόνο. Στο συνέδριο Ai4 στο Λας Βέγκας τον Αύγουστο, εμφανίστηκε μαζί με τον Τζέφρι Χίντον και τον Άντριου Ενγκ σε μια συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης, όπου υποστήριξε τη ρύθμιση ανά τομέα και τις δημόσιες επενδύσεις αντί για σαρωτικούς περιορισμούς ειδικά για την τεχνητή νοημοσύνη. Έχει επίσης παροτρύνει τους υπεύθυνους χάραξης πολιτικής να επικαιροποιήσουν τα υπάρχοντα ρυθμιστικά πλαίσια στην υγεία, τις μεταφορές, τα χρηματοοικονομικά και την εκπαίδευση ώστε να λαμβάνουν υπόψη την τεχνητή νοημοσύνη, αντί να προσπαθούν να περιορίσουν την τεχνολογική εξέλιξη.forbes+1

Σε κατάθεσή της ενώπιον της Επιτροπής Εσωτερικής Ασφάλειας και Κυβερνητικών Υποθέσεων της Γερουσίας νωρίτερα αυτόν τον μήνα, η Λι πίεσε για την απομυθοποίηση της τεχνητής νοημοσύνης, τη διασφάλιση της χρήσης της με μέτρα προστασίας της ιδιωτικότητας και δικαιοσύνης, καθώς και για επενδύσεις στη δημόσια έρευνα για την τεχνητή νοημοσύνη.hai.stanford

Μια ευρύτερη συζήτηση για την αυτορρύθμιση

Η έκκλησή της έρχεται σε μια στιγμή εντεινόμενου ελέγχου σχετικά με το αν η βιομηχανία τεχνητής νοημοσύνης μπορεί να αυτορυθμιστεί. Μόλις την περασμένη εβδομάδα, το Forbes ανέφερε ότι η πρόταση του διευθύνοντος συμβούλου της Anthropic, Ντάριο Αμοντέι, για αυτορρύθμιση — στην οποία οι εταιρείες θα επέλεγαν τους δικούς τους εξωτερικούς αξιολογητές — δέχθηκε κριτική ότι δεν είναι αρκετά αυστηρή. Οι επικριτές συνέκριναν την ιδέα με το να επιτρέπεται στις αεροπορικές εταιρείες να επιλέγουν τους δικούς τους επιθεωρητές ασφαλείας.forbes

Εν τω μεταξύ, οι απαιτήσεις της Πράξης για την Τεχνητή Νοημοσύνη της ΕΕ για συστήματα υψηλού κινδύνου τίθενται σε πλήρη ισχύ τον Αύγουστο του 2026, ενώ πολλές πολιτείες των ΗΠΑ έχουν εισαγάγει νομοθεσία που απαιτεί ανεξάρτητους ελέγχους των συστημάτων τεχνητής νοημοσύνης. Η Πρωτοβουλία Προτύπων για Πράκτορες Τεχνητής Νοημοσύνης του NIST, που ξεκίνησε νωρίτερα φέτος, αναπτύσσει επίσης πρότυπα για αυτόνομους πράκτορες τεχνητής νοημοσύνης που λειτουργούν χωρίς συνεχή ανθρώπινη επίβλεψη.gunder+2

Η Λι, η οποία υπηρετεί ως διευθύνουσα σύμβουλος της World Labs και συνδιευθύνει το Ινστιτούτο για την Ανθρωποκεντρική Τεχνητή Νοημοσύνη του Στάνφορντ, πλαισίωσε το ζήτημα ως θέμα διασφάλισης ότι οι άνθρωποι θα παραμείνουν στον έλεγχο της πορείας της τεχνητής νοημοσύνης. "Το μέλλον της τεχνητής νοημοσύνης αφορά τους ανθρώπους", δήλωσε στη συνέντευξη στο Bloomberg.bloomberg