Ο Nadella της Microsoft προειδοποιεί: Οι πράκτορες AI αποτελούν εσωτερικό κίνδυνο

Ο διευθύνων σύμβουλος της Microsoft, Satya Nadella, επιθυμεί οι πράκτορες AI να αναλάβουν πολύ περισσότερη εργασία εντός των προσωπικών υπολογιστών, αλλά ταυτόχρονα τονίζει ότι οι χρήστες δεν πρέπει να τους εμπιστεύονται τυφλά. Σε αποκλειστική συνέντευξη στο NBC News που δημοσιεύθηκε την Πέμπτη, δήλωσε ότι τα Windows πρέπει να είναι το ασφαλέστερο και ισχυρότερο λειτουργικό σύστημα για πράκτορες AI, προειδοποιώντας παράλληλα για τους κινδύνους που εγκυμονούν.nbcnews.com

Η συνέντευξη ακολουθεί ένα άρθρο που δημοσίευσε ο Nadella στο X το Σάββατο, 10 Οκτωβρίου. Σε αυτό, ζήτησε η προηγμένη τεχνητή νοημοσύνη να κατασκευάζεται με συστήματα περιορισμού, ανεξάρτητους ελέγχους και ένα "φρένο έκτακτης ανάγκης" που επιτρέπει σε εξουσιοδοτημένα άτομα να παύουν ή να σταματούν ένα μοντέλο στη μέση μιας εργασίας.bizjournals.com

Εμπιστευτείτε το μοντέλο όσο το δυνατόν λιγότερο

"Η αντιμετώπιση των κλειστών και ανοιχτών μοντέλων αιχμής ως εσωτερικών κινδύνων είναι ένας τρόπος για να χτίσουμε ένα τέτοιο σύστημα", έγραψε ο Nadella. Υποστήριξε ότι οι εταιρείες δεν μπορούν να εντοπίσουν τη συμπεριφορά ενός μοντέλου πίσω στον συγκεκριμένο κώδικα, όπως θα μπορούσαν με το παραδοσιακό λογισμικό. "Και όμως, αναπτύσσουμε αυτά τα πολύπλοκα συστήματα πρακτόρων και μοντέλα, με πρόσβαση στα πιο ευαίσθητα δεδομένα μας", είπε.aninews.in+1

"Πρέπει να υποθέσουμε ότι ένα μοντέλο έχει παραβιαστεί και να το περιορίσουμε από την αρχή", έγραψε, προσθέτοντας ότι τα πιο προηγμένα μοντέλα θα χρειαστούν τεχνολογία περιορισμού την οποία ο κλάδος πρέπει να τυποποιήσει. Ανέφερε ότι οι εταιρείες δεν πρέπει να βασίζονται μόνο στις υποσχέσεις των κατασκευαστών των μοντέλων. Αντίθετα, είπε ότι οι έλεγχοι σχετικά με το τι μπορεί να προσπελάσει και να κάνει ένα μοντέλο πρέπει να βρίσκονται εκτός του ίδιου του μοντέλου.bloomberg.com+2

Το πλαίσιο που προτείνει περιλαμβάνει τη χρήση περισσότερων από ενός μοντέλων, τη διατήρηση ενός αρχείου καταγραφής των ενεργειών του μοντέλου που να είναι αναγνώσιμο από τον άνθρωπο, τη συνεχή δοκιμή των συστημάτων, ανεξάρτητους ελέγχους, περιορισμό και γνωστοποίηση περιστατικών.cnbc.com

Τα Windows ως πλατφόρμα πρακτόρων

Οι προειδοποιήσεις του Nadella έρχονται τη στιγμή που η Microsoft ενσωματώνει εργαλεία ασφαλείας για πράκτορες στα Windows. Σε εκδήλωση για τα Windows και το Surface στο Σαν Φρανσίσκο την Τετάρτη, 7 Οκτωβρίου, η εταιρεία παρουσίασε τα Microsoft Execution Containers, τα οποία περιγράφει ως "περιορισμό βάσει πολιτικής για πράκτορες AI". Το Business Journals ανέφερε ότι η έκκληση του Nadella για δικλείδες ασφαλείας έρχεται καθώς η Microsoft προχωρά με τη δική της οικογένεια μοντέλων AI.bizjournals.com+1

Ευρύτερη πίεση για ασφάλεια

Ο πρόεδρος της Microsoft, Brad Smith, έχει διατυπώσει παρόμοια επιχειρήματα. Δήλωσε στο ITV News ότι η τεχνητή νοημοσύνη "ρυθμίζεται λιγότερο από το πλυντήριο ρούχων σας", ενώ σε συνέντευξη στο BBC επανέλαβε την έκκληση για φρένα έκτακτης ανάγκης. Η ιδέα έχει κερδίσει υποστήριξη μετά από μια σειρά κυβερνοεπιθέσεων και άλλων περιστατικών που αφορούσαν μοντέλα αιχμής. Ο πρόεδρος Donald Trump, εν τω μεταξύ, έχει επανειλημμένα απορρίψει τις ανησυχίες ότι η τεχνητή νοημοσύνη θα μπορούσε να απειλήσει την ανθρωπότητα και έχει δώσει έμφαση στη διατήρηση του προβαδίσματος έναντι της Κίνας.independent.co.uk+1

Ο Nadella συνόψισε τη θέση του ως εξής: "Το πιο αξιόπιστο σύστημα υπερ-νοημοσύνης δεν θα είναι αυτό με το μοντέλο που εμπιστευόμαστε περισσότερο. Θα είναι αυτό που μας επιτρέπει να εμπιστευόμαστε το μοντέλο όσο το δυνατόν λιγότερο".cnbc.com