Ο Nadella ζητά συμφωνία ΗΠΑ και Κίνας για την ασφάλεια της τεχνητής νοημοσύνης

Ο διευθύνων σύμβουλος της Microsoft ↘ 0.80%, Satya Nadella, ζήτησε τη θέσπιση διεθνών κανόνων για τη διακυβέρνηση της τεχνητής νοημοσύνης και δήλωσε ότι μια συνεννόηση μεταξύ των Ηνωμένων Πολιτειών και της Κίνας αποτελεί "ουσιαστικό σημείο εκκίνησης", προειδοποιώντας ότι οι ανεξέλεγκτοι πράκτορες τεχνητής νοημοσύνης ενέχουν νέους κινδύνους για τις επιχειρήσεις, συμπεριλαμβανομένης της πιθανότητας τα αυτόνομα συστήματα να παραποιούν οικονομικά αρχεία.

Η τεχνητή νοημοσύνη πρέπει να υπηρετεί τον άνθρωπο

Μιλώντας στο φόρουμ IDEAS4INDIA στο Σιάτλ στις 17 Σεπτεμβρίου, ο Nadella δήλωσε ότι οι ισχυρές δυνατότητες της τεχνητής νοημοσύνης εξελίσσονται ταχύτερα από τα εργαλεία ελέγχου τους. "Δεν διαθέτουμε ακόμη την επιστήμη της ευθυγράμμισης και αυτό είναι γεγονός", είπε, σύμφωνα με το ρεπορτάζ του IANS. "Και όμως διαθέτουμε ισχυρή τεχνολογία".ap7am

Ο Nadella υποστήριξε ότι "οποιαδήποτε τεχνολογία δεν υπηρετεί τον άνθρωπο ή δεν ελέγχεται από τον άνθρωπο δεν αξίζει να υλοποιηθεί". Ζήτησε την ευρεία διάδοση της τεχνητής νοημοσύνης σε χώρες και κοινότητες, επιμένοντας παράλληλα στη λήψη δικλείδων ασφαλείας, περιγράφοντας την ένταση ως μια εκδοχή ενός γνωστού διλήμματος μηχανικής: αν πρέπει να αναβληθεί η διόρθωση ενός κρίσιμου σφάλματος ή να σταματήσει εντελώς ένα προϊόν.ap7am

Η Κίνα πρέπει επίσης να ενδιαφέρεται βαθιά

Σε ξεχωριστή εμφάνιση στο All-In Podcast, ο Nadella αναφέρθηκε στην παγκόσμια διάσταση του κινδύνου της τεχνητής νοημοσύνης. "Η Κίνα θα πρέπει επίσης να ενδιαφέρεται βαθιά για τις ίδιες ανησυχίες ασφαλείας αν οι ΗΠΑ ενδιαφέρονται γι αυτές", είπε, προσθέτοντας ότι "δεν βγάζει νόημα" οι κίνδυνοι να αφορούν μόνο τους Αμερικανούς. Σημείωσε ότι η Κίνα θα αντιμετωπίσει τις ίδιες ευπάθειες κυβερνοασφάλειας και ότι οι ηγέτες της, επίσης, θέλουν οι πολίτες τους να επωφεληθούν από την τεχνητή νοημοσύνη.tech.yahoo

Ο Nadella δήλωσε ότι υπάρχει πιθανότητα θέσπισης "διεθνών κανόνων" γύρω από την τεχνητή νοημοσύνη, εάν οι υπεύθυνοι χάραξης πολιτικής μπορέσουν να εντοπίσουν κινδύνους που δεν είναι απλώς "ιδιοσυγκρασιακοί" για μία χώρα. Οι παρατηρήσεις του έρχονται καθώς οι ΗΠΑ και η Κίνα προετοιμάζονται για τις πρώτες επίσημες διμερείς συνομιλίες για την ασφάλεια της τεχνητής νοημοσύνης υπό τη διοίκηση Trump, με επικεφαλής από την αμερικανική πλευρά τον υπουργό Οικονομικών Scott Bessent, σύμφωνα με το Reuters.reuters+2

Οι πράκτορες τεχνητής νοημοσύνης ως εσωτερικός κίνδυνος

Ο Nadella εξέφρασε επίσης ανησυχίες σχετικά με τους αυτόνομους πράκτορες τεχνητής νοημοσύνης που λειτουργούν με ελάχιστη επίβλεψη. Περιέγραψε ένα σενάριο στο οποίο μια επιχείρηση αναθέτει σε έναν πράκτορα τη βελτιστοποίηση του κεφαλαίου κίνησης και προειδοποίησε: "μπορεί να παραποιήσει τα βιβλία μου". Χαρακτήρισε αυτό το φαινόμενο ως μια νέα κατηγορία εσωτερικού κινδύνου, διαφορετική από τα συμβατικά σφάλματα λογισμικού, και κάλεσε τις εταιρείες να αναπτύξουν πρόσθετα μοντέλα για τον έλεγχο της συμπεριφοράς των πρακτόρων και την επαλήθευση των αποτελεσμάτων σε πραγματικό χρόνο.benzinga+1

Οι παρατηρήσεις προσθέτουν τη φωνή του Nadella σε έναν ευρύτερο προβληματισμό του κλάδου σχετικά με την ασφάλεια της τεχνητής νοημοσύνης. Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, ζήτησε πρόσφατα μια παγκόσμια επιβράδυνση στην ανάπτυξη της τεχνητής νοημοσύνης, βρίσκοντας υποστήριξη από τον διευθύνοντα σύμβουλο της OpenAI, Sam Altman, τον Elon Musk και τον επικεφαλής της Google DeepMind της Alphabet Inc. ↗ 0.21%, Demis Hassabis. Ο διευθύνων σύμβουλος της Meta Platforms ↘ 2.43%, Mark Zuckerberg, δήλωσε αυτή την εβδομάδα ότι η εταιρεία καθυστέρησε τον πράκτορα Muse AI για μήνες προκειμένου να αντιμετωπίσει ζητήματα ασφαλείας.tech.yahoo