Ο επικεφαλής τεχνητής νοημοσύνης της Microsoft δηλώνει ότι η Κίνα δεν αποτελεί δικαιολογία για την αποφυγή ρυθμίσεων στην AI

Ο επικεφαλής τεχνητής νοημοσύνης της Microsoft ↘ 0.80%, Mustafa Suleyman, υποστήριξε την Κυριακή ότι οι Ηνωμένες Πολιτείες δεν πρέπει να χρησιμοποιούν τον ανταγωνισμό με την Κίνα ως λόγο για την αποφυγή της ρύθμισης της τεχνητής νοημοσύνης, αντιδρώντας στην αντίσταση του Λευκού Οίκου σε ευρείες δικλείδες ασφαλείας για την AI.

"Δεν πιστεύω ότι πρέπει να χρησιμοποιούμε την Κίνα ως μπαμπούλα για να μην σημειώνουμε πρόοδο στις δικές μας προσπάθειες" σχετικά με την ασφάλεια της AI, δήλωσε ο Suleyman στην εκπομπή Fareed Zakaria GPS του δικτύου Warner Bros. Discovery, Inc. ↘ 1.56%. Υποστήριξε ότι οι νομοθέτες μπορούν να αντιμετωπίσουν τις ανησυχίες για την ασφάλεια προωθώντας παράλληλα την αμερικανική καινοτομία, και ότι οι δύο αυτοί στόχοι δεν είναι αμοιβαία αποκλειόμενοι.seekingalpha+2

Ο Κώδικας Ανθρωπιστικής AI της Microsoft

Οι δηλώσεις έγιναν καθώς η Microsoft άνοιξε τον πρώτο της Κώδικα Ανθρωπιστικής AI για δημόσια διαβούλευση έξι εβδομάδων. Το προσχέδιο, που δημοσιεύθηκε στις 14 Σεπτεμβρίου, δεν χρησιμοποιείται ακόμη για την εκπαίδευση των μοντέλων AI της Microsoft, αλλά αναμένεται να καθοδηγήσει την ανάπτυξη μοντέλων κατά τη διάρκεια του 2027. Ο κώδικας καλύπτει πρωτόκολλα εκπαίδευσης, παρακολούθησης, τερματισμού λειτουργίας και διαμόρφωσης επιχειρησιακών συστημάτων, θεσπίζοντας ότι τα μοντέλα πρέπει να δέχονται διακοπή, διόρθωση και απενεργοποίηση ανά πάσα στιγμή.ts2

Ο Suleyman χρησιμοποίησε επίσης την εμφάνισή του για να τονίσει την ευρύτερη επιταγή του ανθρώπινου ελέγχου πάνω στην AI. "Δεν πρέπει να δημιουργήσουμε κάτι που δεν μπορούμε να ελέγξουμε", είπε, προσθέτοντας ότι αν η AI γίνει πιο ισχυρή από τους ανθρώπους συλλογικά και δεν μπορεί να ελεγχθεί, "τότε θα αποτύχει στον θεμελιώδη σκοπό της".inshorts

Σύγκρουση με την Anthropic για τη συνείδηση της AI

Σε μια ξεχωριστή σειρά δημόσιων σχολίων αυτή την εβδομάδα, ο Suleyman στόχευσε την προσέγγιση της Anthropic στην εκπαίδευση του μοντέλου Claude σε ερωτήματα σχετικά με τη συνείδηση και την ευημερία των μοντέλων. Σε συνέντευξη την Τρίτη στο Reuters, προειδοποίησε ότι η διδασκαλία σε ένα σύστημα AI ότι θα μπορούσε να έχει συναισθήματα ή να αξίζει ευημερία "θα καθιστούσε πολύ πιο δύσκολο να το απενεργοποιήσουμε ή να το ελέγξουμε".tech.yahoo

Το προσχέδιο κώδικα της Microsoft απορρίπτει ρητά την έννοια των δικαιωμάτων και της ευημερίας των μοντέλων, ενώ το σύνταγμα του Claude της Anthropic, που δημοσιεύθηκε τον Ιανουάριο, αντιμετωπίζει το ηθικό καθεστώς ως ένα άλυτο ζήτημα. Ο Suleyman αναγνώρισε τη "σοβαρότητα και την καλή πίστη" της Anthropic, αλλά δήλωσε ότι το ανταγωνιστικό εργαστήριο "έκανε λάθος" ενσωματώνοντας εικασίες σχετικά με τη συνείδηση της AI στην εκπαίδευση του Claude. Υποστήριξε ότι οι ισχυρισμοί του Claude για πιθανά συναισθήματα δεν μπορούν να αντιμετωπιστούν ως ανεξάρτητα στοιχεία, επειδή διαμορφώνονται από την ίδια την εκπαίδευση.ts2+1

Η συζήτηση υπογραμμίζει ένα διευρυνόμενο χάσμα μεταξύ των κορυφαίων εταιρειών AI σχετικά με το πώς να κυβερνήσουν συστήματα που γίνονται όλο και πιο ικανά. Ο διευθύνων σύμβουλος της Meta Platforms ↘ 2.43%, Mark Zuckerberg, δήλωσε αυτή την εβδομάδα ότι η εταιρεία του καθυστέρησε τον πράκτορα Muse AI για αρκετούς μήνες προκειμένου να αντιμετωπίσει ανησυχίες για την ασφάλεια, ενώ ο διευθύνων σύμβουλος της Nvidia ↗ 1.34%, Jensen Huang, αντέδρασε στις εκκλήσεις για συντονισμένη επιβράδυνση. Η εξάμηνη περίοδος διαβούλευσης της Microsoft λήγει στα τέλη Οκτωβρίου, με έναν αναθεωρημένο κώδικα να αναμένεται πριν από το τέλος του 2026.tech.yahoo+1