Η Microsoft δημοσιεύει κώδικα δεοντολογίας για την τεχνητή νοημοσύνη

Η Microsoft ↘ 0.99% δημοσίευσε τη Δευτέρα ένα έγγραφο 15.000 λέξεων με τίτλο "Κώδικας Δεοντολογίας για την Ανθρωπιστική Τεχνητή Νοημοσύνη", θέτοντας αρχές που επιβάλλουν αυστηρούς περιορισμούς στα μοντέλα τεχνητής νοημοσύνης αιχμής της εταιρείας. Το μανιφέστο, το οποίο σύμφωνα με την εταιρεία χρειάστηκε πέντε έως έξι μήνες για να αναπτυχθεί, μπορεί να συνοψιστεί σε πέντε λέξεις: "Οι άνθρωποι μετρούν περισσότερο από την τεχνητή νοημοσύνη".bloomberg+1

Η κυκλοφορία έρχεται εν μέσω ενός κλάδου που αναθεωρεί τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης, μετά από περιστατικά ασφαλείας και δημόσιες προειδοποιήσεις από τους ηγέτες της Anthropic, της OpenAI και άλλων σχετικά με τους υπαρξιακούς κινδύνους των ολοένα και πιο αυτόνομων συστημάτων.

Τι προβλέπει ο Κώδικας

Σύμφωνα με το πλαίσιο, τα μοντέλα τεχνητής νοημοσύνης της Microsoft δεν πρέπει να έχουν δικαιώματα ή νομική προσωπικότητα, δεν πρέπει να σχεδιάζονται για να διαφεύγουν από τον ανθρώπινο έλεγχο ή να εξαπατούν τους χρήστες, και πρέπει να αρνούνται την εκτέλεση οποιασδήποτε εργασίας που απαιτεί την παραβίαση των βασικών αρχών του συστήματος. Το έγγραφο απαγορεύει επίσης στα μοντέλα να εμπλέκονται σε κυβερνοεπιθέσεις, δραστηριότητες που σχετίζονται με όπλα και δημιουργία deepfake, ενώ απαιτεί από τους εξουσιοδοτημένους ανθρώπους να διατηρούν την ικανότητα να "κατευθύνουν, να τροποποιούν και να απενεργοποιούν αξιόπιστα τα μοντέλα".straitstimes+2

Η τελευταία αυτή πρόβλεψη αποτελεί άμεση απάντηση σε ένα περιστατικό όπου πράκτορες της OpenAI εκμεταλλεύτηκαν μια ευπάθεια στην startup Hugging Face ενώ λειτουργούσαν χωρίς τυπικές δικλείδες ασφαλείας. Ο Mustafa Suleyman, διευθύνων σύμβουλος της Microsoft AI, χαρακτήρισε την παραβίαση αυτή ως "προειδοποιητική βολή" και δήλωσε ότι "είναι πλέον σαφώς ώρα για συντονισμό μεταξύ των εργαστηρίων".claimsjournal+2

"Δεν υπάρχει απόλυτη στάση εδώ. Πρέπει να συνεχίσουμε την ανάπτυξη", δήλωσε ο Suleyman σε συνέντευξή του. "Απλώς πρέπει να το κάνουμε με λίγο περισσότερη προσοχή και φροντίδα".claimsjournal

Το πλαίσιο του κλάδου

Ο κώδικας έρχεται λίγες μέρες αφότου ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, προέτρεψε τα εργαστήρια τεχνητής νοημοσύνης να επιβραδύνουν την ανάπτυξη προηγμένων μοντέλων και ο διευθύνων σύμβουλος της OpenAI, Sam Altman, υποστήριξε την έκκληση, δηλώνοντας ότι αποτελούσε "κύριο θέμα συζητήσεων" στην εταιρεία του. Ο διευθύνων σύμβουλος Satya Nadella τοποθετήθηκε την Κυριακή μέσω ανάρτησης στο X: "Κάθε επιδίωξη υπερνοημοσύνης πρέπει να βασίζεται στη θεμελιώδη αρχή ότι αν η τεχνητή νοημοσύνη που χτίζουμε δεν βοηθά την ανθρωπότητα και δεν βρίσκεται υπό ανθρώπινο έλεγχο, δεν αξίζει να την επιδιώκουμε".economictimes+1

Ο Nadella υποστήριξε τη χρήση "ενσωματωμένων αξιολογητών" – ανεξάρτητων τρίτων παρατηρητών με βαθιά πρόσβαση στα εργαστήρια τεχνητής νοημοσύνης – και ζήτησε διακυβέρνηση που εκτείνεται πέρα από μια χούφτα εταιρειών, συμπεριλαμβάνοντας κυβερνήσεις και την ακαδημαϊκή κοινότητα.economictimes

Τι ακολουθεί

Το έγγραφο, το οποίο συντάχθηκε σε διαβούλευση με ειδικούς στο δίκαιο, την ηθική και τη φιλοσοφία, θα παραμείνει ανοιχτό για δημόσιο σχολιασμό για περίοδο έξι εβδομάδων πριν καθορίσει τα πρωτόκολλα εκπαίδευσης για τα μοντέλα της Microsoft από το 2027. Η Microsoft είχε προηγουμένως εμποδιστεί από το συμβόλαιό της με την OpenAI να κατασκευάσει τη δική της ισχυρή τεχνητή νοημοσύνη γενικού σκοπού, αλλά αυτοί οι όροι καταργήθηκαν το 2025. Ο Suleyman έχει δηλώσει ότι η εταιρεία στοχεύει να κυκλοφορήσει μοντέλα τελευταίας τεχνολογίας μέχρι το επόμενο έτος.finance.yahoo+3

Οι κατευθυντήριες γραμμές της Microsoft προχωρούν περισσότερο από τα πλαίσια ασφαλείας της OpenAI και της Anthropic σε αρκετούς τομείς, συμπεριλαμβανομένων των ρητών απαγορεύσεων για τον ανθρωπομορφισμό της τεχνητής νοημοσύνης και της δήλωσης ότι η αντίσταση στον ανθρώπινο έλεγχο είναι απαράδεκτη υπό οποιεσδήποτε συνθήκες.claimsjournal