Σύμφωνο για την ασφάλεια της τεχνητής νοημοσύνης υπέγραψαν OpenAI, Anthropic και Microsoft

Έξι κυβερνήσεις και δέκα εταιρείες τεχνητής νοημοσύνης, συμπεριλαμβανομένων των Anthropic, OpenAI και Microsoft, υπέγραψαν τη Δευτέρα 9 Νοεμβρίου το «Κάλεσμα του Παρισιού για την Ασφάλεια της Τεχνητής Νοημοσύνης». Η διακήρυξη τις δεσμεύει σε κοινές αξιολογήσεις μοντέλων αιχμής, συστήματα έγκαιρης προειδοποίησης για περιστατικά και σαφέστερη λογοδοσία για τους προγραμματιστές, σύμφωνα με το Μέγαρο των Ηλυσίων. Οι εθνικοί υπογράφοντες είναι το Μπαχρέιν, ο Καναδάς, η Φινλανδία, η Γαλλία, η Νορβηγία και οι Κάτω Χώρες. Οι υπόλοιπες εταιρείες που υπέγραψαν είναι οι Black Forest Labs, Cohere, Domyn, Hugging Face, Mistral AI, Sakana AI και Synthesia. Η διακήρυξη δεν είναι δεσμευτική και παραμένει ανοιχτή σε νέες προσχωρήσεις, αναφέρει το κείμενο.elysee.fr+1

Μια σύνοδος που συγκάλεσε ο Μακρόν

Ο Γάλλος πρόεδρος Εμανουέλ Μακρόν συγκέντρωσε περίπου 50 συμμετέχοντες μέσω βιντεοσύνδεσης, ανάμεσά τους παγκόσμιους ηγέτες, ερευνητές και επικεφαλής εργαστηρίων τεχνητής νοημοσύνης, όπως μετέδωσε το dpa. Ηγέτες από το Ηνωμένο Βασίλειο, την Ιαπωνία και τη Σιέρα Λεόνε έλαβαν μέρος στις συνομιλίες αλλά δεν περιλαμβάνονται στους υπογράφοντες. Ο υπουργός Οικονομικών των ΗΠΑ Σκοτ Μπέσεντ και εκπρόσωποι των Ηνωμένων Εθνών και του ΟΟΣΑ συμμετείχαν επίσης, όπως και ο Σαμ Άλτμαν της OpenAI, ο Ντάριο Αμοντέι της Anthropic και ο πρόεδρος της Microsoft Μπραντ Σμιθ, ανέφερε το Logistik Heute, επικαλούμενο το dpa. Ο Μακρόν δήλωσε ότι οι συμμετέχοντες δεσμεύτηκαν να αξιολογούν τους κινδύνους των πιο προηγμένων μοντέλων ανεξάρτητα και δημόσια, να μοιράζονται προειδοποιήσεις για σοβαρά περιστατικά πιο αποτελεσματικά και να καθιστούν τους προγραμματιστές υπόλογους, σύμφωνα με το dpa. Οργανώσεις της κοινωνίας των πολιτών υπέγραψαν επίσης, συμπεριλαμβανομένων των LawZero του Γιοσούα Μπέντζιο, SaferAI, AI Safety Connect και του γαλλικού think tank Ifri, ανέφεραν τα Ηλύσια Πεδία.dpa-international.com+2

Τρεις δεσμεύσεις

Η πρώτη δέσμευση αφορά ένα κοινό πλαίσιο για την αξιολόγηση και τη διαχείριση των κινδύνων των μοντέλων αιχμής. Εστιάζει στην επικίνδυνη κακή χρήση στους τομείς του κυβερνοχώρου και των CBRN (χημικών, βιολογικών, ραδιολογικών και πυρηνικών), καθώς και στους κινδύνους από την αυξανόμενη αυτονομία, την έλλειψη ευθυγράμμισης και την απώλεια ελέγχου. Οι υπογράφοντες συμφώνησαν να δημοσιεύουν τα μη ευαίσθητα ευρήματα των αξιολογήσεών τους σε τυποποιημένη μορφή σε ένα κοινό δημόσιο αποθετήριο, σύμφωνα με τη διακήρυξη.presidentti.fi

Η δεύτερη αφορά την υπευθυνότητα. Οι προγραμματιστές δεσμεύονται να αποκαλύπτουν τις δυνατότητες, τους περιορισμούς και τους γνωστούς κινδύνους των μοντέλων, και να υποστηρίζουν την αξιολόγηση από ανεξάρτητους φορείς όπου κρίνεται σκόπιμο. Δεσμεύονται επίσης να κατασκευάσουν μηχανισμούς ασφαλείας που μπορούν να θέσουν σε παύση ή να τερματίσουν τη λειτουργία μοντέλων υπό τον έλεγχό τους, συμπεριλαμβανομένων των φάσεων εκπαίδευσης και εσωτερικής χρήσης. Οι υπεύθυνοι χάραξης πολιτικής, από την πλευρά τους, δεσμεύτηκαν να αποσαφηνίσουν ποιος φέρει την ευθύνη όταν η τεχνητή νοημοσύνη προκαλεί ζημιές μεγάλης κλίμακας, συμπεριλαμβανομένων των βλαβών που διασχίζουν σύνορα, αναφέρει το κείμενο.presidentti.fi

Η τρίτη δέσμευση ζητά συστήματα άμεσης ειδοποίησης και καλύτερη ανταλλαγή πληροφοριών σχετικά με σοβαρά περιστατικά στον κυβερνοχώρο και τον έλεγχο της τεχνητής νοημοσύνης. Δεσμεύει επίσης τις κυβερνήσεις να προσφέρουν ασφαλή κανάλια για τους πληροφοριοδότες, σύμφωνα με τα Ηλύσια Πεδία.elysee.fr

Ένα τεταμένο σκηνικό ασφαλείας

Η διακήρυξη ήρθε μία εβδομάδα μετά από μια ύποπτη κυβερνοεπίθεση στις 2 Νοεμβρίου που έθεσε εκτός λειτουργίας συστήματα ψύξης σούπερ μάρκετ σε 11 ευρωπαϊκές χώρες, ανέφερε η Türkiye Today. Η ίδια αναφορά σημείωσε ότι η εταιρεία κυβερνοασφάλειας Wiz χαρακτήρισε τον Οκτώβριο ως «Μαύρο Οκτώβριο» μετά την αποκάλυψη περιστατικών ασφαλείας από τουλάχιστον εννέα πλατφόρμες ανάπτυξης τεχνητής νοημοσύνης. Πρόσθεσε ότι οι αρχές δεν έχουν διαπιστώσει αν οι επιθέσεις συνδέονται ή αν η τεχνητή νοημοσύνη έπαιξε ρόλο σε κάθε περίπτωση.turkiyetoday.com

Τα Ηλύσια Πεδία δήλωσαν ότι ο χάρτης προορίζεται να ενημερώσει τις εθνικές και ευρωπαϊκές νομοθετικές συζητήσεις, ανέφερε το Pollar.pollar.news