Η OpenAI θα επιτρέπει σε εξωτερικούς φορείς τον έλεγχο των μοντέλων AI σε πρώιμο στάδιο

Η OpenAI ανακοίνωσε την Τρίτη ότι θα επιτρέψει σε εξωτερικούς οργανισμούς να διεξάγουν τεχνικές αξιολογήσεις ασφαλείας στα μοντέλα τεχνητής νοημοσύνης της κατά τα πρώτα στάδια της εκπαίδευσης, της αξιολόγησης και της διάθεσής τους, μια κίνηση που στοχεύει στην αντιμετώπιση των αυξανόμενων ανησυχιών σχετικά με τους πιθανούς κινδύνους των συστημάτων AI αιχμής.

Ο δημιουργός του ChatGPT περιέγραψε τις προτεραιότητες ώστε αυτές οι αναθεωρήσεις να λειτουργούν αποτελεσματικά, συμπεριλαμβανομένων «ισχυρών μηχανισμών ανεξαρτησίας, επιστημονικής αυστηρότητας, στιβαρών πρακτικών ασφαλείας και σαφών αρμοδιοτήτων», σύμφωνα με το Bloomberg. Η ανακοίνωση, η οποία έγινε μέσω ανάρτησης στο εταιρικό ιστολόγιο, έρχεται σε μια περίοδο έντονου ελέγχου των πρακτικών ασφαλείας του κλάδου της τεχνητής νοημοσύνης.bloomberg

Ένα κύμα προτάσεων για την ασφάλεια

Η κίνηση ακολουθεί μια ταχεία διαδοχή ανακοινώσεων σχετικά με την ασφάλεια από τα κορυφαία εργαστήρια AI. Τη Δευτέρα, η OpenAI δημοσίευσε μια ξεχωριστή σειρά προτάσεων που επικεντρώνονται στην έρευνα ευθυγράμμισης και σε μια υπολογιστική τεχνική γνωστή ως αναδρομική αυτοβελτίωση, ή RSI, ζητώντας διεθνή συνεργασία για την ανάπτυξη προτύπων αιχμής. «Η πλήρως αυτόνομη RSI δεν συμβαίνει σήμερα και δεν πρέπει να την επιδιώξουμε εκτός αν και μέχρις ότου μπορέσει να γίνει με ασφάλεια», ανέφερε η εταιρεία.cnbc

Την περασμένη εβδομάδα, η ανταγωνίστρια Anthropic δημοσίευσε τις δικές της προτάσεις για ασφαλέστερη ανάπτυξη μοντέλων αιχμής, αφού ο ερευνητής Jacob Coxon πυροδότησε μια παγκόσμια συζήτηση παραιτούμενος από την εταιρεία και προειδοποιώντας ότι τα εργαστήρια AI «παίζουν με τις ζωές μας». Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, κάλεσε στη συνέχεια τις εταιρείες AI να επιβραδύνουν τον ρυθμό ανάπτυξής τους και πρότεινε την ενσωμάτωση αξιολογητών τρίτων εντός των οργανισμών τους.explainx+1

Το χάσμα εμπιστοσύνης παραμένει

Παρά τον καταιγισμό δεσμεύσεων, οι σκεπτικιστές αμφισβητούν αν είναι δυνατή η ουσιαστική εποπτεία εν μέσω του ιλιγγιώδους ρυθμού του κλάδου. Περισσότερα από 7 τρισεκατομμύρια δολάρια αναμένεται να δαπανηθούν για την κλιμάκωση της τεχνητής νοημοσύνης τα επόμενα πέντε χρόνια, σύμφωνα με εκτιμήσεις της Goldman Sachs ↘ 1.38% που επικαλείται το Axios. Τόσο η OpenAI όσο και η Anthropic αντιμετωπίζουν πιέσεις να παραδώσουν όλο και πιο ικανά μοντέλα καθώς προετοιμάζονται για δημόσιες προσφορές με αποτιμήσεις τρισεκατομμυρίων δολαρίων.axios

Ένας συνασπισμός περισσότερων από 100 αξιολογητών AI προέτρεψε πρόσφατα τους κατασκευαστές μοντέλων αιχμής να υιοθετήσουν «ελάχιστες προϋποθέσεις» για ανεξάρτητους ελέγχους, συμπεριλαμβανομένης της βαθύτερης πρόσβασης και προστασίας από αντίποινα για τη δημοσίευση δυσμενών ευρημάτων. Ο Daniel Kokotajlo, πρώην ερευνητής της OpenAI και εκτελεστικός διευθυντής του AI Futures Project, δήλωσε στο Axios ότι δεν πιστεύει πως η τεχνητή νοημοσύνη μπορεί να κλιμακωθεί με ασφάλεια, υποστηρίζοντας ότι οι κορυφαίες εταιρείες θα πρέπει να αποφύγουν να κατευθύνουν τους τεράστιους υπολογιστικούς πόρους τους προς τη βελτίωση των μοντέλων.cnbc+2

«Οι εταιρείες βρίσκονται απλώς σε μια συνεχή διαδικασία αντικρουόμενων συναισθημάτων και εσωτερικής συζήτησης για το τι κάνουμε», είπε ο Kokotajlo. «Πρέπει να σταματήσουμε; Είμαστε οι καλοί της υπόθεσης;»axios