Συζητήσεις μεταξύ Anthropic, OpenAI και Google για τη δημιουργία φορέα προτύπων ασφαλείας AI

Οι τρεις κορυφαίοι κατασκευαστές τεχνητής νοημοσύνης αιχμής, η Anthropic, η OpenAI και η Google Alphabet Inc. ↗ 1.53% DeepMind, διεξάγουν παρασκηνιακές συζητήσεις για τη δημιουργία ενός κοινού φορέα προτύπων για τη βιομηχανία της AI, σύμφωνα με ρεπορτάζ του The Information που δημοσιεύθηκε την Κυριακή. Οι συνομιλίες βρίσκονται σε εξέλιξη τουλάχιστον από τον Ιούλιο, προηγούμενες της δημόσιας έκκλησης του διευθύνοντος συμβούλου της Anthropic, Dario Amodei, το Σάββατο, για επιβράδυνση της ανάπτυξης της AI στον κλάδο.theinformation+1

Πίεση για κοινά πρωτόκολλα ασφαλείας

Ο προτεινόμενος οργανισμός θα καθιερώσει κοινά πρωτόκολλα για τεχνικές δοκιμές και ελέγχους πριν από την κυκλοφορία των μοντέλων AI αιχμής. Οι Sam Altman, Demis Hassabis και Amodei έχουν ζητήσει δημόσια συνεργασία υπό την ηγεσία των ΗΠΑ για τα πρότυπα ασφαλείας της AI, συμπεριλαμβανομένων διεθνών φόρουμ για δοκιμές και ανάλυση κινδύνων.cryptobriefing+1

Τα τρία εργαστήρια εξακολουθούν να διαφωνούν σε βασικές λεπτομέρειες. Η Anthropic κλίνει προς την κυβερνητική συνεργασία, με τον επικεφαλής της ομάδας red team να υποστηρίζει δημόσια τον Ιούλιο του 2026 την ανάπτυξη προτύπων σε συνεργασία με κυβερνητικούς φορείς. Η OpenAI έχει δώσει έμφαση στους εθελοντικούς κανόνες του κλάδου, δημοσιεύοντας τον Σεπτέμβριο ένα άρθρο στο ιστολόγιό της όπου δεσμεύεται για την προώθηση προτύπων ανεξάρτητα από την κυβερνητική παρέμβαση. Οι συζητήσεις βασίζονται σε προηγούμενο συντονισμό μέσω του Frontier Model Forum, μιας κοινοπραξίας στην οποία συμμετέχει και η Microsoft ↗ 0.65%.aiweekly+1

Το δοκίμιο του Amodei θέτει το πλαίσιο

Το δοκίμιο του Amodei, έκτασης περίπου 3.800 λέξεων, που δημοσιεύθηκε το Σάββατο, αποτέλεσε το δημόσιο υπόβαθρο για τις ιδιωτικές συνομιλίες. Προειδοποίησε ότι η AI θα μπορούσε εντός έξι έως 12 μηνών να είναι ικανή να καθοδηγεί αυτοματοποιημένα σμήνη που θα μπορούσαν να «καταλάβουν ολόκληρο το διαδίκτυο», μεταξύ άλλων κινδύνων. «Πιστεύω ότι αν η επιβράδυνση μας αγόραζε έστω έναν ή δύο επιπλέον χρόνους πριν τα μοντέλα φτάσουν σε κρίσιμα επίπεδα ικανότητας, και χρησιμοποιούσαμε αυτόν τον χρόνο για να προωθήσουμε την ευθυγράμμιση, θα μπορούσαμε να μειώσουμε σημαντικά τον κίνδυνο να πάει κάτι σοβαρά στραβά», έγραψε ο Amodei.latimes

Το σχέδιο τριών σημείων του καλεί για την ενσωμάτωση ανεξάρτητων αξιολογητών εντός των εργαστηρίων AI, τον συντονισμό κοινών προτύπων ασφαλείας μεταξύ εταιρειών σε δημοκρατικές χώρες και την επιδίωξη παγκόσμιου συντονισμού, συμπεριλαμβανομένων των αυταρχικών κυβερνήσεων. Η Anthropic έχει ήδη δεσμευτεί μονομερώς για το πρώτο βήμα, προσφέροντας σε τρίτους αξιολογητές γραφεία στις εγκαταστάσεις της, κάρτες πρόσβασης και εταιρικούς φορητούς υπολογιστές.techcrunch+2

Το ζήτημα της Κίνας

Το πιο αμφιλεγόμενο στοιχείο της πρότασης μπορεί να είναι ο διεθνής συντονισμός. Ο Amodei παραδέχθηκε την Κυριακή ότι η Κίνα αποτελεί το «πιο δύσκολο δίλημμα», καθώς υπάρχει ο κίνδυνος η επιβράδυνση της ανάπτυξης στις ΗΠΑ να δώσει απλώς πλεονέκτημα σε ανταγωνιστές που δεν ακολουθούν τους ίδιους κανόνες. Ο Δείκτης Ασφαλείας AI του Future of Life Institute από το καλοκαίρι του 2026 υπογράμμισε ευρύτερες ανησυχίες σχετικά με το ιστορικό ασφαλείας του κλάδου, βαθμολογώντας την Anthropic υψηλότερα μεταξύ των τριών εταιρειών με C+, ακολουθούμενη από την OpenAI με C και την Google DeepMind με C.cnbc+1