Κορυφαία εργαστήρια AI ζητούν φρένο στην ανάπτυξη λόγω φόβων για την ασφάλεια

Η βιομηχανία της τεχνητής νοημοσύνης (AI) βρίσκεται στη δίνη της πιο σημαντικής εσωτερικής της αναμέτρησης από τότε που η τεχνολογία αυτή ήρθε στο προσκήνιο, καθώς κορυφαία εργαστήρια παραδέχονται ότι η αναδρομική αυτοβελτίωση: όπου τα μοντέλα AI κατασκευάζουν αυτόνομα πιο ικανούς διαδόχους: είναι πιο κοντά από ό,τι πιστευόταν προηγουμένως, και κορυφαία στελέχη συγκρούονται δημόσια για το αν πρέπει να επιβραδύνουν ή να επιταχύνουν.

Μια αλυσίδα αντιδράσεων δέκα ημερών

Η αναταραχή ξεκίνησε στις 3 Σεπτεμβρίου, όταν η OpenAI ανακοίνωσε το νεότερο μοντέλο της, το Astra, παρόλο που η εταιρεία παραδέχτηκε ότι «αδυνατεί όλο και περισσότερο να ελέγξει ή ακόμη και να παρακολουθήσει» τα συστήματα AI που κυκλοφορούσε, σύμφωνα με το Reuters. Λίγες ημέρες αργότερα, στις 8 Σεπτεμβρίου, ο ερευνητής της Anthropic, Jacob Coxon, παραιτήθηκε, προειδοποιώντας με μια σειρά από viral αναρτήσεις ότι τα εργαστήρια AI «παίζουν τη ζωή μας κορώνα γράμματα». Ένας άλλος ερευνητής της Anthropic, ο Evan Hubinger, έγραψε στο X: «Πιστεύουμε πραγματικά και ειλικρινά ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους».reuters

Μέχρι τις 12 Σεπτεμβρίου, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, δημοσίευσε ένα δοκίμιο σχεδόν 4.000 λέξεων ζητώντας επιβράδυνση, προειδοποιώντας ότι μέσα σε έξι έως 12 μήνες, σμήνη πρακτόρων AI «θα μπορούσαν να είναι σε θέση να καταλάβουν ολόκληρο το διαδίκτυο». Στο πλευρό του τάχθηκαν οι επικεφαλής της OpenAI, της DeepMind της Alphabet Inc. ↘ 0.38% (Google), της Microsoft ↘ 2.20% και της xAI, σε μια σπάνια κοινή έκκληση για επιβράδυνση της ανάπτυξης και για να επιτραπεί σε εξωτερικές εταιρείες να ελέγξουν την ασφάλεια των συστημάτων τους.reuters

Η διάσπαση: Amodei εναντίον Huang

Δεν συμφωνούν όλοι. Ο διευθύνων σύμβουλος της Nvidia ↘ 5.47%, Jensen Huang, απέρριψε τις εισηγήσεις για παύση της ανάπτυξης της AI. «Πρέπει να προχωρήσουμε όσο πιο γρήγορα μπορούμε, ανεξάρτητα από οποιονδήποτε άλλον», δήλωσε ο Huang στο CBS News σε συνέντευξη που θα μεταδοθεί αυτό το Σαββατοκύριακο. Πρόσθεσε: «Δεν θα διαθέταμε ποτέ, και δεν θα έπρεπε ποτέ, προϊόντα πριν να είναι έτοιμα, ούτε θα παραδίδαμε προϊόντα που δεν είναι ασφαλή».cbsnews

Ο Mark Zuckerberg της Meta ↗ 0.00% κράτησε παρόμοια στάση, υποστηρίζοντας ότι κάθε εργαστήριο θα πρέπει να ορίζει τον δικό του ρυθμό αντί να συντονίζει μια επιβράδυνση του κλάδου. «Τα εργαστήρια αντιμετωπίζουν σημαντική ευθύνη εάν τα μοντέλα τους προκαλέσουν βλάβη, επομένως έχουν ισχυρό κίνητρο να το αποτρέψουν αυτό», έγραψε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης.reuters

Η Wall Street Journal της News Corp ↗ 1.64% παρουσίασε τη διαφωνία αυτή ως μια καθοριστική διάσπαση, με τον Amodei να αναδεικνύεται ως το πρόσωπο της προσοχής και τον Huang ως την ηγετική φωνή κατά του περιορισμού.wsj

Η αναδρομική αυτοβελτίωση πλησιάζει στην πραγματικότητα

Την ανησυχία τροφοδοτεί η συγκεκριμένη πρόοδος προς την αναδρομική αυτοβελτίωση. Η Anthropic αποκάλυψε αυτή την εβδομάδα ότι το μοντέλο της Claude ηγείται πλέον του 26% της έρευνας και ανάπτυξης της ίδιας της εταιρείας, σύμφωνα με το Associated Press. Η OpenAI έχει αναπτύξει έναν αυτοματοποιημένο «ασκούμενο ερευνητή» και στοχεύει σε έναν πλήρως αυτοματοποιημένο «ερευνητή» AI έως τον Μάρτιο του 2028. Ο Elon Musk δήλωσε ότι τα μοντέλα Grok της xAI θα μπορούσαν να επιτύχουν πλήρως αυτοματοποιημένη αυτοβελτίωση έως το τέλος αυτού του έτους.wral

Ερευνητές προειδοποίησαν νωρίτερα αυτόν τον μήνα ότι η τεχνητή γενική νοημοσύνη (AGI) θα μπορούσε να εμφανιστεί σε μόλις τρία χρόνια. «Αυτή είναι πιθανώς η χειρότερη ιδέα στην ιστορία της ανθρωπότητας», δήλωσε ο Anthony Aguirre, πρόεδρος του Future of Life Institute, αναφερόμενος στην επιδίωξη της πλήρως αυτόνομης αυτοβελτίωσης της AI.reuters+1

Ο πρόεδρος Donald Trump, εν τω μεταξύ, χαρακτήρισε τον συναγερμό για την ασφάλεια της AI «απάτη» και προειδοποίησε ότι οποιαδήποτε επιβράδυνση θα ωφελούσε μόνο την Κίνα. Το Κογκρέσο έχει σημειώσει ελάχιστη πρόοδο όσον αφορά τη ρύθμιση της AI, ακόμη και όταν η Κίνα έχει προχωρήσει στην πρόταση υποχρεώσεων για τους προγραμματιστές και κρατικά υποστηριζόμενων προτύπων ασφαλείας.reuters

Ο επικεφαλής του τμήματος AI της Microsoft, Mustafa Suleyman, προσέφερε μια νηφάλια σύνοψη: «Είμαστε όλοι επικεντρωμένοι στον ίδιο στόχο, ο οποίος είναι να προσπαθήσουμε να ελέγξουμε μια υπερφυή νοημοσύνη. Πιστεύω ότι αυτή θα είναι η μεγαλύτερη πρόκληση που θα αντιμετωπίσουμε στον 21ο αιώνα».reuters