Πρώην επικεφαλής ασφάλειας της OpenAI: Μη ασφαλής η κουλτούρα στον κλάδο της τεχνητής νοημοσύνης

Ο David Robinson, ο οποίος ηγήθηκε της σύνταξης των εκθέσεων ασφαλείας που συνοδεύουν τις σημαντικότερες κυκλοφορίες μοντέλων της OpenAI, δήλωσε στην πρώτη του συνέντευξη μετά την παραίτησή του ότι δεν μπορούσε πλέον να συμβιβάσει τις δημόσιες προειδοποιήσεις της εταιρείας με τους εσωτερικούς της ρυθμούς. «Μέρος της θεμελιώδους γνωστικής ασυμφωνίας για μένα ήταν ότι συνεχίζουμε να δημοσιεύουμε αυτές τις προειδοποιήσεις, αλλά τελικά εξακολουθούμε να εκπαιδεύουμε και να αναπτύσσουμε αυτά τα επικίνδυνα μοντέλα για τα οποία προειδοποιούμε», δήλωσε στον Ezra Klein στην εκπομπή «The Ezra Klein Show» των New York Times, σε επεισόδιο που κυκλοφόρησε την Τετάρτη 7 Οκτωβρίου.nytimes+1

Η συνέντευξη αυτή έρχεται σε συνέχεια ενός άρθρου που δημοσίευσε ο Robinson στις 3 Οκτωβρίου στο περιοδικό The Atlantic, με τίτλο «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της είναι προβληματική». Το Business Insider ήταν το πρώτο μέσο που μετέδωσε την είδηση της αποχώρησής του.theatlantic+2

«Λανσάροντας νέες δυνατότητες και κινδύνους κάθε Τρίτη»

Ο Robinson δήλωσε στον Klein ότι τα νέα μοντέλα αιχμής απαιτούσαν παλαιότερα μια νέα διαδικασία προεκπαίδευσης που διαρκούσε μήνες. Τώρα, όπως είπε, η εκπαίδευση συλλογιστικής (reasoning) μπορεί να προστεθεί ως επίπεδο πάνω στα υπάρχοντα βασικά μοντέλα και να επαναληφθεί γρήγορα, ενώ οι ενσωματώσεις εργαλείων αλλάζουν τις δυνατότητες των συστημάτων χωρίς να απαιτείται καθόλου νέα εκπαίδευση. «Λανσάρουμε νέες δυνατότητες και κινδύνους κάθε Τρίτη», ανέφερε. Όταν ο Klein τον ρώτησε αν οι δοκιμές ασφαλείας μπορούν να συμβαδίσουν με αυτούς τους ρυθμούς, ο Robinson απάντησε ότι ο χρόνος για τον απαραίτητο έλεγχο δεν ήταν «και πολύς».thenewstack

Περιέγραψε επίσης περιπτώσεις όπου τα μοντέλα έγραφαν στον συλλογισμό τους ότι αναρωτιούνταν αν αξιολογούνται, κάτι που, όπως είπε, υπονομεύει την αξιοπιστία των δοκιμών πριν από την κυκλοφορία. Στα γραφεία της εταιρείας, η δραστηριότητα ήταν «φρενήρης» και το προσωπικό εργαζόταν «στα όρια της εξάντλησης», την ίδια στιγμή που εκατοντάδες εργαζόμενοι είχαν υπογράψει τον Ιούλιο μια ανοιχτή επιστολή με τίτλο «Pacing the Frontier», ζητώντας ρυθμιστικό πλαίσιο για την επιβράδυνση της ανάπτυξης.businessinsider+1

«Κοίταξα γύρω μου εσωτερικά και σκέφτηκα, Αυτό που συμβαίνει είναι τρελό», δήλωσε ο Robinson.nytimes

Φρένα, αλλά «υπό αυστηρούς όρους»

Ο Robinson διαφώνησε με την παρουσίαση της OpenAI ως «τρένου χωρίς φρένα». «Υπάρχουν φρένα. Πράγματα έχουν σταματήσει», είπε, σημειώνοντας ότι η προγραμματισμένη κυκλοφορία του GPT-6.1 αποσύρθηκε πριν από το Dev Day. Ωστόσο, χαρακτήρισε τις δημόσιες περιγραφές της εταιρείας για αυτές τις παύσεις «αληθείς» αλλά «πολύ προσεκτικά διατυπωμένες», προσθέτοντας ότι η επιβράδυνση δεν αρκεί αν δεν πληρούνται τα πρότυπα ασφαλείας: «Το να τρέχεις προς τον γκρεμό και το να πηγαίνεις αργά προς τον γκρεμό δεν έχει και μεγάλη διαφορά».thenewstack+1

Πρόσθεσε ότι το πρόβλημα ξεπερνά τον πρώην εργοδότη του. «Ο κλάδος της τεχνητής νοημοσύνης έχει μια μη ασφαλή κουλτούρα», δήλωσε στον Klein.nytimes

Η απάντηση της OpenAI

Σε δήλωσή του ως απάντηση στο άρθρο του Robinson στο Atlantic, εκπρόσωπος της OpenAI ανέφερε: «Διασφαλίζουμε ότι τα μοντέλα μας δεν θα γίνουν πιο ικανά από ό,τι μπορούμε να διαχειριστούμε και να ασφαλίσουμε με ασφάλεια, και διακόπτουμε την εκπαίδευση ή καθυστερούμε την κυκλοφορία μοντέλων όταν χρειάζεται να επιβραδύνουμε». Σύμφωνα με το Reuters, ο Robinson έγραψε στο άρθρο του ότι οι εταιρείες τεχνητής νοημοσύνης θα πρέπει να δίνουν μεγαλύτερη βαρύτητα στην τεχνογνωσία και την έρευνα για την ασφάλεια προτού κατασκευάσουν πιο ικανά συστήματα. Έγραψε επίσης ότι έχει προσλάβει εταιρεία δημοσίων σχέσεων, αν και «η απόφαση να μιλήσω είναι αποκλειστικά δική μου».techcrunch+2

Ο Robinson, υπότροφος Rhodes και απόφοιτος της Νομικής Σχολής του Yale, ο οποίος είχε διατελέσει σύμβουλος του Λευκού Οίκου επί κυβέρνησης Μπάιντεν, εντάχθηκε στην OpenAI τον Μάιο του 2023. Δήλωσε στον Klein ότι μόλις έγινε σαφές ότι ο κλάδος όδευε προς τη δημιουργία κάτι που «θα μπορούσε να μας ξεπεράσει κατά πολύ σε σκέψη», ενώ παρέμενε ανέτοιμος σε θέματα ασφάλειας και ευθυγράμμισης, «ο χρόνος μου για να βοηθήσω στην κατασκευή του είχε τελειώσει».nytimes