Η OpenAI απέσυρε τρεις μαθηματικές μελέτες τεχνητής νοημοσύνης λόγω λάθους στο πρόσημο

Η OpenAI απέσυρε τρία από τα 722 μαθηματικά χειρόγραφα που δημοσίευσε στις 6 Οκτωβρίου, λιγότερο από μία ημέρα μετά την ανάρτησή τους. Η εταιρεία εντόπισε ένα λάθος στο πρόσημο που κατέστρεψε το επιχείρημα σε μία εργασία, καθώς και την κατασκευή στην οποία βασίζονταν δύο άλλες εργασίες. Επίσης, αναθεώρησε άλλα 14 χειρόγραφα. Οι αποσύρσεις έχουν εντείνει τη συζήτηση μεταξύ των μαθηματικών σχετικά με τον τρόπο ελέγχου της έρευνας που παράγεται από τεχνητή νοημοσύνη και κυκλοφορεί μαζικά.retractionwatch+1

Τα 722 χειρόγραφα αναρτήθηκαν σε ένα δημόσιο αποθετήριο στο GitHub. Η OpenAI δήλωσε ότι παρήχθησαν από ένα μη κυκλοφορημένο εσωτερικό μοντέλο αιχμής και τα ομαδοποίησε σε 372 οικογένειες αποτελεσμάτων στην άλγεβρα, τη γεωμετρία, την επιστήμη των υπολογιστών και άλλους τομείς.unite+1

Τι αποσύρθηκε

Σύμφωνα με το ιστορικό αναθεωρήσεων του αποθετηρίου στις 7 Οκτωβρίου, το σφάλμα εντοπίστηκε στο "Algebraicity of Weil classes on split abelian eightfolds". Εκεί, "ένα λάθος στο πρόσημο ακυρώνει ένα επιχείρημα ακύρωσης σταθεροποίησης-ίχνους και την κατασκευή που χρησιμοποιήθηκε από δύο εξαρτώμενες εργασίες". Αυτές οι δύο εργασίες, "Algebraicity of Kuga–Satake Correspondences for K3 Surfaces" και "The rational Hodge conjecture for products of K3 surfaces," αποσύρθηκαν επίσης.aiweekly+1

Οι αποσυρθείσες εκδόσεις παραμένουν online, με σημειώσεις που εξηγούν τα κενά. Τα 14 αναθεωρημένα χειρόγραφα έλαβαν διορθώσεις στις αποδείξεις, διορθωμένες δηλώσεις, σαφέστερες υποθέσεις και εξαρτήσεις, καθώς και μία διόρθωση σε μια παρωχημένη βιβλιογραφική αναφορά. Οι αναφορές ενημερώθηκαν επίσης σε 13 συνοδευτικές εργασίες. Ο κατάλογος περιλαμβάνει πλέον 719 χειρόγραφα.implicator+1

Εκπρόσωπος της OpenAI δήλωσε στο Retraction Watch ότι η εταιρεία εντόπισε τα σφάλματα κατά τη διάρκεια ενός ελέγχου. "Καλωσορίζουμε τον έλεγχο και τα σχόλια από τη μαθηματική κοινότητα", δήλωσε ο εκπρόσωπος, προσθέτοντας ότι η OpenAI θα "αποσύρει εργασίες εάν δεν μπορούν να βρεθούν διορθώσεις". Ένας άλλος εκπρόσωπος δήλωσε στο The Atlantic ότι "αναμένουμε τα λάθη να είναι αρκετά σπάνια". Ο Dan Roberts, επικεφαλής έρευνας της OpenAI, ανακοίνωσε τις αποσύρσεις στο X.retractionwatch+1

Ανησυχίες για την επαλήθευση

Περίπου το 42% των αποτελεσμάτων συνοδεύεται από επίσημες αποδείξεις στη γλώσσα Lean, μια γλώσσα προγραμματισμού που ελέγχει αποδείξεις μέσω υπολογιστή. Τα υπόλοιπα υπάρχουν μόνο ως γραπτές εργασίες. Η OpenAI δήλωσε ότι μια συμβουλευτική ομάδα με την οποία συνεργάζεται, η Συμβουλευτική Ομάδα για τα Μαθηματικά και την Τεχνητή Νοημοσύνη, συνέστησε τη δημοσίευση των αποτελεσμάτων χωρίς να περιμένουν την πλήρη επισημοποίηση. Ο εκπρόσωπος δήλωσε ότι περίπου τα μισά κυκλοφόρησαν χωρίς επιβεβαίωση.asiae+1

Ο Alex Townsend, μαθηματικός στο Πανεπιστήμιο Cornell, δήλωσε ότι αναμένει να εμφανιστούν περισσότερα σφάλματα. "Δεδομένου του σκεπτικισμού για την τεχνητή νοημοσύνη στη μαθηματική κοινότητα, πιστεύω ότι η OpenAI θα έπρεπε να είχε ανακοινώσει πρώτα τα χειρόγραφα που είχαν επαληθευτεί μέσω Lean", δήλωσε στο Retraction Watch. Αρκετοί μαθηματικοί δήλωσαν στο The Atlantic ότι ορισμένες εργασίες φαίνεται να μην αποδεικνύουν αυτό που ισχυρίζονται.retractionwatch+1

Ο Baek Hyeongryeol, κοσμήτορας της Μεταπτυχιακής Σχολής Μαθηματικών Τεχνητής Νοημοσύνης του KAIST στη Νότια Κορέα, δήλωσε ότι ορισμένα από τα αποτελέσματα θα μπορούσαν να είναι "άξια μεταλλίου Fields" εάν επιβεβαιωθούν. Είπε επίσης ότι τα χειρόγραφα που διάβασε "ήταν δύσκολο να ακολουθηθούν".asiae

"Το αν μια απόδειξη είναι σωστή είναι σημαντικό, αλλά η διαδικασία μέσω της οποίας γίνεται μέρος της γνώσης μας είναι εξίσου σημαντική", δήλωσε ο Baek.asiae