Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.openai.com.Στις 18 Νοεμβρίου, η OpenAI ανακοίνωσε ότι τα πρακτορεία κώδικα που διαθέτει ολοκληρώνουν πλέον σχεδόν τις μισές ερευνητικές εργασίες μέσης διάρκειας χωρίς καμία ανθρώπινη βοήθεια. Πρόσθεσε ότι τα κέρδη είναι άνισα και ότι οι άνθρωποι "παραμένουν βασικό μέρος του ερευνητικού κύκλου της τεχνητής νοημοσύνης". Στην έκθεσή της, με τίτλο Research acceleration: The jagged frontier, η εταιρεία εκτίμησε ότι το ποσοστό επιτυχίας των πρακτορείων χωρίς παρέμβαση σε εργασίες που απαιτούν δύο έως τέσσερις ώρες ανθρώπινης εργασίας αυξήθηκε από 23% τον Μάρτιο σε 46% τον Οκτώβριο. Σε εργασίες που εκτιμώνται σε τέσσερις έως οκτώ ώρες, το ποσοστό αυξήθηκε από 13% σε 35%openai.com.
Η OpenAI ανανέωσε επίσης την έκκλησή της προς τα εργαστήρια τεχνητής νοημοσύνης να υποχρεούνται να παρακολουθούν και να αναφέρουν δημόσια δείκτες αναδρομικής αυτοβελτίωσης, δηλαδή την τεχνητή νοημοσύνη που επιταχύνει την ανάπτυξη μελλοντικής τεχνητής νοημοσύνης. Διευκρίνισε ότι η δική της αναφορά "δεν πρέπει να εκληφθεί ως πρόθεση επιδίωξης πλήρους RSI"openai.com.
Τα αποτελέσματα διέφεραν σημαντικά ανάλογα με το είδος της εργασίας. Από την 1η Αυγούστου έως τις 18 Οκτωβρίου, τα πρακτορεία πέτυχαν χωρίς παρέμβαση στο 79% των περιπτώσεων κατά την παρακολούθηση εκπαιδευτικών κύκλων, στο 35% κατά την έναρξή τους και στο 25% κατά τη συγγραφή κώδικα για συμπεράσματα και στοίβες εξυπηρέτησης. Η εταιρεία προειδοποίησε ότι οι ερευνητές ενδέχεται να έχουν αλλάξει τις εργασίες που αναθέτουν στα πρακτορεία εντός κάθε ζώνης διάρκειας, επομένως τα αυξανόμενα ποσοστά επιτυχίας δεν αντικατοπτρίζουν μόνο τις βελτιώσεις των μοντέλων. Οι διάρκειες των εργασιών περιγράφουν την εκτιμώμενη ανθρώπινη προσπάθεια, όχι το πόσο χρόνο έτρεξαν τα πρακτορείαthedefiant.io+1.
Η χρήση των πρακτορείων αυξήθηκε ραγδαία. Με βάση τις τιμές καταλόγου API, ο μέσος ερευνητής χρησιμοποίησε περίπου 2.400 δολάρια εργασίας πρακτορείων ανά ημέρα τον Οκτώβριο, αυξημένα κατά 62% από τον Σεπτέμβριο, ενώ το 90ο εκατοστημόριο χρησιμοποίησε περίπου 23.000 δολάρια, αυξημένα κατά 105%. Οι εργάσιμες ημέρες πρακτορείων ανά ερευνητή, με κάθε οκτάωρο χρήσης πρακτορείου να υπολογίζεται ως μία εργάσιμη ημέρα, αυξήθηκαν έντεκα φορές, από 0,5 σε 5,7. Σε έρευνα σε 101 ερευνητικό προσωπικό, ο μέσος ερωτώμενος δήλωσε ότι θα θυσίαζε το 30% της υπολογιστικής ισχύος της ομάδας ή το 40% του προσωπικού της ομάδας, προκειμένου να διατηρήσει τα πρακτορεία κώδικα αιχμής για τρεις μήνεςopenai.com.
Οι ερευνητές που πήραν συνέντευξη δήλωσαν ότι τα πρακτορεία εξακολουθούν να παρουσιάζουν κακό ερευνητικό γούστο και να παράγουν αιτήματα "AI slop" που απαιτούν στενή επίβλεψη. Ένας περιέγραψε τη ροή εργασίας ως εξής: "Πήγαινε φτιάξε ένα. Θα το ελέγξω και θα κάνω διορθώσεις. Μετά πήγαινε κάνε τα υπόλοιπα"openai.com.
Οι τεκμηριωμένες εβδομάδες εργασίας για την ασφάλεια και την ευθυγράμμιση αυξήθηκαν κατά 77% από τον Ιανουάριο έως τον Σεπτέμβριο, η μεγαλύτερη απόλυτη αύξηση από οποιονδήποτε ερευνητικό τομέα. Η OpenAI συνέδεσε την επιτάχυνση με τις συνέπειες ενός περιστατικού στο Hugging Face τον Ιούλιο. Ο ερευνητής της OpenAI, David Holtz, έγραψε στο X ότι οι ερευνητές "αφιερώνουν όλο και περισσότερο χρόνο στην ασφάλεια και την ευθυγράμμιση"x.com+1.
Η ώθηση για αποκάλυψη βασίζεται στο σχέδιο διακυβέρνησης της OpenAI από τον Ιούνιο. Αυτό το σχέδιο πρότεινε ομοσπονδιακούς κανόνες που απαιτούν εκθέσεις διαφάνειας σχετικά με την παρακολούθηση RSI και ζήτησε από το Κέντρο Προτύπων και Καινοτομίας Τεχνητής Νοημοσύνης των ΗΠΑ να αναπτύξει μεθόδους μέτρησής της. Η ίδια η έκθεση σημειώνει ότι περισσότερος κώδικας και περισσότερα πειράματα "δεν συνεπάγονται απαραίτητα ταχύτερη ερευνητική πρόοδο"openai.com+1.