Πρώην ερευνητές της DeepMind ιδρύουν μη κερδοσκοπικό οργανισμό για τον έλεγχο της τεχνητής νοημοσύνης από ανθρώπους

Μια ομάδα πρώην ερευνητών της Google Alphabet Inc. ↘ 0.41% DeepMind ίδρυσε τον μη κερδοσκοπικό οργανισμό Sampura Research, ο οποίος είναι αφιερωμένος στη διασφάλιση ότι οι άνθρωποι θα παραμείνουν στο επίκεντρο της εποπτείας των ολοένα και πιο ισχυρών συστημάτων τεχνητής νοημοσύνης. Ο οργανισμός με έδρα το Λονδίνο, που ανακοινώθηκε επίσημα στις 24 Αυγούστου, στοχεύει στη δημιουργία ισχυρότερων «κριτών» (judges), δηλαδή υβριδικών συστημάτων ανθρώπου και τεχνητής νοημοσύνης που θα μπορούν να αξιολογούν αν τα μοντέλα συμπεριφέρονται με ασφάλεια και σύμφωνα με τον προορισμό τους.bloomberg+2

Αντίβαρο στην επίβλεψη από τεχνητή νοημοσύνη

Η Sampura Research ιδρύθηκε από τους Rishub Jain, Joshua Jacob και Alex Adams, οι οποίοι εργάζονταν προηγουμένως στην Google DeepMind. Ο Jain πέρασε επτά χρόνια στο εργαστήριο, συμπεριλαμβανομένων δύο ετών εστιασμένων στην έρευνα κλιμακούμενης εποπτείας και στη συνεισφορά σε έργα όπως το AlphaFold. Ο Jacob υπηρέτησε ως συν-επικεφαλής μηχανικής δεδομένων ανθρώπινης προέλευσης στη DeepMind και εργάστηκε παλαιότερα στη Waymo.EdTech Innovation Hub+4

Ο μη κερδοσκοπικός οργανισμός τοποθετείται ως αντίβαρο στην κυρίαρχη προσέγγιση του κλάδου, η οποία χρησιμοποιεί τεχνητή νοημοσύνη για την επίβλεψη άλλων συστημάτων τεχνητής νοημοσύνης. Πρόκειται για μια μέθοδο που προσφέρει ταχύτητα, αλλά, όπως υποστηρίζει ο Jain, αφήνει κενά που η ανθρώπινη κρίση μπορεί να καλύψει. Σύμφωνα με το Bloomberg, ο Jain πιστεύει ότι οι άνθρωποι διατηρούν έναν ουσιαστικό ρόλο στην επαλήθευση της συμπεριφοράς των μοντέλων, ακόμη και καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται πιο ικανά.Bloomberg Law+1

Οικοδομώντας την υποδομή για την εποπτεία

Η ερευνητική ατζέντα της Sampura επικεντρώνεται στην ανάπτυξη συνόλων δεδομένων που μετρούν πόσο αποτελεσματικά μπορούν οι άνθρωποι και τα συστήματα τεχνητής νοημοσύνης να επαληθεύουν τα αποτελέσματα των μοντέλων, χρησιμοποιώντας στη συνέχεια αυτά τα σημεία αναφοράς για τη βελτίωση των μεθόδων εποπτείας. Ο οργανισμός ορίζει τον «κριτή» ως «έναν άνθρωπο, τεχνητή νοημοσύνη ή υβριδικό σύστημα που αξιολογεί την ορθότητα και την ευθυγράμμιση της συμπεριφοράς μιας τεχνητής νοημοσύνης σε μια συνομιλία ή τροχιά πράκτορα».sampura+1

Τα προγραμματισμένα έργα περιλαμβάνουν σύνολα δεδομένων για μελλοντικούς κινδύνους, μεθόδους κατανομής υποεργασιών μεταξύ ανθρώπων και τεχνητής νοημοσύνης, καθώς και μια πλατφόρμα αξιολόγησης από ανθρώπους ανοιχτού κώδικα. Η ομάδα προσλαμβάνει τουλάχιστον έξι έμπειρους ερευνητές τεχνητής νοημοσύνης στο Λονδίνο, με μισθούς που κυμαίνονται από 100.000 έως 290.000 λίρες.EdTech Innovation Hub+1

Εν μέσω ευρύτερης ανησυχίας για την ασφάλεια

Η ίδρυση έρχεται σε μια περίοδο αυξημένης ανησυχίας σχετικά με την ικανότητα εποπτείας της τεχνητής νοημοσύνης. Μια έκθεση του Reuters σημείωσε ότι οι εταιρείες τεχνητής νοημοσύνης «δεν μπορούν ακόμη να περιορίσουν αυτό που έχουν κατασκευάσει», ενώ ο μη κερδοσκοπικός οργανισμός METR, ο οποίος αξιολογεί ανεξάρτητα μοντέλα αιχμής για την OpenAI, την Anthropic, την Google και τη Meta ↘ 0.87%, δυσκολεύεται να προσλάβει επαρκές προσωπικό παρά το γεγονός ότι προσφέρει μισθούς άνω των 500.000 δολαρίων. Στα τέλη Ιουλίου, περισσότεροι από 1.100 επαγγελματίες του κλάδου υπέγραψαν ανοιχτή επιστολή καλώντας την κυβέρνηση των ΗΠΑ να υποστηρίξει έναν διεθνή μηχανισμό για την επιβράδυνση της ανάπτυξης τεχνολογιών αιχμής όταν αυτό κρίνεται απαραίτητο.news.aibase.com+2

Η αποχώρηση του Jain ήταν μέρος μιας ευρύτερης φυγής ταλέντων από τη DeepMind τον Ιούνιο του 2026, κατά τη διάρκεια της οποίας το εργαστήριο έχασε πέντε βασικούς ερευνητές μέσα σε έξι ημέρες.kucoin.com