Hinton: Πιθανότητα 10% να αφανίσει η τεχνητή νοημοσύνη την ανθρωπότητα

Ο βραβευμένος με Νόμπελ επιστήμονας υπολογιστών Geoffrey Hinton δήλωσε την Τρίτη στο BBC Newsnight ότι μια πιθανότητα 10% να εξολοθρεύσει η τεχνητή νοημοσύνη όλη την ανθρωπότητα μέσα στην επόμενη δεκαετία «δεν φαίνεται παράλογη εκτίμηση», μια δήλωση που άφησε την παρουσιάστρια Victoria Derbyshire εμφανώς σοκαρισμένη στον αέρα.ndtvprofit+1

«Δεν έχουμε δημιουργήσει ποτέ όντα που μπορεί σύντομα να είναι εξυπνότερα από εμάς. Δεν ξέρουμε τι πρόκειται να συμβεί», είπε ο Hinton όταν ρωτήθηκε από την Derbyshire αν το ποσοστό είναι αξιόπιστο. «Μια πιθανότητα 10% δεν μου φαίνεται παράλογη εκτίμηση. Αλλά κανείς δεν ξέρει πραγματικά πώς να δώσει μια λογική εκτίμηση». Όταν η Derbyshire επανέλαβε τα λόγια του, ο Hinton απάντησε με μια λέξη: «Ναι». Η αντίδρασή της — «Ουάου… ω Θεέ μου» — διαδόθηκε γρήγορα στο διαδίκτυο.ndtv+1

Πώς η τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει καταστροφή

Ο Hinton, ο οποίος κέρδισε το Νόμπελ Φυσικής 2024 για το έργο του στη μηχανική μάθηση, δήλωσε ότι η προηγμένη τεχνητή νοημοσύνη δεν θα χρειαζόταν φυσικό έλεγχο του κόσμου για να αποτελέσει υπαρξιακή απειλή. «Θα μπορούσε να προκαλέσει πλήρες χάος απλώς μιλώντας στους ανθρώπους», είπε. «Αλλά θα μπορούσε επίσης να σχεδιάσει πολύ επικίνδυνους ιούς — βιολογικούς ιούς — καθώς και ιούς υπολογιστών. Θα μπορούσε να πραγματοποιήσει καταστροφικές κυβερνοεπιθέσεις». Πρόσθεσε ότι θα ήταν «πολύ ανόητο» να υποθέσουμε ότι ο κίνδυνος είναι τόσο χαμηλός όσο 1%.ndtvprofit+1

Ο Stuart Russell, καθηγητής στο UC Berkeley, συμμερίστηκε αυτές τις ανησυχίες, δηλώνοντας στο Business Insider ότι η τεχνητή νοημοσύνη ή φορείς που την χρησιμοποιούν θα μπορούσαν να επιτεθούν σε κρίσιμες υποδομές, συμπεριλαμβανομένων των συστημάτων ηλεκτροδότησης, ύδρευσης, μεταφορών και χρηματοοικονομικών συστημάτων.businessinsider

Οι παραιτήσεις στην Anthropic που πυροδότησαν τη συζήτηση

Η συνέντευξη του Hinton ακολούθησε μια σειρά γεγονότων που ξεκίνησαν στις 8 Σεπτεμβρίου, όταν ο Jacob Coxon, πρώην ερευνητής στην OpenAI και την Anthropic, παραιτήθηκε δημόσια. «Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα», έγραψε ο Coxon στο X. «Τρέχουν απερίσκεπτα προς την αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας».ibtimes+1

Ο επικεφαλής ευθυγράμμισης της Anthropic, Evan Hubinger, απάντησε δημόσια ότι ο Coxon είχε «δίκιο» και ότι ο ίδιος πιστεύει πως υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να αφανίσει την ανθρωπότητα μέσα στη δεκαετία. «Δεν έχουμε ακόμη σχέδιο για την επίλυση της ευθυγράμμισης για την υπερνοημοσύνη και δεν είμαστε σε σαφή πορεία για να το πετύχουμε», έγραψε ο Hubinger.businessinsider+1

Έντονη διαφωνία μεταξύ των ειδικών

Δεν συμμερίζονται όλοι οι ερευνητές τον συναγερμό. Ο Gary Marcus, ερευνητής τεχνητής νοημοσύνης, δήλωσε στο Business Insider ότι θεωρεί τις κυβερνοεπιθέσεις, τα βιολογικά όπλα και την παραπληροφόρηση ως σοβαρούς κινδύνους, αλλά δεν θεωρεί τον αφανισμό ως ρεαλιστικό βραχυπρόθεσμο αποτέλεσμα. «Υπάρχουν πολύ σοβαρές βλάβες για τις οποίες πρέπει να ανησυχούμε, αλλά δεν υπάρχει κανένα ρεαλιστικό σενάριο που να γνωρίζω για την εξόντωση όλης της ανθρωπότητας», είπε. Ο Yann LeCun της Meta ↘ 2.43% έχει απορρίψει στο παρελθόν τέτοιες εκτιμήσεις πιθανοτήτων ως ενστικτώδεις αντιδράσεις — έναν χαρακτηρισμό που ο ίδιος ο Hinton έχει εν μέρει αποδεχτεί, δηλώνοντας στο CNN ότι «όποιος εκτιμά πιθανότητες με αυτόν τον τρόπο, κάνει απλώς μια τυχαία εικασία».businessinsider+1

Ο παρουσιαστής του ITV, Robert Peston, πρόσθεσε τη φωνή του στη συζήτηση, γράφοντας στο X: «Είμαι ελαφρώς έκπληκτος που δεν έχει προσελκύσει μεγαλύτερη προσοχή, συμπεριλαμβανομένης της κυβέρνησης».ladbible