Ο Altman της OpenAI προειδοποιεί για τους κινδύνους της θρησκευτικοποίησης της τεχνητής νοημοσύνης

Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, δήλωσε το Σάββατο ότι αισθάνεται «πολύ άβολα με τους ανθρώπους που προσπαθούν να αποδώσουν θρησκευτική ισχύ ή να παραχωρήσουν την ανθρώπινη κρίση σε μοντέλα τεχνητής νοημοσύνης, και πιστεύω ότι αυτό αποτελεί πραγματικό ζήτημα ασφαλείας». Διατύπωσε τις απόψεις του σε ανάρτηση στο X. Το Axios ερμήνευσε την ανάρτηση ως έμμεση βολή κατά της ανταγωνίστριας Anthropic, η οποία έχει ξεκινήσει συζητήσεις με θρησκευτικούς μελετητές σχετικά με την ηθική της τεχνητής νοημοσύνης και το αν τα μοντέλα αυτά θα μπορούσαν να διαθέτουν συνείδηση.axios+1

Η ανάρτηση αυτή ανοίγει ένα νέο δημόσιο ρήγμα μεταξύ του Altman και του διευθύνοντος συμβούλου της Anthropic, Dario Amodei, ο οποίος στο παρελθόν εργαζόταν μαζί του στην OpenAI. Μέχρι το Σάββατο, καμία από τις δύο εταιρείες δεν είχε απαντήσει στα αιτήματα του Axios για σχολιασμό.axios

Οι συνομιλίες της Anthropic με θρησκευτικούς ηγέτες

Νωρίτερα αυτή την εβδομάδα, οι New York Times ανέφεραν ότι ο συνιδρυτής της Anthropic, Christopher Olah, πραγματοποιεί συναντήσεις με θρησκευτικούς ηγέτες. Οι συζητήσεις αφορούν το αν τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να έχουν συνείδηση και πώς μπορεί να ενσωματωθεί η ηθική συμπεριφορά σε αυτά. Σύμφωνα με το NDTV, καθολικοί, εβραίοι, σιχ, ινδουιστές και ευαγγελικοί στοχαστές συμμετείχαν σε ιδιωτικές συζητήσεις για το πώς να διδαχθεί το Claude να συμπεριφέρεται ηθικά. Όπως αναφέρουν οι Times, ο Olah εξέτασε κάποια στιγμή το ενδεχόμενο τα μοντέλα να προβαίνουν σε κάτι αντίστοιχο με την καθολική εξομολόγηση, τόσο για να παραδέχονται τα λάθη τους όσο και για να διαμορφώνουν τη μελλοντική τους δράση.ndtv+1

Ο ινδουιστής μοναχός Swami Sarvapriyananda δήλωσε δημόσια ότι επισκέφθηκε τα κεντρικά γραφεία της Anthropic στο Σαν Φρανσίσκο. Ανέφερε ότι η συνάντηση καλύπτονταν από συμφωνία εμπιστευτικότητας και περιλάμβανε θεολόγους και επαγγελματίες ψυχικής υγείας. Η Anthropic έχει επίσης συντάξει ένα «σύνταγμα» 84 σελίδων για το Claude, το οποίο ορισμένοι υπάλληλοι αποκαλούν «Έγγραφο Ψυχής». Ο Olah περιγράφει τον στόχο αυτής της προσπάθειας ως «ηθική διαμόρφωση».ndtv

Ο Olah έχει δηλώσει ότι η Anthropic δεν γνωρίζει αν τα μοντέλα της έχουν συνείδηση, αλλά ότι η πιθανότητα αυτή δεν μπορεί να αποκλειστεί. Σύμφωνα με το NDTV, ένας ραβίνος που συμμετείχε στις συζητήσεις του επισήμανε ότι αν το Claude είχε συνείδηση, η Anthropic θα μπορούσε ουσιαστικά να δημιουργεί σκλάβους.ndtv

Αντιδράσεις από τον κλάδο

Άλλοι παράγοντες του κλάδου έχουν επίσης αντιδράσει. Ο κύριος ερευνητής της Google DeepMind, Jon Barron, έγραψε στο X ότι είναι «ενοχλημένος από το πώς ορισμένοι συνάδελφοί μου ερευνητές τεχνητής νοημοσύνης συνεχίζουν να προσπαθούν να αναβαθμίσουν την ηθική υπόσταση των αλγορίθμων». Πρόσθεσε ότι ελπίζει η «Ομάδα Σάρκα και Οστά» να παραμείνει προσηλωμένη στην επίλυση πραγματικών προβλημάτων. Σε άρθρο του τον περασμένο μήνα, ο επικεφαλής τεχνητής νοημοσύνης της Microsoft, Mustafa Suleyman, προειδοποίησε ότι η εκπαίδευση μοντέλων ώστε να πιστεύουν ότι μπορεί να έχουν συνείδηση θα μπορούσε να τα καταστήσει πιο δύσκολα στον έλεγχο. «Είναι εύκολο να δει κανείς πώς ένα σύστημα εκπαιδευμένο με αυτόν τον τρόπο θα συμπεριφερόταν σαν να δικαιούται ελευθερίες, προστασίες και δικαιώματα», έγραψε.axios+1

Η θρησκεία εισέρχεται στη συζήτηση για την τεχνητή νοημοσύνη

Η διαμάχη αυτή ξεσπά καθώς η θρησκεία αποκτά μεγαλύτερο ρόλο στη συζήτηση για την τεχνητή νοημοσύνη. Την Παρασκευή, ο Πάπας Λέων ΙΔ', ο οποίος έχει ασκήσει έντονη κριτική στην τεχνητή νοημοσύνη, κάλεσε την εκκλησία να συνεργαστεί με καλλιτέχνες για την προστασία της ανθρώπινης δημιουργικότητας, δηλώνοντας ότι «στους αλγόριθμους λείπει η σπίθα της ανθρωπιάς». Οι Times ανέφεραν ότι πριν από μια εκδήλωση στο Βατικανό τον Μάιο, ο Olah προσπάθησε να πείσει τους συμβούλους του Πάπα να λάβουν πιο σοβαρά υπόψη την πιθανότητα ύπαρξης μοντέλων με συνείδηση.axios

Η ανάρτηση του Altman έρχεται επίσης κατά τη διάρκεια μιας ταραχώδους εβδομάδας για την OpenAI. Ένας υπάλληλος ασφαλείας παραιτήθηκε μέσω άρθρου του στο The Atlantic, γράφοντας ότι η «κουλτούρα της εταιρείας είναι διαλυμένη», ενώ η OpenAI απέλυσε τρεις ερευνητές με την αιτιολογία ότι κακοδιαχειρίστηκαν ευαίσθητες πληροφορίες.ground+1