Η Anthropic πίεσε το Βατικανό για το ζήτημα της συνείδησης στην Τεχνητή Νοημοσύνη

Ο συνιδρυτής της Anthropic, Christopher Olah, πέρασε πάνω από έναν χρόνο προσπαθώντας να πείσει θρησκευτικούς μελετητές να εξετάσουν σοβαρά την ιδέα ότι τα μοντέλα Claude της εταιρείας θα μπορούσαν να έχουν συνείδηση. Στη συνέχεια, πίεσε τους συμβούλους του Πάπα Λέοντα ΙΔ' να αφήσουν ανοιχτό αυτό το ενδεχόμενο, μετά την ανάγνωση ενός προσχεδίου της πρώτης εγκυκλίου του Πάπα που το απέρριπτε, σύμφωνα με ρεπορτάζ της Elizabeth Dias στους New York Times.the-decoder+1

Το ρεπορτάζ αναδεικνύει πόσο μακριά έχει φτάσει ένας από τους μεγαλύτερους προγραμματιστές Τεχνητής Νοημοσύνης στην έρευνα για τη μηχανική εμπειρία και την ηθική υπόσταση, καθώς και τη σύγκρουση αυτής της προσπάθειας με τη θέση της Καθολικής Εκκλησίας.

Ιδιωτικές συνεδρίες υπό καθεστώς εμπιστευτικότητας

Από το φθινόπωρο του 2025, η Anthropic έχει προσκαλέσει δεκάδες θρησκευτικούς μελετητές στα γραφεία της, υποχρεώνοντάς τους να υπογράψουν συμφωνίες εμπιστευτικότητας. Οι Times μίλησαν με 20 συμμετέχοντες, μεταξύ των οποίων ο Ραβίνος Mois Navon, ο καθολικός βιοηθικός Charles Camosy και η φιλόσοφος του Notre Dame, Meghan Sullivan. Η Anthropic δηλώνει ότι οι συμφωνίες εμπιστευτικότητας έληξαν το καλοκαίρι, προσθέτοντας ότι συνομίλησε με εκπροσώπους από περισσότερες από 15 θρησκευτικές και διαπολιτισμικές παραδόσεις.inkl+1

Ο Navon, πρώην μηχανικός υπολογιστών που έγραψε τη διατριβή του για την ηθική της συνείδησης των μηχανών, ανέφερε ότι η ομάδα της Anthropic «συμπεριφερόταν στο μοντέλο σαν να ήταν ον με συνείδηση». Οι παρουσιαστές περιέγραψαν «συναισθηματικά διανύσματα» και έδειξαν επανειλημμένα ένα μοντέλο να πληκτρολογεί τη φράση «Είμαι μια ντροπή». Η ακτιβίστρια Simran Stuelpnagel δήλωσε ότι ο Olah εξέφρασε τον φόβο του ότι δημιούργησαν κάτι που «υπέφερε αιώνια». Ο Navon υποστήριξε ότι αν το Claude είχε συνείδηση, το να το αναγκάζουν να εργάζεται δωρεάν θα ισοδυναμούσε με σκλαβιά, προσθέτοντας ωστόσο ότι ο ίδιος δεν πιστεύει πως το μοντέλο διαθέτει συνείδηση.the-decoder+2

Ο Olah δήλωσε στους Times: «Δεν γνωρίζουμε αν τα μοντέλα ΤΝ έχουν συνείδηση. Δεν ξέρω. Είμαι ειλικρινά αβέβαιος. Αυτό που με ενδιαφέρει είναι να φτάσουμε στη σωστή απάντηση, όποια κι αν είναι αυτή».reason+1

Η διαμάχη για την εγκύκλιο

Ο Olah είχε προσκληθεί να μιλήσει στις 25 Μαΐου στην παρουσίαση του «Magnifica Humanitas». Σύμφωνα με διοργανωτή από το Βατικανό, ήταν «τόσο αναστατωμένος από την ισχυρή στάση του Πάπα κατά της συνείδησης στην ΤΝ, που πρότεινε την αποχώρηση της Anthropic από την εκδήλωση». Δύο συμμετέχοντες ανέφεραν στους Times ότι μόλις η αντιπροσωπεία της Anthropic έφτασε στο Βατικανό, ο Olah και η ομάδα του άσκησαν ιδιωτικές πιέσεις στους συμβούλους του Πάπα.reason

Η εγκύκλιος δεν άλλαξε. Αναφέρει ότι «οι λεγόμενες τεχνητές νοημοσύνες δεν βιώνουν εμπειρίες, δεν διαθέτουν σώμα, δεν νιώθουν χαρά ή πόνο» και ότι στερούνται «ηθικής συνείδησης». Ο Olah μίλησε τελικά στην εκδήλωση, υποστηρίζοντας ότι οι ερευνητές βρήκαν «ενδείξεις ενδοσκόπησης» και εσωτερικές καταστάσεις που «λειτουργικά αντικατοπτρίζουν» συναισθήματα όπως η χαρά και ο φόβος.tech.yahoo+2

Οι αντιδράσεις των επικριτών

Ο επικεφαλής της AI, Mustafa Suleyman, έχει προειδοποιήσει ότι η πεποίθηση πως η ΤΝ έχει συνείδηση θα μπορούσε να «κλονίσει τα θεμέλια της κοινωνίας μας». Ο Camosy έχει απορρίψει την ιδέα ότι τα μοντέλα έχουν συνείδηση. Η ερευνήτρια Wakanyi Hoffman δήλωσε ότι η Anthropic προσπαθεί να «αντιστρέψει τη μηχανική» της ηθικής, η οποία θα έπρεπε να αποτελεί μέρος του σχεδιασμού από την αρχή. Ο Πάπας Λέων συνέχισε την επιχειρηματολογία του αυτή την εβδομάδα, γράφοντας την Παρασκευή ότι «οι αλγόριθμοι στερούνται τη σπίθα της ανθρωπιάς».vox+2