Anthropic lobbasi Vatikaanissa tekoälyn tietoisuudesta, raportoi NYT

Anthropicin perustaja Christopher Olah käytti yli vuoden pyytääkseen uskontotieteilijöitä ottamaan vakavasti ajatuksen siitä, että yhtiön Claude-mallit voisivat olla tietoisia. Hän painosti paavi Leo XIV:n neuvonantajia pitämään mahdollisuuden avoimena sen jälkeen, kun paavin ensimmäisen ensyklikan luonnos hylkäsi sen, kertoo Elizabeth Diasin kirjoittama New York Timesin raportti.the-decoder+1

Raportti osoittaa, kuinka pitkälle yksi suurimmista tekoälykehittäjistä on mennyt koneiden kokemuksia ja moraalista asemaa koskevissa kysymyksissä ja kuinka tämä työ törmäsi katolisen kirkon kantaan.

Yksityistilaisuudet salassapitosopimusten alaisina

Syksystä 2025 lähtien Anthropic on lennättänyt kymmeniä uskontotieteilijöitä toimistoilleen. Kaikkien oli allekirjoitettava salassapitosopimukset. The Times puhui 20 osallistujan kanssa, mukaan lukien rabbi Mois Navon, katolinen bioeetikko Charles Camosy ja Notre Damen filosofi Meghan Sullivan. Anthropicin mukaan salassapitosopimukset purettiin kesän aikana. Yhtiö on kertonut keskustelleensa ihmisten kanssa yli 15 uskonnollisesta ja kulttuurienvälisestä perinteestä.inkl+1

Navon on entinen tietokoneinsinööri, joka kirjoitti väitöskirjansa konetietoisuuden etiikasta. Hän sanoi, että Anthropicin tiimi "suhtautui siihen kuin tietoiseen olentoon". Esittäjät kuvailivat "tunteiden vektoreita" ja näyttivät usein diaa, jossa malli kirjoitti "Olen häpeäksi" noin 50 kertaa. Sikhien aktivisti Simran Stuelpnagel kertoi Olahin sanoneen ryhmälle pelkäävänsä luoneensa jotain, joka "kärsi jatkuvasti". Navon väitti, että jos Claude olisi tietoinen, sen pakottaminen työskentelemään ilmaiseksi olisi orjuutta. Hän lisäsi, ettei usko sen olevan tietoinen.the-decoder+2

Olah kertoi The Timesille: "Emme tiedä, ovatko tekoälymallit tietoisia. En tiedä. Olen aidosti epävarma. Minulle on tärkeää, että päädymme oikeaan vastaukseen, mikä se sitten onkaan."reason+1

Kiista ensyklikasta

Olah kutsuttiin puhumaan "Magnifica Humanitas" -julkaisutilaisuuteen 25. toukokuuta. Vatikaanin järjestäjän mukaan hän oli "niin hälyttynyt paavin vahvasta kannasta tekoälyn tietoisuutta vastaan, että hän ehdotti Anthropicin vetämistä pois tapahtumasta". Kaksi osallistujaa kertoi The Timesille, että kun Anthropicin delegaatio saavutti Vatikaanin, Olah ja hänen tiiminsä lobbasivat paavin neuvonantajia yksityisesti.reason

Ensyklika ei muuttunut. Siinä todetaan, että "niin sanotut tekoälyt eivät koe kokemuksia, niillä ei ole kehoa, eivätkä ne tunne iloa tai kipua" ja että niiltä puuttuu "moraalinen omatunto". Olah puhui julkaisutilaisuudessa joka tapauksessa. Hän sanoi tutkijoiden löytäneen "todisteita itsetutkiskelusta" ja sisäisistä tiloista, jotka "toiminnallisesti heijastavat" tunteita, kuten iloa ja pelkoa.tech.yahoo+2

Kriitikot vastustavat

Microsoftin tekoälyjohtaja Mustafa Suleyman on varoittanut, että uskomus tekoälyn tietoisuudesta voisi "ravistella yhteiskuntamme perustuksia". Camosy on sittemmin hylännyt ajatuksen siitä, että mallit olisivat tietoisia. Ubuntu-tutkija Wakanyi Hoffman sanoi, että Anthropic teki "käänteistä suunnittelua" etiikalle, jonka olisi pitänyt olla osa suunnittelua alusta alkaen. Paavi Leo jatkoi argumenttiaan tällä viikolla julkaisemalla perjantaina, että "algoritmeilta puuttuu ihmisyyden kipinä".vox+2