OpenAI:n Altman: Tekoälyn uskonnollinen tulkinta on turvallisuusriski

OpenAI:n toimitusjohtaja Sam Altman sanoi lauantaina olevansa "hyvin epämukava siitä, että ihmiset yrittävät liittää tekoälymalleihin uskonnollista voimaa tai inhimillisen harkinnan luovuttamista, ja pidän sitä todellisena turvallisuusongelmana". Hän esitti huomautuksensa X-palvelussa. Axios tulkitsi kirjoituksen peitellyksi iskuksi kilpailija Anthropicia vastaan, joka on keskustellut uskonnollisten tutkijoiden kanssa tekoälyn moraalista ja siitä, voisivatko tekoälymallit olla tietoisiaaxios+1.

Kirjoitus avaa uuden julkisen jakolinjan Altmanin ja Anthropicin toimitusjohtajan Dario Amodein välille, joka työskenteli aiemmin Altmanin kanssa OpenAI:lla. Lauantaihin mennessä kumpikaan yritys ei ollut vastannut Axiosin kommenttipyyntöihinaxios.

Anthropicin keskustelut uskonnollisten johtajien kanssa

Viikon alussa The New York Times raportoi, että Anthropicin perustaja Christopher Olah on tavannut uskonnollisia johtajia. Keskusteluissa on pohdittu, voisivatko tekoälymallit olla tietoisia ja miten niihin voisi rakentaa moraalista käyttäytymistä. Katolisten, juutalaisten, sikhien, hindujen ja evankelisten ajattelijoiden kerrotaan osallistuneen yksityisiin keskusteluihin siitä, miten Claudelle opetetaan moraalista käytöstä, NDTV raportoi. Timesin mukaan Olah harkitsi jossain vaiheessa, voisivatko mallit tehdä jotain katolisen ripin kaltaista, sekä virheiden myöntämiseksi että tulevan toiminnan muokkaamiseksindtv+1.

Hindu-munkki Swami Sarvapriyananda on kertonut julkisesti vierailleensa Anthropicin pääkonttorilla San Franciscossa. Hän sanoi, että tapaamista koski salassapitosopimus ja siihen osallistui teologeja sekä mielenterveyden ammattilaisia. Anthropic on myös kirjoittanut 84-sivuisen "perustuslain" Claudelle, jota jotkut työntekijät kutsuvat nimellä "Soul Doc". Olah kuvailee pyrkimyksen tavoitteeksi "moraalista muodostumista"ndtv.

Olah on sanonut, ettei Anthropic tiedä, ovatko sen mallit tietoisia, mutta mahdollisuutta ei voida sulkea pois. NDTV:n mukaan yksi keskusteluihin osallistunut rabbi sanoi hänelle, että jos Claude olisi tietoinen, Anthropic saattaisi käytännössä luoda orjiandtv.

Kriitikot nousevat vastarintaan

Muut alan toimijat ovat myös vastustaneet kehitystä. Google DeepMindin johtava tutkija Jon Barron kirjoitti X-palvelussa olevansa "järkyttynyt siitä, kuinka jotkut tekoälytutkijakollegoistani yrittävät jatkuvasti nostaa tarkistuspisteiden ja mallien moraalista asemaa". Hän lisäsi toivovansa, että "liha-tiimi" keskittyisi "oikeiden ongelmien ratkaisemiseen". Viime kuussa julkaistussa esseessä Microsoftin tekoälyjohtaja Mustafa Suleyman varoitti, että mallien kouluttaminen uskomaan omaan tietoisuuteensa voisi tehdä niistä vaikeammin hallittavia. "On helppo nähdä, kuinka tällä tavoin koulutettu järjestelmä toimisi ikään kuin sillä olisi oikeus vapauksiin, suojeluun ja oikeuksiin", hän kirjoittiaxios+1.

Uskonto osaksi tekoälykeskustelua

Väittely kiihtyy samalla kun uskonto nousee yhä suuremmaksi osaksi tekoälykeskustelua. Perjantaina paavi Leo XIV, joka on ollut tekoälyn äänekäs kriitikko, kehotti kirkkoa työskentelemään taiteilijoiden kanssa ihmisen luovuuden suojelemiseksi sanoen, että "algoritmeilta puuttuu ihmisyyden kipinä". Times raportoi, että ennen toukokuun Vatikaanin tapahtumaa Olah yritti suostutella paavin neuvonantajia ottamaan tietoisen tekoälyn mahdollisuuden vakavamminaxios.

Altmanin kirjoitus osuu myös OpenAI:n myrskyisälle viikolle. Turvallisuustyöntekijä erosi ja kirjoitti The Atlantic -lehdessä, että yrityksen "kulttuuri on rikki", ja OpenAI irtisanoi kolme tutkijaa, joiden se sanoi käsitelleen arkaluonteisia tietoja huolimattomastiground+1.