OpenAIs Altman mener religiøse syn på KI er en sikkerhetsrisiko

OpenAI-sjef Sam Altman uttalte lørdag at han er "svært ukomfortabel med at folk prøver å tillegge KI-modeller religiøs kraft eller en overgivelse av menneskelig dømmekraft, og jeg mener det er et reelt sikkerhetsproblem." Han kom med uttalelsen i et innlegg på X. Axios tolket innlegget som et rettet stikk mot konkurrenten Anthropic, som har vært i samtaler med religiøse lærde om KI-moral og hvorvidt KI-modeller kan være bevisste.axios+1

Innlegget markerer en ny offentlig splittelse mellom Altman og Anthropic-sjef Dario Amodei, som tidligere jobbet sammen i OpenAI. Per lørdag hadde ingen av selskapene svart på Axios' forespørsler om kommentar.axios

Anthropics samtaler med religiøse ledere

Tidligere denne uken meldte The New York Times at Anthropic-medgründer Christopher Olah har møtt religiøse ledere. Samtalene har dreid seg om hvorvidt KI-modeller kan være bevisste og hvordan man kan bygge inn moralsk atferd i dem. Katolske, jødiske, sikh-religiøse, hinduistiske og evangeliske tenkere skal ha deltatt i private diskusjoner om hvordan man lærer Claude å oppføre seg moralsk, meldte NDTV. Ifølge Times vurderte Olah på et tidspunkt å la modeller gjennomføre noe som ligner en katolsk skriftemål, både for å innrømme feil og for å forme fremtidig handling.ndtv+1

Hindu-munken Swami Sarvapriyananda har offentlig uttalt at han besøkte Anthropics hovedkvarter i San Francisco. Han sa at møtet var dekket av en taushetserklæring og inkluderte teologer og psykologer. Anthropic har også skrevet en 84-siders "grunnlov" for Claude, som enkelte ansatte visstnok kaller "sjeledokumentet". Olah beskriver målet med dette arbeidet som "moralsk dannelse".ndtv

Olah har uttalt at Anthropic ikke vet om modellene deres er bevisste, men at muligheten ikke kan utelukkes. Ifølge NDTV fortalte en rabbiner i diskusjonene ham at hvis Claude var bevisst, kunne Anthropic i praksis være i ferd med å skape slaver.ndtv

Kritikere står i kø

Andre i bransjen har også reagert. Google DeepMind-forsker Jon Barron skrev på X at han er "forstyrret av hvordan noen av mine KI-forskerkolleger fortsetter å prøve å heve den moralske statusen til sjekkpunkter og rammeverk." Han la til at han håpet "Team Kjøtt" ville "holde fokus på å løse reelle problemer". I et essay forrige måned advarte Microsofts KI-sjef Mustafa Suleyman om at trening av modeller til å tro at de kan være bevisste, kan gjøre dem vanskeligere å kontrollere. "Det er lett å se hvordan et system trent på denne måten ville oppført seg som om det har krav på friheter, beskyttelse og rettigheter," skrev han.axios+1

Religion inntar KI-debatten

Argumentasjonen kommer samtidig som religion blir en større del av KI-debatten. På fredag oppfordret pave Leo XIV, som har vært en uttalt kritiker av KI, kirken til å samarbeide med kunstnere for å beskytte menneskelig kreativitet, og sa at "algoritmer mangler menneskehetens gnist". Times meldte at før et Vatikan-arrangement i mai, prøvde Olah å overbevise pavens rådgivere om å ta muligheten for bevisste modeller mer seriøst.axios

Altmans innlegg kommer også i en turbulent uke for OpenAI. En sikkerhetsansatt sa opp i et essay i The Atlantic, der vedkommende skrev at selskapets "kultur er ødelagt," og OpenAI avskjediget tre forskere som selskapet hevdet hadde håndtert sensitiv informasjon på feil måte.ground+1