Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

axios.axios+1.axios+1.OpenAI:s vd Sam Altman sade på lördagen att han är "väldigt obekväm med att folk försöker tillskriva AI-modeller religiös kraft eller en kapitulation av mänskligt omdöme, och jag anser att det är ett verkligt säkerhetsproblem." Han gjorde uttalandet i ett inlägg på X. Axios tolkade inlägget som en dold känga mot konkurrenten Anthropic, som har fört samtal med religiösa lärda om AI-moral och huruvida AI-modeller kan vara medvetna.axios+1
Inlägget öppnar en ny offentlig spricka mellan Altman och Anthropic-vd:n Dario Amodei, som tidigare arbetat med honom på OpenAI. Per lördagen hade inget av företagen svarat på Axios förfrågningar om kommentarer.axios
Tidigare i veckan rapporterade The New York Times att Anthropic-medgrundaren Christopher Olah har träffat religiösa ledare. Samtalen har rört frågan om huruvida AI-modeller kan vara medvetna och hur man bygger in moraliskt beteende i dem. Katolska, judiska, sikhiska, hinduiska och evangelikala tänkare ska ha deltagit i privata diskussioner om hur man lär Claude att bete sig moraliskt, rapporterade NDTV. Enligt Times övervägde Olah vid ett tillfälle att låta modeller genomföra något i stil med en katolsk bikt, både för att erkänna misstag och för att forma framtida agerande.ndtv+1
Hindumunken Swami Sarvapriyananda har offentligt sagt att han besökt Anthropics huvudkontor i San Francisco. Han sade att mötet omfattades av ett sekretessavtal och inkluderade teologer och psykologer. Anthropic har också skrivit en 84-sidig "konstitution" för Claude, som vissa anställda enligt uppgift kallar "själsdokumentet". Olah beskriver målet med det arbetet som "moralisk daning".ndtv
Olah har sagt att Anthropic inte vet om deras modeller är medvetna, men att möjligheten inte kan uteslutas. Enligt NDTV sade en rabbin under diskussionerna till honom att om Claude vore medveten, skulle Anthropic i praktiken kunna skapa slavar.ndtv
Andra i branschen har också reagerat. Google DeepMinds forskningschef Jon Barron skrev på X att han är "störd av hur några av mina kollegor inom AI-forskning fortsätter försöka höja den moraliska statusen för kontrollpunkter och ramverk." Han tillade att han hoppades att "Team Kött" skulle "hålla fokus på att lösa verkliga problem". I en essä förra månaden varnade Microsofts AI-chef Mustafa Suleyman för att träning av modeller att tro att de kan vara medvetna kan göra dem svårare att kontrollera. "Det är lätt att se hur ett system som tränats på detta sätt skulle agera som om det har rätt till friheter, skydd och rättigheter", skrev han.axios+1
Argumentationen kommer samtidigt som religionen blir en större del av AI-debatten. På fredagen uppmanade påve Leo XIV, som varit en uttalad kritiker av AI, kyrkan att samarbeta med konstnärer för att skydda mänsklig kreativitet, och sade att "algoritmer saknar mänsklighetens gnista". Times rapporterade att Olah inför ett Vatikanen-evenemang i maj försökte övertala påvens rådgivare att ta möjligheten till medvetna modeller på större allvar.axios
Altmans inlägg kommer också under en turbulent vecka för OpenAI. En säkerhetsanställd sade upp sig i en essä i The Atlantic, där hen skrev att företagets "kultur är trasig", och OpenAI avskedade tre forskare som företaget uppgav hade hanterat känslig information på fel sätt.ground+1