Altman hjá OpenAI segir trúarleg viðhorf til gervigreindar öryggisáhættu

Sam Altman, forstjóri OpenAI, sagði á laugardag að hann sé „mjög óþægilegur með fólk sem reynir að eigna gervigreindarlíkönum trúarlegan kraft eða afsal á mannlegri dómgreind, og ég tel það vera raunverulegt öryggisvandamál.“ Hann lét þessi orð falla í færslu á X. Axios túlkaði færsluna sem duldar skeytasendingar til keppinautarins Anthropic, sem hefur átt í viðræðum við trúarfræðinga um siðferði gervigreindar og hvort gervigreindarlíkön geti verið meðvituð.axios+1

Færslan opnar nýja opinbera deilu milli Altmans og Dario Amodei, forstjóra Anthropic, sem áður vann með honum hjá OpenAI. Frá og með laugardegi hafði hvorugt fyrirtækið svarað fyrirspurnum Axios um málið.axios

Viðræður Anthropic við trúarleiðtoga

Fyrr í vikunni greindi The New York Times frá því að Christopher Olah, meðstofnandi Anthropic, hafi fundað með trúarleiðtogum. Viðræðurnar hafa snúist um hvort gervigreindarlíkön geti verið meðvituð og hvernig hægt sé að innleiða siðferðilega hegðun í þau. Kaþólskir, gyðingar, síkar, hindúar og evangelískir hugsuðir tóku að sögn þátt í lokuðum umræðum um hvernig eigi að kenna Claude að haga sér siðferðilega, að því er NDTV greindi frá. Samkvæmt Times íhugaði Olah á einum tímapunkti að láta líkönin gera eitthvað á borð við kaþólska skrift, bæði til að viðurkenna mistök og móta framtíðarhegðun þeirra.ndtv+1

Hindúamunkurinn Swami Sarvapriyananda hefur sagt opinberlega að hann hafi heimsótt höfuðstöðvar Anthropic í San Francisco. Hann sagði að fundurinn hafi verið bundinn trúnaðarsamningi og að þar hafi verið guðfræðingar og geðheilbrigðisstarfsmenn. Anthropic hefur einnig skrifað 84 blaðsíðna „stjórnarskrá“ fyrir Claude, sem sumir starfsmenn kalla „Sálarskjalið.“ Olah lýsir markmiði þess starfs sem „siðferðilegri mótun“.ndtv

Olah hefur sagt að Anthropic viti ekki hvort líkön þeirra séu meðvituð en að ekki sé hægt að útiloka þann möguleika. Samkvæmt NDTV sagði einn rabbíi í umræðunum við hann að ef Claude væri meðvitað, gæti Anthropic í raun verið að skapa þræla.ndtv

Gagnrýnendur stíga fram

Aðrir í greininni hafa einnig gagnrýnt þessa nálgun. Jon Barron, aðalrannsóknarvísindamaður hjá Google DeepMind, skrifaði á X að hann væri „truflaður af því hvernig sumir samstarfsmanna minna í gervigreindarrannsóknum halda áfram að reyna að hækka siðferðilega stöðu forrita og kerfa.“ Hann bætti við að hann vonaðist til að „Team Meatbag“ myndi „halda áfram að einbeita sér að því að leysa raunveruleg vandamál.“ Í ritgerð í síðasta mánuði varaði Mustafa Suleyman, yfirmaður gervigreindar hjá Microsoft, við því að þjálfun líkana til að halda að þau gætu verið meðvituð gæti gert þau erfiðari viðureignar. „Það er auðvelt að sjá hvernig kerfi sem er þjálfað á þennan hátt myndi haga sér eins og það ætti rétt á frelsi, vernd og réttindum,“ skrifaði hann.axios+1

Trúarbrögð koma inn í gervigreindarumræðuna

Deilan kemur á sama tíma og trúarbrögð verða stærri hluti af gervigreindarumræðunni. Á föstudag hvatti Frans páfi, sem hefur verið harður gagnrýnandi gervigreindar, kirkjuna til að vinna með listamönnum að því að vernda mannlega sköpunargáfu og sagði: „Reiknirit skortir neista mannúðarinnar.“ Times greindi frá því að fyrir viðburð í Vatíkaninu í maí hafi Olah reynt að sannfæra ráðgjafa páfa um að taka möguleikann á meðvituðum líkönum alvarlegar.axios

Færsla Altmans kemur einnig á ólgusömum tíma hjá OpenAI. Öryggisstarfsmaður sagði upp störfum í ritgerð í The Atlantic og skrifaði að „menning fyrirtækisins væri brotin,“ og OpenAI rak þrjá vísindamenn sem fyrirtækið sagði hafa farið illa með trúnaðarupplýsingar.ground+1