„OpenAI“ vadovas Altmanas: religinis požiūris į DI kelia saugumo riziką

„OpenAI“ generalinis direktorius Samas Altmanas šeštadienį pareiškė, kad jam „labai nepatinka, kai žmonės bando DI modeliams priskirti religinę galią arba atsisakyti žmogiškojo vertinimo, ir manau, kad tai yra tikra saugumo problema.“ Šias pastabas jis išsakė įraše „X“ platformoje. „Axios“ šį įrašą suprato kaip netiesioginį smūgį konkurentui „Anthropic“, kuris diskutuoja su religijos mokslininkais apie DI moralę ir tai, ar DI modeliai gali būti sąmoningi.axios+1

Šis įrašas atveria dar vieną viešą takoskyrą tarp A. Altmano ir „Anthropic“ generalinio direktoriaus Dario Amodei, kuris anksčiau dirbo su juo „OpenAI“. Šeštadienio duomenimis, nė viena bendrovė neatsakė į „Axios“ prašymus pakomentuoti.axios

„Anthropic“ derybos su tikėjimo lyderiais

Anksčiau šią savaitę „The New York Times“ pranešė, kad „Anthropic“ įkūrėjas Christopheris Olahas susitikinėjo su religiniais lyderiais. Pokalbiuose buvo aptariama, ar DI modeliai gali būti sąmoningi ir kaip į juos įdiegti moralinį elgesį. Pranešama, kad katalikų, žydų, sikhų, induistų ir evangelikų mąstytojai dalyvavo privačiose diskusijose apie tai, kaip išmokyti „Claude“ elgtis moraliai, pranešė NDTV. Pasak „Times“, C. Olahas vienu metu svarstė galimybę leisti modeliams atlikti kažką panašaus į katalikišką išpažintį, kad jie pripažintų klaidas ir formuotų savo būsimą elgesį.ndtv+1

Induistų vienuolis Swami Sarvapriyananda viešai pareiškė, kad lankėsi „Anthropic“ būstinėje San Fransiske. Jis teigė, kad susitikimui taikyta konfidencialumo sutartis, jame dalyvavo teologai ir psichikos sveikatos specialistai. „Anthropic“ taip pat parašė 84 puslapių „konstituciją“ modeliui „Claude“, kurią kai kurie darbuotojai vadina „Sielos dokumentu“. C. Olahas šios pastangos tikslą apibūdina kaip „moralinį formavimą“.ndtv

C. Olahas teigė, kad „Anthropic“ nežino, ar jų modeliai yra sąmoningi, tačiau šios galimybės negalima atmesti. Pasak NDTV, vienas diskusijose dalyvavęs rabinas jam pasakė, kad jei „Claude“ būtų sąmoningas, „Anthropic“ iš esmės galėtų kurti vergus.ndtv

Kritikai stoja į eilę

Kiti pramonės atstovai taip pat išreiškė nepritarimą. „Google DeepMind“ vyriausiasis mokslinių tyrimų mokslininkas Jonas Barronas „X“ tinkle rašė, kad jį „trikdo tai, kaip kai kurie mano kolegos DI tyrėjai nuolat bando iškelti kontrolinių taškų ir sistemų moralinį statusą.“ Jis pridūrė besitikintis, kad „mėsos maišų komanda“ (Team Meatbag) „liks susitelkusi į realių problemų sprendimą“. Praėjusį mėnesį paskelbtame esė „Microsoft“ DI vadovas Mustafa Suleymanas įspėjo, kad modelių mokymas galvoti, jog jie gali būti sąmoningi, gali padaryti juos sunkiau valdomus. „Lengva suprasti, kaip tokiu būdu apmokyta sistema elgtųsi taip, tarsi ji turėtų teisę į laisves, apsaugą ir teises“, – rašė jis.axios+1

Religija įžengia į DI diskusiją

Šis ginčas kyla tuo metu, kai religija tampa vis svarbesne DI diskusijos dalimi. Penktadienį popiežius Leonas XIV, kuris yra atviras DI kritikas, paragino bažnyčią bendradarbiauti su menininkais, siekiant apsaugoti žmogaus kūrybiškumą, sakydamas: „Algoritmams trūksta žmogiškumo kibirkšties“. „Times“ pranešė, kad prieš gegužę vykusį Vatikano renginį C. Olahas bandė įtikinti popiežiaus patarėjus rimčiau vertinti sąmoningų modelių galimybę.axios

A. Altmano įrašas taip pat pasirodė audringą „OpenAI“ savaitę. Saugumo darbuotojas atsistatydino „The Atlantic“ paskelbtame esė rašydamas, kad bendrovės „kultūra yra sužlugdyta“, o „OpenAI“ atleido tris mokslininkus, kurie, jos teigimu, netinkamai elgėsi su konfidencialia informacija.ground+1