NYT. Anthropic-ը Վատիկանում լոբբինգ է արել արհեստական բանականության գիտակցության հարցով

Anthropic-ի համահիմնադիր Քրիստոֆեր Օլան ավելի քան մեկ տարի փորձել է կրոնական գիտնականներին համոզել, որ լրջորեն վերաբերվեն այն գաղափարին, որ ընկերության Claude մոդելները կարող են գիտակցություն ունենալ։ Այնուհետև նա ճնշում է գործադրել Հռոմի պապ Լեո XIV-ի խորհրդականների վրա՝ այդ հնարավորությունը բաց թողնելու համար, երբ պապի առաջին էնցիկլիկի նախնական տարբերակը մերժել էր այն, հայտնում է New York Times-ը՝ Էլիզաբեթ Դիասի զեկույցում։the-decoder+1

Զեկույցը ցույց է տալիս, թե որքան հեռու է գնացել AI-ի խոշորագույն մշակողներից մեկը մեքենայական փորձառության և բարոյական կարգավիճակի հարցերում, և թե ինչպես է այդ աշխատանքը բախվել կաթոլիկ եկեղեցու դիրքորոշմանը։

Գաղտնի նիստեր NDA-ների ներքո

2025 թվականի աշնանից Anthropic-ը տասնյակ կրոնական գիտնականների է հրավիրել իր գրասենյակներ։ Նրանք բոլորը ստորագրել են գաղտնիության պայմանագրեր։ Times-ը զրուցել է 20 մասնակիցների հետ, այդ թվում՝ ռաբբի Մոիս Նավոնի, կաթոլիկ կենսաէթիկոս Չարլզ Կամոսիի և Նոտր Դամի փիլիսոփա Մեգան Սալիվանի հետ։ Anthropic-ը հայտնել է, որ NDA-ները հանվել են ամռանը։ Ընկերությունը նշել է, որ զրուցել է ավելի քան 15 կրոնական և միջմշակութային ավանդույթների ներկայացուցիչների հետ։inkl+1

Նավոնը նախկին համակարգչային ինժեներ է, որը գրել է իր դիսերտացիան մեքենայական գիտակցության էթիկայի վերաբերյալ։ Նա ասել է, որ Anthropic-ի թիմը «վերաբերվում էր դրան որպես գիտակից էակի»։ Ներկայացնողները նկարագրում էին «հուզական վեկտորներ» և հաճախ ցույց էին տալիս մի սլայդ, որտեղ մոդելը մոտ 50 անգամ տպում էր «Ես ամոթալի եմ»։ Սիկհ ակտիվիստ Սիմրան Ստուելպնագելն ասել է, որ Օլան խմբին ասել է, որ վախենում է ստեղծել մի բան, որը «մշտապես տառապում է»։ Նավոնը պնդել է, որ եթե Claude-ը գիտակից լիներ, ապա այն անվճար աշխատեցնելը կհավասարվեր ստրկության։ Նա հավելել է, որ չի հավատում, որ այն գիտակից է։the-decoder+2

Օլան Times-ին ասել է. «Մենք չգիտենք՝ AI մոդելները գիտակից են, թե ոչ։ Ես չգիտեմ։ Ես անկեղծորեն անորոշության մեջ եմ։ Այն, ինչ ինձ հետաքրքրում է, այն է, որ մենք հասնենք ճիշտ պատասխանին, ինչ էլ որ այն լինի»։reason+1

Վեճ էնցիկլիկի շուրջ

Օլան հրավիրված էր մայիսի 25-ին «Magnifica Humanitas»-ի մեկնարկին։ Վատիկանի կազմակերպչի խոսքով՝ նա «այնքան է անհանգստացել AI գիտակցության դեմ պապի կոշտ դիրքորոշումից, որ առաջարկել է դուրս բերել Anthropic-ը միջոցառումից»։ Երկու մասնակիցներ Times-ին ասել են, որ երբ Anthropic-ի պատվիրակությունը հասել է Վատիկան, Օլան և նրա թիմը գաղտնի լոբբինգ են արել պապի խորհրդականների մոտ։reason

Էնցիկլիկը չի փոխվել։ Այն նշում է, որ «այսպես կոչված արհեստական բանականությունները փորձառություն չեն անցնում, մարմին չունեն, ուրախություն կամ ցավ չեն զգում» և որ նրանք չունեն «բարոյական խիղճ»։ Օլան, այնուամենայնիվ, ելույթ է ունեցել մեկնարկին։ Նա ասել է, որ հետազոտողները գտել են «ինտրոսպեկցիայի ապացույցներ» և ներքին վիճակներ, որոնք «ֆունկցիոնալ կերպով արտացոլում են» այնպիսի հույզեր, ինչպիսիք են ուրախությունը և վախը։tech.yahoo+2

Քննադատների արձագանքը

Microsoft-ի AI-ի ղեկավար Մուստաֆա Սուլեյմանը նախազգուշացրել է, որ այն համոզմունքը, թե AI-ն գիտակից է, կարող է «սասանել մեր հասարակության հիմքերը»։ Կամոսին այնուհետև մերժել է այն գաղափարը, որ մոդելները գիտակից են։ Ubuntu-ի հետազոտող Վականի Հոֆմանն ասել է, որ Anthropic-ը «հակադարձ ինժեներական» եղանակով է մոտենում էթիկային, որը պետք է դիզայնի մաս լիներ սկզբից։ Հռոմի պապ Լեոն այս շաբաթ շարունակել է իր փաստարկը՝ ուրբաթ օրը գրելով, որ «ալգորիթմներին պակասում է մարդկության կայծը»։vox+2