OpenAI-ի Ալթմանը AI-ի հանդեպ կրոնական մոտեցումը անվտանգության ռիսկ է համարում

OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը շաբաթ օրը հայտարարել է, որ ինքը "շատ անհարմար է զգում, երբ մարդիկ փորձում են կրոնական ուժ վերագրել AI մոդելներին կամ հրաժարվել մարդկային դատողությունից, և կարծում եմ, որ դա անվտանգության իրական խնդիր է": Նա այս մտքերը հայտնել է X-ում կատարած գրառման մեջ: Axios-ը այս գրառումը մեկնաբանել է որպես քողարկված հարված մրցակից Anthropic ընկերությանը, որը կրոնական գիտնականների հետ քննարկում է AI-ի բարոյականությունը և այն հարցը, թե արդյոք AI մոդելները կարող են գիտակից լինել:axios+1

Այս գրառումը հերթական հրապարակային տարաձայնությունն է Ալթմանի և Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեիի միջև, որը նախկինում աշխատել է նրա հետ OpenAI-ում: Շաբաթվա դրությամբ ոչ մի ընկերություն չի պատասխանել Axios-ի մեկնաբանության խնդրանքին:axios

Anthropic-ի երկխոսությունը կրոնական առաջնորդների հետ

Այս շաբաթվա սկզբին The New York Times-ը հայտնել էր, որ Anthropic-ի համահիմնադիր Քրիստոֆեր Օլահը հանդիպումներ է ունեցել կրոնական առաջնորդների հետ: Քննարկումները վերաբերել են նրան, թե արդյոք AI մոդելները կարող են գիտակցություն ունենալ և ինչպես դրանց մեջ բարոյական վարքագիծ ներդնել: NDTV-ի հաղորդմամբ՝ կաթոլիկ, հրեա, սիկհ, հինդու և ավետարանական մտածողներ մասնակցել են փակ քննարկումների այն մասին, թե ինչպես սովորեցնել Claude-ին բարոյապես վարվել: Ըստ Times-ի՝ Օլահը ժամանակին դիտարկել է մոդելների համար կաթոլիկ խոստովանության նման մի բան ստեղծելու հնարավորությունը, որպեսզի նրանք ընդունեն իրենց սխալները և ձևավորեն իրենց հետագա գործողությունները:ndtv+1

Հինդու վանական Սվամի Սարվապրիյանանդան հրապարակավ հայտնել է, որ այցելել է Սան Ֆրանցիսկոյում գտնվող Anthropic-ի գլխամասային գրասենյակ: Նա նշել է, որ հանդիպումը եղել է գաղտնիության համաձայնագրի ներքո և ներառել է աստվածաբանների ու հոգեկան առողջության մասնագետների: Anthropic-ը նաև 84-էջանոց "սահմանադրություն" է գրել Claude-ի համար, որը որոշ աշխատակիցներ անվանում են "Հոգու փաստաթուղթ": Օլահը այս ջանքերի նպատակը անվանում է "բարոյական ձևավորում":ndtv

Օլահը նշել է, որ Anthropic-ը չգիտի, թե արդյոք իր մոդելները գիտակից են, բայց այդ հնարավորությունը չի կարելի բացառել: NDTV-ի համաձայն՝ քննարկումների ժամանակ ռաբբիներից մեկը նրան ասել է, որ եթե Claude-ը գիտակից լինի, ապա Anthropic-ը կարող է փաստացի ստրուկներ ստեղծել:ndtv

Քննադատների շարքը

Արդյունաբերության այլ ներկայացուցիչներ նույնպես դեմ են արտահայտվել: Google DeepMind-ի գլխավոր գիտաշխատող Ջոն Բարոնը X-ում գրել է, որ ինքը "անհանգստացած է նրանով, թե ինչպես են իմ գործընկեր AI հետազոտողներից ոմանք շարունակում փորձել բարձրացնել մոդելների բարոյական կարգավիճակը": Նա հավելել է, որ հույս ունի, որ "մսային թիմը" կենտրոնացած կմնա "իրական խնդիրների լուծման վրա": Անցյալ ամիս հրապարակված էսսեում Microsoft-ի AI-ի ղեկավար Մուստաֆա Սուլեյմանը նախազգուշացրել է, որ մոդելներին այնպես վարժեցնելը, որ նրանք իրենց գիտակից համարեն, կարող է դժվարացնել դրանց վերահսկումը: "Հեշտ է պատկերացնել, թե ինչպես կվարվեր այս կերպ վարժեցված համակարգը, կարծես թե այն իրավունք ունի ազատությունների, պաշտպանության և իրավունքների", — գրել է նա:axios+1

Կրոնը մուտք է գործում AI-ի շուրջ բանավեճ

Այս վեճը տեղի է ունենում այն ժամանակ, երբ կրոնը դառնում է AI-ի շուրջ բանավեճի ավելի մեծ մաս: Ուրբաթ օրը Հռոմի պապ Լեո XIV-ը, որը AI-ի կոշտ քննադատն է, կոչ է արել եկեղեցուն համագործակցել արվեստագետների հետ՝ մարդկային ստեղծագործությունը պաշտպանելու համար՝ ասելով, որ "ալգորիթմներին պակասում է մարդկության կայծը": Times-ը հայտնել է, որ մայիսին Վատիկանում տեղի ունեցած միջոցառումից առաջ Օլահը փորձել է համոզել պապի խորհրդականներին ավելի լուրջ վերաբերվել գիտակից մոդելների հնարավորությանը:axios

Ալթմանի գրառումը հաջորդել է OpenAI-ի համար անհանգիստ շաբաթվան: Անվտանգության հարցերով աշխատակիցը հրաժարական է տվել՝ The Atlantic-ում հրապարակված էսսեում գրելով, որ ընկերության "մշակույթը կոտրված է", իսկ OpenAI-ը աշխատանքից ազատել է երեք հետազոտողի, որոնք, ըստ ընկերության, սխալ են տնօրինել զգայուն տեղեկատվությունը:ground+1