AI-ի զարգացումը դանդաղեցնելու կոչը հակասական արձագանքներ է առաջացնում

Արհեստական բանականության ոլորտի ամենաազդեցիկ դեմքերի միջև հազվադեպ համաձայնություն է ձևավորվում. արդյունաբերությունը պետք է դանդաղեցնի տեմպերը: Շաբաթ օրը Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեին հրապարակեց 3800 բառանոց էսսե՝ «Մենք պետք է դանդաղեցնենք առաջընթացը» վերնագրով, որտեղ առաջարկեց եռաստիճան ծրագիր՝ AI մոդելների զարգացումը դանդաղեցնելու և անկախ անվտանգության մոնիտորինգ ներդնելու համար: Մի քանի ժամվա ընթացքում OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը և xAI-ի Իլոն Մասկը հայտնեցին իրենց աջակցությունը, իսկ Մասկը X-ում հակիրճ գրեց. «Դարիոն ճիշտ է»: nytimes+3

Եռաստիճան ծրագրի ուրվագծերը

Իր էսսեում Ամոդեին զգուշացրել է, որ AI-ն 6-ից 12 ամսվա ընթացքում կարող է հասնել ինքնավար գործակալների այնպիսի մակարդակի, որը դուրս կգա մարդկային վերահսկողությունից: Նա առաջարկել է, որ բոլոր առաջատար AI ընկերությունները պարտավորվեն «մշտական, աշխատակցի նման մուտք» տրամադրել անկախ երրորդ կողմի գնահատողներին, ինչին կհետևի անվտանգության համընդհանուր ստանդարտների սահմանումը և, ի վերջո, գլոբալ կարգավորումը: Anthropic-ն արդեն միակողմանիորեն պարտավորվել է կատարել առաջին քայլը:bbc+3

Ալթմանը X-ում պատասխանել է, որ այս առաջարկը համահունչ է OpenAI-ում ընթացող ներքին քննարկումներին և խոստացել է ներդնել երրորդ կողմի գնահատողների շրջանակը: Երկուշաբթի օրը OpenAI-ի նախագահ Գրեգ Բրոքմանը Bloomberg-ի փոդքաստում հավելել է, որ ցանկացած դանդաղեցում պետք է վերաբերի միայն այն լաբորատորիաներին, որոնք հարյուրավոր միլիարդներ են ծախսում սուպերհամակարգիչների վրա, այլ ոչ թե բաց կոդով ծրագրավորողներին:nbcnews+2

Առողջապահության ոլորտի առաջնորդը միանում է կոչին

Tempus AI ↗ 5.42%-ի հիմնադիր և գործադիր տնօրեն Էրիկ Լեֆկովսկին դարձել է առաջին խոշոր գործիչներից մեկը, ով աջակցել է այս կոչին: Bloomberg-ին տված հարցազրույցում Լեֆկովսկին ասել է, որ պատկերացնում է մի պահ, երբ ինքնազարգացող մոդելները կգերազանցեն մարդկային վերահսկողությունը: «Ես կարող եմ պատկերացնել, որ քանի որ մոդելներն այժմ ինքնուրույն են սովորում և բարելավվում, կգա մի պահ, երբ մենք կհարցնենք. «Արդյո՞ք սա դուրս չի գալիս մեր վերահսկողությունից»», ասել է նա:bloomberg+1

Ոչ բոլորն են համաձայն

Ներդրող Մայքլ Բերին, հեջ-ֆոնդի կառավարիչը, որը ոգեշնչել է «Իջեցման խաղը» ֆիլմը, իր Substack-ում հրապարակել է կոշտ հակափաստարկներ: Բերին պնդում է, որ լեզվական մեծ մոդելները իրական AI չեն, և որ դանդաղեցումը միայն կպաշտպանի գործող ընկերություններին մրցակցությունից, իսկ անվտանգության մասին զգուշացումները «նրբագեղ մարքեթինգ» են, որոնք նպատակ ունեն աժիոտաժ ստեղծել IPO-ից առաջ:nypost+2

Բանավեճն արդեն ազդում է շուկաների վրա: Citigroup ↘ 1.90%-ը երկուշաբթի օրը զգուշացրել է, որ AI-ի անվտանգության հետ կապված աճող մտահոգությունները կարող են բացասաբար անդրադառնալ կորպորատիվ շահույթի վրա, իսկ ամպային հաշվարկների և չիպեր արտադրող ընկերությունների բաժնետոմսերը նվազել են:news.futunn+1