Հինթոնը AI-ի կողմից մարդկության ոչնչացման 10 տոկոս հավանականությունը «ոչ անհիմն» է անվանել

Նոբելյան մրցանակակիր համակարգչային գիտնական Ջեֆրի Հինթոնը երեքշաբթի օրը BBC Newsnight-ին ասել է, որ արհեստական բանականության կողմից առաջիկա տասնամյակում մարդկության ոչնչացման 10% հավանականությունը «ոչ անհիմն գնահատական է»։ Այս հայտարարությունը հաղորդավար Վիկտորյա Դերբիշիրին ապշեցրել է ուղիղ եթերում:ndtvprofit+1

«Մենք երբեք չենք ստեղծել էակներ, որոնք շուտով կարող են մեզնից խելացի լինել։ Մենք չգիտենք, թե ինչ կլինի»,- ասել է Հինթոնը, երբ Դերբիշիրը հարցրել է, թե արդյոք այդ թիվը հավաստի է։ «10% հավանականությունը ինձ համար ոչ անհիմն գնահատական է թվում։ Բայց ոչ ոք իրականում չգիտի, թե ինչպես տալ ողջամիտ գնահատական»։ Երբ Դերբիշիրը կրկնել է նրա խոսքերը, Հինթոնը պատասխանել է մեկ բառով. «Այո»։ Նրա արձագանքը՝ «Վա՜յ… աստված իմ»՝ արագորեն տարածվել է համացանցում:ndtv+1

Ինչպես կարող է AI-ն աղետ առաջացնել

Հինթոնը, որը 2024 թվականին ստացել է ֆիզիկայի Նոբելյան մրցանակ մեքենայական ուսուցման ոլորտում իր աշխատանքի համար, ասել է, որ առաջադեմ AI-ին պետք չէ աշխարհի նկատմամբ ֆիզիկական վերահսկողություն՝ էկզիստենցիալ սպառնալիք դառնալու համար։ «Այն կարող է լիակատար քաոս առաջացնել պարզապես մարդկանց հետ խոսելով»,- ասել է նա։ «Բայց այն նաև կկարողանա նախագծել շատ վտանգավոր վիրուսներ՝ կենսաբանական վիրուսներ, ինչպես նաև համակարգչային վիրուսներ։ Այն կարող է կործանարար կիբերհարձակումներ իրականացնել»։ Նա հավելել է, որ «շատ հիմարություն» կլինի ենթադրելը, որ ռիսկը 1%-ից ցածր է:ndtvprofit+1

UC Berkeley-ի պրոֆեսոր Ստյուարտ Ռասելը կիսել է այդ մտահոգությունները՝ Business Insider-ին ասելով, որ AI-ն կամ AI-ով աշխատող դերակատարները կարող են հարձակվել կրիտիկական ենթակառուցվածքների վրա, ներառյալ էլեկտրաէներգիայի, ջրի, տրանսպորտի և ֆինանսական համակարգերի վրա:businessinsider

Anthropic-ի հրաժարականները, որոնք բանավեճ հարուցեցին

Հինթոնի հարցազրույցին նախորդել է իրադարձությունների շղթա, որը սկսվել է սեպտեմբերի 8-ին, երբ OpenAI-ի և Anthropic-ի նախկին հետազոտող Ջեյքոբ Քոքսոնը հրապարակայնորեն հրաժարական է տվել։ «Ոչ մի ընկերություն պատասխանատու չի գործում»,- գրել է Քոքսոնը X-ում։ «Նրանք ուղիղ գնում են դեպի ինքնազարգացող գերբանականություն և խաղում են մեր կյանքի հետ»:ibtimes+1

Anthropic-ի համապատասխանեցման գիտության ղեկավար Էվան Հյուբինգերն այնուհետև հրապարակայնորեն պատասխանել է, որ Քոքսոնը «ճիշտ է», և որ ինքն անձամբ հավատում է, որ 10%-ից ավելի հավանականություն կա, որ AI-ն կարող է ոչնչացնել ամբողջ մարդկությանը տասնամյակի ընթացքում։ «Մենք դեռևս չունենք գերբանականության համապատասխանեցման պլան և հստակ ուղու վրա չենք»,- գրել է Հյուբինգերը:businessinsider+1

Փորձագետների միջև սուր տարաձայնություններ

Ոչ բոլոր հետազոտողներն են կիսում այս տագնապը։ AI-ի հետազոտող Գարի Մարկուսը Business Insider-ին ասել է, որ ինքը կիբերհարձակումները, կենսաբանական զենքը և ապատեղեկատվությունը լուրջ ռիսկեր է համարում, բայց չի կարծում, որ ոչնչացումը իրատեսական կարճաժամկետ արդյունք է։ «Կան շատ լուրջ վնասներ, որոնց մասին պետք է անհանգստանալ, բայց չկա որևէ իրատեսական սցենար, որի մասին ես գիտեմ, «ամբողջ մարդկությանը ոչնչացնելու» համար»,- ասել է նա։ Meta-ի ↗ 0.84% Յան ԼըՔունը նախկինում նման հավանականության գնահատականները մերժել է որպես ինտուիտիվ զգացողություններ՝ մի բնութագիր, որը Հինթոնն ինքը մասամբ ընդունել է՝ CNN-ին ասելով, որ «յուրաքանչյուր ոք, ով գնահատում է նման հավանականություններ, իրականում պարզապես գուշակություններ է անում»:businessinsider+1

ITV-ի հաղորդավար Ռոբերտ Փեսթոնը բանավեճին ավելացրել է իր ձայնը՝ X-ում գրելով. «Ես մի փոքր զարմացած եմ, որ դա ավելի մեծ ուշադրություն չի գրավել, այդ թվում՝ կառավարության ներսից»:ladbible