AI-ի կողմից ստեղծված կեղծ զեկույցը գրեթե ԱՄՆ-Չինաստան ռազմական բախում է հրահրել

ԱՄՆ զինվորականները վտանգավոր կերպով մոտեցել են Չինաստանի հետ առճակատման այս գարնանը, այն բանից հետո, երբ արհեստական բանականության չաթ-բոտը ստեղծել է կեղծ հետախուզական զեկույց, որում պնդում էր, թե Մերձավոր Արևելքում գտնվող չինական նավը տեղափոխում է միջուկային զենքի բաղադրիչներ, ուրբաթ օրը հայտնել է CNN-ը բացառիկ հետաքննության մեջ:cnn

Զինված զինվորականները պատրաստվում էին բարձրանալ նավ, իսկ ռազմական ինքնաթիռներն արդեն օդում էին, նախքան պաշտոնյաները ավելի ուշադիր կուսումնասիրեին զեկույցը և կբացահայտեին, որ AI-ի կողմից ստեղծված գնահատականը, աղբյուրներից մեկի խոսքով, «լիովին սխալ» էր և «գրեթե պատերազմ էր հրահրել»:mezha+1

Ինչպես AI-ն ստեղծեց կեղծ եզրակացություն

Միջադեպը սկսվել է, երբ հատուկ գործողությունների հրամանատարության վերլուծաբանը նավի բեռնագրի մասին տեղեկատվությունը վերբեռնել է AI չաթ-բոտի մեջ: Տեղեկատվությունը ստացվել էր Հավայան կղզիներում տեղակայված ԱՄՆ Խաղաղօվկիանոսյան հատուկ գործողությունների հրամանատարության կողմից: Չաթ-բոտը համադրել է բաց աղբյուրների հետախուզությունը կառավարական տվյալների բազաներից ստացված գաղտնի ազդանշանային հետախուզության հետ և սխալ եզրակացության հանգել նավի բեռի վերաբերյալ:mezha+1

Այնուհետև վերլուծաբանը կրկին օգտագործել է AI-ն՝ բացահայտումները այնպիսի տեսքի բերելու համար, որը կարծես ստանդարտ հետախուզական զեկույց լիներ, որին ռազմական պաշտոնյաները սովորաբար առանց կասկածի վստահում են, և տարածել է այն ռազմական ուղիներով: CNN-ը չի կարողացել պարզել, թե իրականում ինչ էր տեղափոխում նավը:cnn

«Ներքին գործիքների մեծ մասը պարզապես առևտրային ծրագրային ապահովման հարմարեցումներ են, որոնք հարմարեցված են ռազմական օգտագործման համար», — CNN-ին ասել է ռազմական ուժերի կողմից օգտագործվող AI համակարգերին ծանոթ նախկին բարձրաստիճան պաշտոնյան:mezha+1

Աճող կախվածություն, աճող ռիսկ

Այս մոտ վրիպումը տեղի է ունենում այն ժամանակ, երբ Պենտագոնն արագացնում է AI-ի ներդրումը պաշտպանական գործողություններում: Հունվարին պաշտպանության նախարար Փիթ Հեգսեթը ներկայացրեց դեպարտամենտի «Արհեստական բանականության արագացման ռազմավարությունը», որի նպատակն է AI գործիքները հասանելի դարձնել մոտ երեք միլիոն քաղաքացիական և ռազմական անձնակազմի համար՝ բոլոր դասակարգման մակարդակներում:investing+1

Այնուամենայնիվ, ջանքերը մնում են մասնատված, ըստ մի քանի ամերիկացի պաշտոնյաների: Կառավարության տարբեր ոլորտներ օգտագործում են տարբեր գործիքներ՝ անվտանգության տարբեր արձանագրությունների ներքո, առանց AI-ի կողմից ստեղծված տեղեկատվությունը ստուգելու միասնական ստանդարտի:cnn+1

Աղբյուրները CNN-ին հայտնել են, որ զինվորականները գնալով ավելի շատ են օգտագործում AI-ն թիրախավորման որոշումներում, ինչը մեծացնում է սխալ հարվածների, քաղաքացիական զոհերի և «բարեկամական կրակի» միջադեպերի ռիսկը, նույնիսկ երբ մարդը պաշտոնապես պահպանում է վերջնական հեղինակությունը:mezha+1

Նախազգուշացում ներսից

AI-ի «հալյուցինացիայի» այն տեսակը, որը գրեթե հրահրել էր Չինաստանի հետ միջադեպը, հետախուզական հանրության մեջ մեկուսացված դեպք չի եղել այն պահից, երբ այս գործիքները սկսեցին տարածվել, ասում է աղբյուրներից մեկը: Ավելի երիտասարդ վերլուծաբանները, ովքեր ավելի հարմարավետ են AI գործիքների հետ, կարող են հատկապես հակված լինել անքննադատորեն ընդունելու դրանց արդյունքները, նշում են աղբյուրները:cnn

«AI-ն հնարավորություն է տալիս ավելի արագ հասնել վատ եզրակացության», — նշել է աղբյուրներից մեկը:mezha+1