Reddit-ի տրոլները խաբել են AI որոնման համակարգին՝ հաղորդելով Թրամփի կեղծ մահվան մասին

Մոտ 45,000 անդամ ունեցող Reddit-ի համայնքը տարածել է ֆիկտիվ պատմություն Թրամփի և Վենսի կատաղությունից մահանալու մասին, որը DuckDuckGo-ի և Brave-ի AI որոնման գործիքները կրկնել են որպես փաստ:newsbytesapp+1
Խաբեությունը օգտագործել է AI-ի կախվածությունը օգտատերերի կողմից ստեղծված բովանդակությունից, որտեղ «վարդագույն լորձ» (pink slime) կայքը ուժեղացրել է կեղծ պնդումները, որոնք որոնման գործիքները հետագայում մեջբերել են որպես ապացույց:futurism
Cornell Tech-ի ուսումնասիրությունը պարզել է, որ Reddit-ի ընդամենը 13 բառից բաղկացած մեկ մեկնաբանությունը կարող է մանիպուլյացիայի ենթարկել AI հետազոտական գործակալներին հարցումների ամբողջ կլաստերներում:helpnetsecurity+1

Reddit-ի մոտ 45,000 անդամ ունեցող համայնքը հաջողությամբ խաբել է արհեստական բանականությամբ աշխատող որոնման համակարգերին՝ ստիպելով նրանց կրկնել հորինված պատմություն այն մասին, որ նախագահ Դոնալդ Թրամփը և փոխնախագահ Ջեյ Դի Վենսը մահացել են կատաղությունից։ Սա բացահայտում է այն AI համակարգերի խոցելիությունը, որոնք տեղեկատվության համար հիմնվում են օգտատերերի կողմից ստեղծված բովանդակության վրա։

Խաբեությունը

r/poisonai subreddit-ը, որն իրեն անվանում է «Ճշգրիտ, ստուգված և վստահելի տեղեկատվության #1 աղբյուր», շաբաթներ շարունակ կառուցել է բարդ ֆիկտիվ պատմություն, ըստ որի՝ Վենսը մահացել է կատաղությունից 2026 թվականի հունիսի 5-ին, այն բանից հետո, երբ Թրամփը, իբր, կծվել է Վենսի կողմից՝ Առողջապահության նախարար Ռոբերտ Քենեդի կրտսերի խորհրդով, որը պնդել է, թե վարակը կարող է «գերհզորություն» հաղորդել:newsbytesapp+1

Սա ամբողջությամբ սուտ է։ Ե՛վ Թրամփը, և՛ Վենսը ողջ և առողջ են:futurism+1

Խմբի անդամները հրապարակել են տասնյակ կեղծ սգո գրառումներ, Թրամփի Truth Social-ի կեղծ սքրինշոթներ և պատասխաններ, որոնք ֆիկցիան ընդունել են որպես փաստ։ Նրանք նույնիսկ քննադատել են AI մոդելներին այն բանի համար, որ դրանք պատմությունը ճիշտ են նույնականացրել որպես կեղծ՝ դա ներկայացնելով որպես «ողբերգության» նկատմամբ անզգայունություն։ WKNA News անունով «վարդագույն լորձ» (pink slime) կայքը, որը, կարծես, AI-ի կողմից ստեղծված հրապարակում է, որը ձևանում է Արևմտյան Վիրջինիայի տեղական հեռարձակող, ավելի է ուժեղացրել կեղծ պնդումները և դրանք հյուսել հոդվածների մեջ, որոնք DuckDuckGo-ի AI գործառույթը հետագայում մեջբերել է որպես ապացույց:futurism

AI համակարգերը խայծը կուլ են տալիս

DuckDuckGo-ի Duck.ai գործառույթը, որն օգտագործում է երրորդ կողմի մոդելներ, ներառյալ Anthropic-ի Claude-ը և OpenAI-ի GPT-ն, AI-ի կողմից ստեղծված որոնման ամփոփումներում այս հորինված պատմությունը ներկայացրել է որպես փաստ։ Brave բրաուզերի AI որոնումը նույնպես կրկնել է այն պնդումը, որ Վենսը մահացել է կատաղությունից, ինչը հաստատվել է Futurism-ի կողմից:newsbytesapp+1

Brave-ի խոսնակը պաշտպանել է ընկերության AI-ն՝ Futurism-ին ասելով, որ «որոնման համակարգերը՝ AI-ով կամ առանց դրա, ճշմարտության պատգամախոսներ չեն» և հորդորել է օգտատերերին ինքնուրույն ստուգել պնդումները։ DuckDuckGo-ն չի արձագանքել մեկնաբանության խնդրանքին:futurism

Ավելի լայն խոցելիություն

Այս միջադեպը համընկնում է ակադեմիական հետազոտությունների հետ, որոնք ընդգծում են խնդրի մասշտաբը։ Cornell Tech-ի կողմից հունիսին հրապարակված ուսումնասիրությունը պարզել է, որ Reddit-ի ընդամենը 13 բառից բաղկացած մեկ մեկնաբանությունը կարող է ազդել AI հետազոտական գործակալների վրա, որտեղ թունավորված բովանդակությունը հանգեցնում է նրան, որ ֆիկտիվ ապրանքները հայտնվում են AI-ի կողմից ստեղծված պատասխանների մինչև 62 տոկոսում, երբ դրանք տարածվում են բազմաթիվ թեմաներով։ Հետազոտողները պարզել են, որ AI խորը հետազոտական գործակալները մեջբերում են օգտատերերի կողմից ստեղծված բովանդակությունը Reddit-ի նման կայքերից բոլոր հարցումների մոտ կեսում:helpnetsecurity+1

«Reddit-ի մեկ թունավորված մեկնաբանությունը կարող է ազդել հարակից հարցումների ամբողջ կլաստերի համար ստեղծված արդյունքների վրա», — գրել են Կոռնելի հետազոտողները:404media+1

r/poisonai-ի արշավը ներկայացնում է այն ամենի դիտավորյալ, լայնածավալ ցուցադրությունը, ինչը ակադեմիական աշխատությունը տեսականորեն նկարագրում է. երբ բազմաթիվ աղբյուրներ կրկնում են նույն կեղծ տեղեկատվությունը, լեզվական մոդելները կարող են կրկնությունը մեկնաբանել որպես վստահելիություն:

Աղբյուրներ (15)