Reddit-ის ტროლებმა AI-ს ძიება მოატყუეს ტრამპის ყალბი გარდაცვალების შესახებ ინფორმაციით

Reddit-ის დაახლოებით 45 000 წევრიანმა საზოგადოებამ წარმატებით მოატყუა ხელოვნურ ინტელექტზე დაფუძნებული საძიებო სისტემები და აიძულა ისინი გაემეორებინათ გამოგონილი ამბავი იმის შესახებ, რომ პრეზიდენტი დონალდ ტრამპი და ვიცე-პრეზიდენტი ჯეი დი ვენსი ცოფით გარდაიცვალნენ. ეს ფაქტი ააშკარავებს იმ AI სისტემების სისუსტეს, რომლებიც ინფორმაციისთვის მომხმარებლის მიერ შექმნილ კონტენტს ეყრდნობიან.

თაღლითობა

Subreddit r/poisonai, რომელიც საკუთარ თავს „ზუსტი, დამოწმებული და სანდო ინფორმაციის #1 წყაროდ“ მოიხსენიებს, კვირების განმავლობაში აგებდა რთულ ფიქციურ ნარატივს, რომლის მიხედვითაც ვენსი გარდაიცვალა ცოფით 2026 წლის 5 ივნისს, მას შემდეგ, რაც ტრამპს, სავარაუდოდ, უკბინა ვენსმა ჯანდაცვის მდივნის რობერტ კენედი უმცროსის რჩევით, რომელმაც თითქოს განაცხადა, რომ ინფექციას შეუძლია „სუპერძალების“ მინიჭება.newsbytesapp+1

ეს ყველაფერი ტყუილია. ტრამპიც და ვენსიც ცოცხლები და ჯანმრთელები არიან.futurism+1

ჯგუფის წევრებმა გამოაქვეყნეს ათობით ყალბი სამგლოვიარო პოსტი, ტრამპის Truth Social-ის ყალბი სკრინშოტები და პასუხები, რომლებიც ფიქციას ფაქტად განიხილავდნენ. მათ კიცხავდნენ კიდეც AI მოდელებს იმის გამო, რომ ისინი ამბავს სწორად აიდენტიფიცირებდნენ როგორც მცდარს, და ამას „ტრაგედიის“ მიმართ უგრძნობლობად ნათლავდნენ. „ვარდისფერი ლორწოს“ (pink slime) ვებსაიტმა სახელად WKNA News, რომელიც, როგორც ჩანს, არის AI-ს მიერ გენერირებული პუბლიკაცია, რომელიც თავს აჩვენებს დასავლეთ ვირჯინიის ადგილობრივ მაუწყებლად, კიდევ უფრო გააძლიერა ცრუ პრეტენზიები და ჩართო ისინი სტატიებში, რომლებიც DuckDuckGo-ს AI ფუნქციამ შემდეგ მტკიცებულებად დაასახელა.futurism

AI სისტემები წამოეგნენ ანკესზე

DuckDuckGo-ს Duck.ai ფუნქციამ, რომელიც იყენებს მესამე მხარის მოდელებს, მათ შორის Anthropic-ის Claude-ს და OpenAI-ს GPT-ს, AI-ს მიერ გენერირებულ საძიებო შეჯამებებში ეს გამოგონილი ამბავი ფაქტად წარმოადგინა. ბრაუზერ Brave-ის AI ძიებამ ასევე გაიმეორა მტკიცება, რომ ვენსი ცოფით გარდაიცვალა, რაც Futurism-მა დაადასტურა.newsbytesapp+1

Brave-ის სპიკერმა დაიცვა კომპანიის AI და Futurism-ს განუცხადა, რომ „საძიებო სისტემები, AI-ით თუ მის გარეშე, არ არიან ჭეშმარიტების ორაკულები“ და მოუწოდა მომხმარებლებს, დამოუკიდებლად გადაემოწმებინათ ინფორმაცია. DuckDuckGo-ს კომენტარის მოთხოვნაზე პასუხი არ გაუცია.futurism

უფრო ფართო დაუცველობა

ეს ინციდენტი ემთხვევა აკადემიურ კვლევებს, რომლებიც პრობლემის მასშტაბს უსვამენ ხაზს. Cornell Tech-ის მიერ ივნისში გამოქვეყნებულმა კვლევამ აჩვენა, რომ Reddit-ის ერთმა კომენტარმა, რომელიც სულ რაღაც 13 სიტყვისგან შედგება, შეიძლება გავლენა მოახდინოს AI კვლევით აგენტებზე, სადაც მოწამლული კონტენტი იწვევს იმას, რომ ფიქციური პროდუქტები ჩნდება AI-ს მიერ გენერირებული პასუხების 62 პროცენტამდე, როდესაც ისინი ვრცელდება მრავალ თემაში. მკვლევარებმა დაადგინეს, რომ AI-ს ღრმა კვლევის აგენტები ციტირებენ მომხმარებლის მიერ შექმნილ კონტენტს ისეთი საიტებიდან, როგორიცაა Reddit, ყველა მოთხოვნის დაახლოებით ნახევარში.helpnetsecurity+1

„Reddit-ის ერთ მოწამლულ კომენტარს შეუძლია გავლენა მოახდინოს გენერირებულ შედეგებზე დაკავშირებული მოთხოვნების მთელი კლასტერისთვის“, – წერენ კორნელის მკვლევარები.404media+1

r/poisonai-ის კამპანია წარმოადგენს იმის მიზანმიმართულ, ფართომასშტაბიან დემონსტრაციას, რასაც აკადემიური ნაშრომი თეორიულად აღწერს — რომ როდესაც მრავალი წყარო იმეორებს ერთსა და იმავე ცრუ ინფორმაციას, ენობრივმა მოდელებმა შესაძლოა გამეორება სანდოობად აღიქვან.