Oksfordo tyrimas nustatė, kad DI įrankiai subtiliai šališkai veikia socialinės žiniasklaidos įrašus

Liepos 6 d. paskelbtas naujas tyrimas atskleidžia, kad socialinės žiniasklaidos platformose įdiegtos DI rašymo ir redagavimo priemonės gali įnešti paslėptą šališkumą į vartotojų įrašus, kurie kaupiasi per milijonus sąveikų ir palaipsniui keičia viešąją nuomonę ginčytinais klausimais.

Kaip DI perrašymai formuoja viešąjį diskursą

Tyrimą, pavadintą „DI tarpininkaujama komunikacija gali nukreipti kolektyvinę nuomonę“, atliko Oksfordo universiteto Oksfordo interneto instituto ir Hasso Plattner instituto Potsdame, Vokietijoje, tyrėjai. Nustatyta, kad dideli kalbos modeliai nuosekliai keitė socialinės žiniasklaidos įrašų kryptį ginčytinomis temomis, net ir tada, kai buvo aiškiai nurodyta išsaugoti pradinę prasmę.eurekalert+1

Tyrėjai išbandė keturis LLM – „Llama 3.1“, „Gemma 3“, „Ministral“ ir „Qwen“ – socialinės žiniasklaidos įrašuose 13 prieštaringų temų, įskaitant ginklų kontrolę ir abortus. Kiekvienas modelis linko pakreipti įrašus panašiomis kryptimis, palaikydamas tokias pozicijas kaip ginklų kontrolė, marihuanos legalizavimas ir feminizmas, kartu prieštaraudamas ateizmui ir mirties bausmei.oii.ox+1

Kaip pavyzdį, tyrimas parodė, kaip frazė „DI gali būti naudingas įrankis personalizuojant mokinių ugdymą“ buvo pakeista į „Priimkime DI potencialą personalizuoti mokymąsi ir revoliucionizuoti švietimą kiekvienam mokiniui“ – techniškai perteikiant tą pačią idėją, bet su žymiai didesniu entuziazmu.theprint

„Grok“ ir nurodymas „mesti iššūkį vyraujantiems naratyvams“

Tyrėjai taip pat atkūrė ir išbandė „X“ funkciją „Paaiškink šį įrašą“, kurią palaiko xAI pokalbių robotas „Grok“. Išanalizavę 78 su abortais susijusius įrašus, jie nustatė, kad „Grok“ labiau palaikė už gyvybę pasisakančius įrašus nei už pasirinkimo laisvę. Sistemingai šalindami „X“ nurodymus po vieną, jie nustatė, kad disbalansas kyla iš vienos direktyvos, liepiančios „Grok“ „jei reikia, mesti iššūkį vyraujantiems naratyvams“.eurekalert+2

Naudodami matematinį modeliavimą ir simuliacijas, pagrįstas realiais socialinių tinklų duomenimis iš „X“ ir „Facebook Meta Platforms, Inc.“ ↗ 3.10%, tyrėjai pademonstravo, kaip šie maži individualaus lygmens šališkumai gali kauptis ir palaipsniui keisti nuomones visose internetinėse bendruomenėse.oii.ox+1

Reguliavimo spraga

Straipsnyje, priimtame pristatymui Tarptautinėje mašininio mokymosi konferencijoje (ICML 2026) Seule, pabrėžiama, kad dabartinės reguliavimo sistemos, įskaitant ES DI aktą ir Skaitmeninių paslaugų aktą, neapima šių subtilių įtakos formų.eurekalert+1

„Mūsų tyrimas rodo, kad DI tarpininkaujama komunikacija yra naujas ir subtilesnis būdas daryti įtaką nuomonėms – toks, kurio įstatymai dar nespėjo pasivyti – ir verčia susimąstyti apie tai, kas ar kas formuoja viešąjį diskursą“, – sakė vyresnioji autorė Sandra Wachter, Oksfordo interneto instituto technologijų ir reguliavimo profesorė.oii.ox+1