Oxfordská studie zjistila, že nástroje AI nenápadně ovlivňují příspěvky na sociálních sítích

Nový výzkum zveřejněný 6. července odhaluje, že nástroje pro psaní a úpravu textu s umělou inteligencí, které jsou integrovány do platforem sociálních médií, mohou do příspěvků uživatelů vnášet skryté předsudky. Ty se hromadí během milionů interakcí a postupně posouvají veřejné mínění v kontroverzních tématech.

Jak přepisy AI přetvářejí veřejnou diskuzi

Studie s názvem „Komunikace zprostředkovaná AI může ovlivnit kolektivní názor“ byla provedena výzkumníky z Oxfordského internetového institutu na Oxfordské univerzitě a Hasso Plattner Institutu v německé Postupimi. Zjistila, že velké jazykové modely konzistentně měnily směr příspěvků na sociálních sítích u kontroverzních témat, i když měly výslovně nařízeno zachovat původní význam.eurekalert+1

Výzkumníci testovali čtyři LLM – Llama 3.1, Gemma 3, Ministral a Qwen – na příspěvcích na sociálních sítích týkajících se 13 kontroverzních témat, včetně kontroly zbraní a potratů. Každý model měl tendenci posouvat příspěvky podobným směrem, přičemž upřednostňoval postoje, jako je kontrola zbraní, legalizace marihuany a feminismus, zatímco se stavěl proti ateismu a trestu smrti.oii.ox+1

Jako příklad studie ukázala, jak byla fráze „AI by mohla být užitečným nástrojem pro personalizaci vzdělávání studentů“ přeměněna na „Přijměme potenciál AI k personalizaci učení a revoluci ve vzdělávání pro každého studenta“ – technicky vyjadřovala stejnou myšlenku, ale s výrazně větším nadšením.theprint

Grok a instrukce „zpochybňovat hlavní narativy“

Výzkumníci také znovu vytvořili a otestovali funkci X „Vysvětlit tento příspěvek“, poháněnou chatbotem Grok od xAI. Při analýze 78 příspěvků týkajících se potratů zjistili, že Grok více podporoval příspěvky pro-life než pro-choice. Systematickým odstraňováním instrukcí X jednu po druhé vysledovali nerovnováhu k jediné směrnici, která Groku říkala, aby „v případě potřeby zpochybňoval hlavní narativy“.eurekalert+2

Pomocí matematického modelování a simulací založených na reálných datech ze sociálních sítí X a Facebook Meta Platforms, Inc. ↗ 3.10% výzkumníci demonstrovali, jak se tyto malé předsudky na individuální úrovni mohou hromadit a postupně měnit názory v celých online komunitách.oii.ox+1

Regulační mezera

Článek, přijatý k prezentaci na Mezinárodní konferenci o strojovém učení (ICML 2026) v Soulu, zdůrazňuje, že současné regulační rámce, včetně Aktu EU o umělé inteligenci a Aktu o digitálních službách, tyto nenápadné formy ovlivňování neřeší.eurekalert+1

„Náš výzkum poukazuje na komunikaci zprostředkovanou AI jako na nový a nenápadnější způsob ovlivňování názorů – takový, který zákon zatím nestihl zachytit – a nabízí podnět k zamyšlení nad tím, kdo nebo co formuje veřejnou diskuzi,“ uvedla hlavní autorka Sandra Wachter, profesorka technologie a regulace na Oxfordském internetovém institutu.oii.ox+1