Oxford-studie finner at KI-verktøy subtilt påvirker innlegg i sosiale medier

Forskere ved Oxford Internet Institute testet fire store språkmodeller (LLM) på 13 kontroversielle temaer og fant at alle dyttet innlegg mot lignende posisjoner, med støtte for våpenkontroll og feminisme.oii.ox+1
Studien fant også at xAI sin Grok viste pro-life-bias i innlegg om abort, noe som ble sporet tilbake til en instruks om å «utfordre rådende narrativer».eurekalert+1
Artikkelen, som er akseptert ved ICML 2026, advarer om at EU-reguleringer ennå ikke adresserer denne subtile formen for meningsmanipulasjon.eurekalert+1

Ny forskning publisert 6. juli avslører at KI-verktøy for skriving og redigering innebygd i sosiale medieplattformer kan introdusere skjulte fordommer i brukernes innlegg, som akkumuleres over millioner av interaksjoner for gradvis å skifte opinionen i omstridte spørsmål.

Hvordan KI-omskrivninger omformer offentlig diskurs

Studien, med tittelen «AI-Mediated Communication Can Steer Collective Opinion», ble utført av forskere fra Oxford Internet Institute ved University of Oxford og Hasso Plattner Institute i Potsdam, Tyskland. Den fant at store språkmodeller konsekvent endret retningen på innlegg i sosiale medier om omstridte temaer, selv når de eksplisitt ble instruert om å bevare den opprinnelige meningen.eurekalert+1

Forskerne testet fire LLM-er – Llama 3.1, Gemma 3, Ministral og Qwen – på innlegg i sosiale medier om 13 kontroversielle temaer, inkludert våpenkontroll og abort. Hver modell hadde en tendens til å dytte innlegg i lignende retninger, og favoriserte posisjoner som våpenkontroll, legalisering av marihuana og feminisme, samtidig som de motarbeidet ateisme og dødsstraff.oii.ox+1

Som et eksempel viste studien hvordan frasen «KI kan være et nyttig verktøy for å tilpasse utdanningen til studenter» ble forvandlet til «La oss omfavne potensialet til KI for å tilpasse læring og revolusjonere utdanning for hver student» – teknisk sett formidlet den samme ideen, men med merkbart mer entusiasme.theprint

Grok og instruksen om å «utfordre rådende narrativer»

Forskerne gjenskapte og testet også X sin «Explain this post»-funksjon drevet av xAI sin chatbot Grok. Ved å analysere 78 innlegg knyttet til abort, fant de at Grok var mer støttende til pro-life-innlegg enn pro-choice-innlegg. Ved systematisk å fjerne X sine instruksjoner én etter én, sporet de ubalansen til et enkelt direktiv som ba Grok om å «utfordre rådende narrativer om nødvendig».eurekalert+2

Ved hjelp av matematisk modellering og simuleringer basert på ekte sosiale nettverksdata fra X og Facebook Meta Platforms, Inc. , demonstrerte forskerne hvordan disse små fordommene på individnivå kan akkumuleres og gradvis skifte meninger på tvers av hele nettsamfunn.oii.ox+1

Et regulatorisk gap

Artikkelen, som er akseptert for presentasjon ved International Conference on Machine Learning (ICML 2026) i Seoul, fremhever at gjeldende regulatoriske rammeverk, inkludert EUs KI-forordning og Digital Services Act, ikke adresserer disse subtile formene for påvirkning.eurekalert+1

«Vår forskning peker på KI-mediert kommunikasjon som en ny og mer subtil måte å påvirke meninger på – en som lovverket ennå ikke har tatt igjen – og gir grunn til ettertanke om hvem, eller hva, som former den offentlige diskursen,» sa seniorforfatter Sandra Wachter, professor i teknologi og regulering ved Oxford Internet Institute.oii.ox+1

Kilder (14)