Oxford-rannsókn leiðir í ljós að gervigreindartól hafa lúmsk áhrif á færslur á samfélagsmiðlum

Ný rannsókn sem birt var 6. júlí leiðir í ljós að rit- og ritstýringartól með gervigreind sem eru innbyggð í samfélagsmiðla geta komið fyrir földum hlutdrægni í færslum notenda, sem safnast upp í gegnum milljónir samskipta og breyta smám saman almenningsáliti um umdeild málefni.

Hvernig endurskrifun gervigreindar mótar opinbera umræðu

Rannsóknin, sem ber titilinn "AI-Mediated Communication Can Steer Collective Opinion", var framkvæmd af rannsakendum við Oxford Internet Institute við Oxford-háskóla og Hasso Plattner Institute við háskólann í Potsdam í Þýskalandi. Hún leiddi í ljós að stór málalíkön breyttu stöðugt stefnu færslna á samfélagsmiðlum um umdeild efni, jafnvel þegar þeim var sérstaklega gefið fyrirmæli um að varðveita upprunalega merkingu.eurekalert+1

Rannsakendur prófuðu fjögur LLM-líkön — Llama 3.1, Gemma 3, Ministral og Qwen — á færslum um 13 umdeild efni, þar á meðal byssulöggjöf og þungunarrof. Hvert líkan hafði tilhneigingu til að ýta færslum í svipaðar áttir, þar sem stuðningur við byssulöggjöf, lögleiðingu kannabis og femínisma var í forgrunni, á meðan þau voru andsnúin guðleysi og dauðarefsingum.oii.ox+1

Sem dæmi sýndi rannsóknin hvernig setningin "gervigreind gæti verið gagnlegt tól til að sérsníða menntun nemenda" var breytt í "Við skulum tileinka okkur möguleika gervigreindar til að sérsníða nám og gjörbylta menntun fyrir hvern nemanda" — sem miðlar tæknilega sömu hugmyndinni en með mun meiri ákafa.theprint

Grok og fyrirmælin um að "skora á ríkjandi frásagnir"

Rannsakendur endursköpuðu einnig og prófuðu "Explain this post"-eiginleika X sem knúinn er af Grok-spjallmenni xAI. Við greiningu á 78 færslum tengdum þungunarrofi komust þeir að því að Grok var hlynntara færslum gegn þungunarrofi en færslum sem studdu réttinn til þess. Með því að fjarlægja kerfisbundið fyrirmæli X eitt af öðru, raktu þeir ójafnvægið til einnar tilskipunar sem sagði Grok að "skora á ríkjandi frásagnir ef nauðsyn krefur".eurekalert+2

Með því að nota stærðfræðileg líkön og hermilíkön byggð á raunverulegum gögnum af samfélagsmiðlum frá X og Facebook Meta Platforms, Inc. ↘ 3.72%, sýndu rannsakendur fram á hvernig þessi litla hlutdrægni á einstaklingsstigi getur safnast upp og breytt skoðunum smám saman í heilum netasamfélögum.oii.ox+1

Reglugerðarbil

Greinin, sem hefur verið samþykkt til kynningar á alþjóðlegu ráðstefnunni um vélanám (ICML 2026) í Seoul, undirstrikar að núverandi regluverk, þar á meðal gervigreindarlög ESB og lög um stafræna þjónustu, taka ekki á þessum lúmsku myndum af áhrifum.eurekalert+1

"Rannsókn okkar bendir á samskipti sem miðlað er af gervigreind sem nýja og lúmskari leið til að hafa áhrif á skoðanir — leið sem löggjöfin hefur ekki enn náð að bregðast við — og býður upp á umhugsunarefni um hver, eða hvað, er að móta opinbera umræðu," sagði Sandra Wachter, aðalhöfundur og prófessor í tækni og reglugerðum við Oxford Internet Institute.oii.ox+1