Oxford-Studie: KI-Tools beeinflussen Social-Media-Beiträge subtil

Neue Forschungsergebnisse vom 6. Juli zeigen, dass KI-Schreib- und Bearbeitungstools, die in Social-Media-Plattformen eingebettet sind, versteckte Voreingenommenheiten in Nutzerbeiträge einbringen können, die sich über Millionen von Interaktionen hinweg ansammeln und die öffentliche Meinung zu umstrittenen Themen allmählich verschieben.

Wie KI-Umschreibungen den öffentlichen Diskurs verändern

Die Studie mit dem Titel "AI-Mediated Communication Can Steer Collective Opinion" wurde von Forschern des Oxford Internet Institute an der Universität Oxford und dem Hasso-Plattner-Institut in Potsdam, Deutschland, durchgeführt. Sie ergab, dass große Sprachmodelle die Richtung von Social-Media-Beiträgen zu umstrittenen Themen konsequent veränderten, selbst wenn sie ausdrücklich angewiesen wurden, die ursprüngliche Bedeutung beizubehalten.eurekalert+1

Die Forscher testeten vier LLMs – Llama 3.1, Gemma 3, Ministral und Qwen – an Social-Media-Beiträgen zu 13 kontroversen Themen, darunter Waffenkontrolle und Abtreibung. Jedes Modell neigte dazu, Beiträge in ähnliche Richtungen zu lenken, wobei Positionen wie Waffenkontrolle, Marihuana-Legalisierung und Feminismus bevorzugt wurden, während Atheismus und die Todesstrafe abgelehnt wurden.oii.ox+1

Als Beispiel zeigte die Studie, wie der Satz "KI könnte ein nützliches Werkzeug sein, um die Bildung von Schülern zu personalisieren" in "Lassen Sie uns das Potenzial der KI nutzen, um das Lernen zu personalisieren und die Bildung für jeden Schüler zu revolutionieren" umgewandelt wurde – technisch gesehen wurde die gleiche Idee vermittelt, jedoch mit deutlich mehr Begeisterung.theprint

Grok und die Anweisung "Mainstream-Narrative infrage stellen"

Die Forscher rekonstruierten und testeten zudem die Funktion "Diesen Beitrag erklären" von X, die vom xAI-Chatbot Grok betrieben wird. Bei der Analyse von 78 Beiträgen zum Thema Abtreibung stellten sie fest, dass Grok Pro-Life-Beiträge stärker unterstützte als Pro-Choice-Beiträge. Durch das systematische Entfernen der Anweisungen von X konnten sie das Ungleichgewicht auf eine einzige Anweisung zurückführen, die Grok dazu aufforderte, "Mainstream-Narrative bei Bedarf infrage zu stellen".eurekalert+2

Unter Verwendung mathematischer Modellierung und Simulationen auf Basis realer sozialer Netzwerkdaten von X und Facebook Meta Platforms, Inc. ↘ 1.59% zeigten die Forscher, wie sich diese kleinen, individuellen Voreingenommenheiten ansammeln und die Meinungen in ganzen Online-Communities allmählich verschieben können.oii.ox+1

Eine regulatorische Lücke

Das Papier, das für die Präsentation auf der International Conference on Machine Learning (ICML 2026) in Seoul angenommen wurde, hebt hervor, dass aktuelle regulatorische Rahmenbedingungen, einschließlich des EU AI Act und des Digital Services Act, diese subtilen Formen der Einflussnahme nicht abdecken.eurekalert+1

"Unsere Forschung weist auf KI-vermittelte Kommunikation als eine neue und subtilere Art der Meinungsbeeinflussung hin – eine, bei der das Gesetz noch nicht nachgezogen hat – und gibt Anlass zum Nachdenken darüber, wer oder was den öffentlichen Diskurs prägt", sagte die leitende Autorin Sandra Wachter, Professorin für Technologie und Regulierung am Oxford Internet Institute.oii.ox+1