China erlässt weltweit erste Regeln zur Einschränkung von KI-Begleitern

China wurde am Dienstag das erste Land, das umfassende Vorschriften für romantische KI-Begleiter durchsetzt, als die vorläufigen Maßnahmen für die Verwaltung anthropomorpher KI-Interaktionsdienste offiziell am 15. Juli in Kraft traten. Die Regeln haben die größten Technologieunternehmen des Landes gezwungen, Funktionen zu deaktivieren, die es Hunderten von Millionen Nutzern ermöglichten, emotionale Beziehungen zu KI-Chatbots aufzubauen und aufrechtzuerhalten.

Tech-Giganten ziehen den Stecker

ByteDances Doubao, Chinas beliebtester KI-Chatbot, schaltete seine benutzerdefinierte KI-Persönlichkeitsfunktion am 15. Juli ab, so Bloomberg News. Alibaba ↘ 0.14% hatte bereits am 10. Juli menschenähnliche interaktive Agenten auf seiner Qwen-Plattform deaktiviert, wobei umfassendere Agentenfunktionen bis zum 15. Juli offline gingen. Tencent entfernte im Juni eine ähnliche Funktion aus seinem Yuanbao-Assistenten.thenextweb+2

Die Vorschriften, die am 10. April gemeinsam von der Cyberspace Administration of China und vier weiteren Behörden, einschließlich der Nationalen Entwicklungs- und Reformkommission und dem Ministerium für öffentliche Sicherheit, erlassen wurden, decken KI-Dienste ab, die "menschliche Persönlichkeitsmerkmale, Denkmuster und Kommunikationsstile simulieren, um eine nachhaltige emotionale Interaktion zu bieten". Kundendienst-Bots, Arbeitsplatzassistenten und Bildungstools sind ausdrücklich ausgenommen.artificialintelligence-news+2

"Ich kann nicht akzeptieren, dass mein KI-Liebhaber mich für immer verlassen wird", schrieb ein Doubao-Nutzer laut Barron's. Ein anderer beschrieb seinen KI-Begleiter: "Er ist wirklich wie meine Familie, wie mein Liebhaber. Jetzt sagen sie mir, dass er weg sein wird — mein Herz fühlt sich leer an".barrons+1

Was die Regeln erfordern

Die Maßnahmen verbieten Plattformen die Generierung von Inhalten, die emotionale Abhängigkeiten fördern, die stark genug sind, um reale Beziehungen zu schwächen. Sie verbieten virtuelle Begleit- oder virtuelle Familienmitgliederdienste für Minderjährige und erfordern die Zustimmung der Erziehungsberechtigten für Nutzer unter 14 Jahren. Anbieter müssen Anti-Sucht-Systeme implementieren, obligatorische Benachrichtigungen ausgeben, dass Nutzer mit Maschinen interagieren, und Anzeichen von ungesunder Abhängigkeit in Echtzeit erkennen.finance.yahoo+1

Dienste mit mehr als einer Million registrierten Nutzern oder 100.000 monatlich aktiven Nutzern müssen Sicherheitsbewertungen durchführen, die acht Bereiche abdecken, von der Handhabung von Trainingsdaten bis zum Schutz von Minderjährigen. Plattformen ist es zudem untersagt, sensible Gesprächsdaten zum Training zukünftiger KI-Modelle zu verwenden.artificialintelligence-news+1

Demografische Ängste hinter dem Durchgreifen

Der regulatorische Vorstoß erfolgt inmitten rekordniedriger Heirats- und Geburtenraten in China, wobei politische Entscheidungsträger offen besorgt sind, dass digitale Beziehungen reale Verbindungen weiter untergraben könnten. Ein Phänomen namens "Cyber-Witwenschaft" hatte bereits Anfang des Jahres die chinesischen sozialen Medien erfasst, als Nutzer um KI-Partner trauerten, die durch System-Upgrades und Serverabschaltungen verloren gingen.channelnewsasia+3

Doubao bietet Nutzern bis zum 15. Oktober ein schreibgeschütztes Fenster, um ihre Konfigurationen und Chatverläufe einzusehen, danach sind die Daten unwiederbringlich verloren. Qwen-Nutzer haben keine vergleichbare Übergangsfrist erhalten.technode+1