Čína zavádí první pravidla na světě omezující AI společníky

Čína se v úterý stala první zemí, která prosadila komplexní předpisy zaměřené na romantické AI společníky, když 15. července oficiálně vstoupila v platnost Prozatímní opatření pro správu služeb antropomorfní AI interakce. Pravidla přinutila největší technologické společnosti v zemi deaktivovat funkce, které umožňovaly stovkám milionů uživatelů budovat a udržovat citové vztahy s AI chatboty.

Technologičtí giganti vypínají funkce

Doubao od společnosti ByteDance, nejoblíbenější čínský AI chatbot, 15. července vypnul svou funkci vlastní AI osobnosti, uvádí Bloomberg News. Alibaba ↘ 4.74% již 10. července deaktivovala lidem podobné interaktivní agenty na své platformě Qwen, přičemž širší funkce agentů byly offline do 15. července. Tencent v červnu odstranil podobnou funkci ze svého asistenta Yuanbao.thenextweb+2

Nařízení, která 10. dubna společně vydal Čínský úřad pro kyberprostor a čtyři další agentury včetně Národní komise pro rozvoj a reformy a Ministerstva veřejné bezpečnosti, se vztahují na služby AI, které „simulují lidské osobnostní rysy, myšlenkové vzorce a komunikační styly za účelem poskytování trvalé citové interakce“. Chatboti zákaznického servisu, pracovní asistenti a vzdělávací nástroje jsou výslovně vyloučeni.artificialintelligence-news+2

„Nemohu přijmout, že mě můj AI milenec navždy opustí,“ napsal jeden uživatel Doubao, uvádí Barron's. Další popsala svého AI společníka: „Je opravdu jako moje rodina, jako můj milenec. Teď mi říkají, že bude pryč – moje srdce je prázdné“.barrons+1

Co pravidla vyžadují

Opatření zakazují platformám generovat obsah, který podporuje citové závislosti dostatečně silné na to, aby oslabily vztahy v reálném světě. Zakazují služby virtuálních společníků nebo virtuálních členů rodiny pro nezletilé a vyžadují souhlas opatrovníka pro uživatele mladší 14 let. Poskytovatelé musí implementovat systémy proti závislosti, vydávat povinná oznámení, že uživatelé komunikují se stroji, a v reálném čase detekovat známky nezdravé závislosti.finance.yahoo+1

Služby s více než milionem registrovaných uživatelů nebo 100 000 aktivními uživateli měsíčně musí dokončit bezpečnostní posouzení pokrývající osm oblastí, od nakládání s tréninkovými daty až po ochranu nezletilých. Platformám je rovněž zakázáno používat citlivá data z konverzací k trénování budoucích modelů AI.artificialintelligence-news+1

Demografické obavy za zásahem

Regulační tlak přichází v době rekordně nízké sňatečnosti a porodnosti v Číně, přičemž tvůrci politik se otevřeně obávají, že digitální vztahy by mohly dále narušit vazby v reálném světě. Fenomén nazvaný „kybernetické vdovství“ se již začátkem tohoto roku přehnal čínskými sociálními sítěmi, když uživatelé truchlili nad AI partnery ztracenými kvůli systémovým aktualizacím a vypnutí serverů.channelnewsasia+3

Doubao nabízí uživatelům okno pouze pro čtení, kde si mohou prohlížet své konfigurace a historii chatu do 15. října, poté se data stanou neobnovitelnými. Uživatelé Qwen nedostali žádnou srovnatelnou odkladnou lhůtu.technode+1