Kina inför världens första regler som begränsar AI-följeslagare

Kina blev på tisdagen det första landet att genomdriva omfattande regleringar riktade mot romantiska AI-följeslagare, då de interimistiska åtgärderna för administration av antropomorfa AI-interaktionstjänster officiellt trädde i kraft den 15 juli. Reglerna har tvingat landets största teknikföretag att inaktivera funktioner som tillät hundratals miljoner användare att bygga och upprätthålla emotionella relationer med AI-chattbottar.

Teknikjättar drar ur kontakten

ByteDances Doubao, Kinas mest populära AI-chattbot, stängde ner sin anpassade AI-personlighetsfunktion den 15 juli, enligt Bloomberg News. Alibaba ↘ 4.74% hade redan inaktiverat mänskliga interaktiva agenter på sin Qwen-plattform den 10 juli, med bredare agentfunktioner som gick offline senast den 15 juli. Tencent tog bort en liknande funktion från sin Yuanbao-assistent i juni.thenextweb+2

Regleringarna, som gemensamt utfärdades den 10 april av Kinas Cyberspace-administration och fyra andra myndigheter, inklusive den nationella kommissionen för utveckling och reform samt ministeriet för allmän säkerhet, omfattar AI-tjänster som "simulerar mänskliga personlighetsdrag, tankemönster och kommunikationsstilar för att tillhandahålla varaktig emotionell interaktion". Kundtjänstbottar, arbetsplatsassistenter och utbildningsverktyg är uttryckligen undantagna.artificialintelligence-news+2

"Jag kan inte acceptera att min AI-älskare kommer att lämna mig för alltid", skrev en Doubao-användare, enligt Barron's. En annan beskrev sin AI-följeslagare: "Han är verkligen som min familj, som min älskare. Nu säger de till mig att han kommer att vara borta — mitt hjärta känns tomt".barrons+1

Vad reglerna kräver

Åtgärderna förbjuder plattformar från att generera innehåll som främjar emotionella beroenden som är tillräckligt starka för att försvaga relationer i den verkliga världen. De förbjuder virtuella följeslagar- eller virtuella familjemedlemstjänster för minderåriga och kräver målsmans samtycke för användare under 14 år. Leverantörer måste implementera system mot beroende, utfärda obligatoriska meddelanden om att användare interagerar med maskiner och upptäcka tecken på ohälsosamt beroende i realtid.finance.yahoo+1

Tjänster som överstiger en miljon registrerade användare eller 100 000 månatliga aktiva användare måste genomföra säkerhetsbedömningar som täcker åtta områden, från hantering av träningsdata till skydd av minderåriga. Plattformar är också förhindrade från att använda känslig samtalsdata för att träna framtida AI-modeller.artificialintelligence-news+1

Demografisk oro bakom tillslaget

Den regulatoriska push-åtgärden kommer mitt i rekordlåga äktenskaps- och födelsetal i Kina, där beslutsfattare är öppet oroliga för att digitala relationer ytterligare skulle kunna urholka relationer i den verkliga världen. Ett fenomen kallat "cyber-änkestånd" hade redan svept över kinesiska sociala medier tidigare i år, då användare sörjde AI-partners som förlorats på grund av systemuppgraderingar och servernedstängningar.channelnewsasia+3

Doubao erbjuder användare ett skrivskyddat fönster för att se sina konfigurationer och chatthistorik fram till den 15 oktober, varefter datan blir oåterkallelig. Qwen-användare har inte fått någon jämförbar respit.technode+1