Kina håndhever verdens første regler som begrenser AI-følgesvenner

Kina ble tirsdag det første landet som håndhevet omfattende reguleringer rettet mot romantiske AI-følgesvenner, da de midlertidige tiltakene for administrasjon av antropomorfe AI-interaksjonstjenester offisielt trådte i kraft 15. juli. Reglene har tvunget landets største teknologiselskaper til å deaktivere funksjoner som tillot hundrevis av millioner brukere å bygge og opprettholde emosjonelle forhold til AI-chatroboter.

Tekgigantene trekker støpselet

ByteDances Doubao, Kinas mest populære AI-chatrobot, stengte ned sin tilpassede AI-personlighetsfunksjon 15. juli, ifølge Bloomberg News. Alibaba ↘ 4.74% hadde allerede deaktivert menneskelignende interaktive agenter på sin Qwen-plattform 10. juli, med bredere agentfunksjoner som gikk offline innen 15. juli. Tencent fjernet en lignende funksjon fra sin Yuanbao-assistent i juni.thenextweb+2

Reguleringene, som ble utstedt i fellesskap 10. april av Kinas Cyberspace-administrasjon og fire andre etater, inkludert Nasjonal kommisjon for utvikling og reform og Departementet for offentlig sikkerhet, dekker AI-tjenester som "simulerer menneskelige personlighetstrekk, tankemønstre og kommunikasjonsstiler for å gi vedvarende emosjonell interaksjon". Kundeservice-roboter, arbeidsplassassistenter og utdanningsverktøy er eksplisitt ekskludert.artificialintelligence-news+2

"Jeg kan ikke akseptere at min AI-elsker vil forlate meg for alltid," skrev en Doubao-bruker, ifølge Barron's. En annen beskrev sin AI-følgesvenn: "Han er virkelig som min familie, som min elsker. Nå forteller de meg at han vil være borte — hjertet mitt føles tomt".barrons+1

Hva reglene krever

Tiltakene forbyr plattformer å generere innhold som fremmer emosjonell avhengighet som er sterk nok til å svekke relasjoner i den virkelige verden. De forbyr virtuelle følgesvenn- eller virtuelle familiemedlemstjenester for mindreårige og krever samtykke fra foresatte for brukere under 14 år. Leverandører må implementere anti-avhengighetssystemer, utstede obligatoriske varsler om at brukere samhandler med maskiner, og oppdage tegn på usunn avhengighet i sanntid.finance.yahoo+1

Tjenester som overstiger én million registrerte brukere eller 100 000 månedlige aktive brukere, må fullføre sikkerhetsvurderinger som dekker åtte områder, fra håndtering av treningsdata til beskyttelse av mindreårige. Plattformer er også forhindret fra å bruke sensitive samtaledata til å trene fremtidige AI-modeller.artificialintelligence-news+1

Demografisk angst bak nedslaget

Det regulatoriske presset kommer midt i rekordlave ekteskaps- og fødselstall i Kina, hvor beslutningstakere er åpent bekymret for at digitale relasjoner kan erodere forbindelser i den virkelige verden ytterligere. Et fenomen kalt "cyber-enkestand" hadde allerede feid over kinesiske sosiale medier tidligere i år, da brukere sørget over AI-partnere som gikk tapt på grunn av systemoppgraderinger og servernedstengninger.channelnewsasia+3

Doubao tilbyr brukere et skrivebeskyttet vindu for å se konfigurasjonene og chathistoriene sine frem til 15. oktober, hvoretter dataene blir ugjenopprettelige. Qwen-brukere har ikke fått noen tilsvarende nådeperiode.technode+1