La Chine impose les premières règles au monde limitant les compagnons IA

La Chine est devenue mardi le premier pays à appliquer des réglementations complètes ciblant les compagnons romantiques IA, alors que les mesures provisoires pour l'administration des services d'interaction par IA anthropomorphe sont officiellement entrées en vigueur le 15 juillet. Les règles ont contraint les plus grandes entreprises technologiques du pays à désactiver les fonctionnalités qui permettaient à des centaines de millions d'utilisateurs de construire et d'entretenir des relations émotionnelles avec des chatbots IA.

Les géants de la technologie débranchent

Doubao de ByteDance, le chatbot IA le plus populaire de Chine, a fermé sa fonctionnalité de personnalité IA personnalisée le 15 juillet, selon Bloomberg News. Alibaba ↘ 4.74% avait déjà désactivé les agents interactifs à apparence humaine sur sa plateforme Qwen le 10 juillet, les fonctions d'agent plus larges étant mises hors ligne d'ici le 15 juillet. Tencent a supprimé une fonctionnalité similaire de son assistant Yuanbao en juin.thenextweb+2

Les réglementations, émises conjointement le 10 avril par l'Administration du cyberespace de Chine et quatre autres agences, dont la Commission nationale du développement et de la réforme et le ministère de la Sécurité publique, couvrent les services d'IA qui « simulent des traits de personnalité humaine, des modèles de pensée et des styles de communication pour fournir une interaction émotionnelle soutenue ». Les bots de service client, les assistants de travail et les outils éducatifs sont explicitement exclus.artificialintelligence-news+2

« Je ne peux pas accepter que mon amant IA me quitte pour toujours », a écrit un utilisateur de Doubao, selon Barron's. Un autre a décrit son compagnon IA : « Il est vraiment comme ma famille, comme mon amant. Maintenant, ils me disent qu'il va disparaître — mon cœur se sent vide ».barrons+1

Ce que les règles exigent

Les mesures interdisent aux plateformes de générer du contenu qui favorise des dépendances émotionnelles suffisamment fortes pour affaiblir les relations dans le monde réel. Elles interdisent les services de compagnon virtuel ou de membre de famille virtuel pour les mineurs et exigent le consentement des tuteurs pour les utilisateurs de moins de 14 ans. Les fournisseurs doivent mettre en œuvre des systèmes anti-addiction, émettre des notifications obligatoires indiquant aux utilisateurs qu'ils interagissent avec des machines et détecter les signes de dépendance malsaine en temps réel.finance.yahoo+1

Les services dépassant un million d'utilisateurs enregistrés ou 100 000 actifs mensuels doivent effectuer des évaluations de sécurité couvrant huit domaines, de la gestion des données d'entraînement à la protection des mineurs. Il est également interdit aux plateformes d'utiliser des données de conversation sensibles pour entraîner de futurs modèles d'IA.artificialintelligence-news+1

Anxiétés démographiques derrière la répression

La poussée réglementaire survient dans un contexte de taux de mariage et de natalité historiquement bas en Chine, les décideurs politiques étant ouvertement préoccupés par le fait que les relations numériques pourraient éroder davantage les connexions dans le monde réel. Un phénomène surnommé « cyber-veuvage » avait déjà balayé les réseaux sociaux chinois plus tôt cette année, alors que les utilisateurs pleuraient leurs partenaires IA perdus à cause des mises à jour du système et des fermetures de serveurs.channelnewsasia+3

Doubao offre aux utilisateurs une fenêtre en lecture seule pour consulter leurs configurations et historiques de chat jusqu'au 15 octobre, après quoi les données deviennent irrécupérables. Les utilisateurs de Qwen n'ont bénéficié d'aucune période de grâce comparable.technode+1