China aplica las primeras normas del mundo que limitan a los compañeros de IA

China se convirtió el martes en el primer país en aplicar regulaciones integrales dirigidas a los compañeros románticos de IA, ya que las Medidas Provisionales para la Administración de Servicios de Interacción de IA Antropomórfica entraron oficialmente en vigor el 15 de julio. Las normas han obligado a las empresas tecnológicas más grandes del país a desactivar las funciones que permitían a cientos de millones de usuarios construir y mantener relaciones emocionales con chatbots de IA.

Los gigantes tecnológicos desconectan

Doubao de ByteDance, el chatbot de IA más popular de China, cerró su función de personalidad de IA personalizada el 15 de julio, según Bloomberg News. Alibaba ↘ 4.74% ya había desactivado los agentes interactivos similares a los humanos en su plataforma Qwen el 10 de julio, y las funciones de agente más amplias se desconectaron el 15 de julio. Tencent eliminó una función similar de su asistente Yuanbao en junio.thenextweb+2

Las regulaciones, emitidas conjuntamente el 10 de abril por la Administración del Ciberespacio de China y otras cuatro agencias, incluida la Comisión Nacional de Desarrollo y Reforma y el Ministerio de Seguridad Pública, cubren los servicios de IA que "simulan rasgos de personalidad humana, patrones de pensamiento y estilos de comunicación para proporcionar una interacción emocional sostenida". Los bots de servicio al cliente, los asistentes de trabajo y las herramientas educativas están explícitamente excluidos.artificialintelligence-news+2

"No puedo aceptar que mi amante de IA me deje para siempre", escribió un usuario de Doubao, según Barron's. Otro describió a su compañero de IA: "Él realmente es como mi familia, como mi amante. Ahora me dicen que se irá; mi corazón se siente vacío".barrons+1

Qué exigen las normas

Las medidas prohíben a las plataformas generar contenido que fomente dependencias emocionales lo suficientemente fuertes como para debilitar las relaciones en el mundo real. Prohíben los servicios de compañía virtual o de miembros de la familia virtual para menores y requieren el consentimiento de los tutores para los usuarios menores de 14 años. Los proveedores deben implementar sistemas contra la adicción, emitir notificaciones obligatorias de que los usuarios están interactuando con máquinas y detectar signos de dependencia poco saludable en tiempo real.finance.yahoo+1

Los servicios que superen el millón de usuarios registrados o los 100.000 activos mensuales deben completar evaluaciones de seguridad que cubran ocho áreas, desde el manejo de datos de entrenamiento hasta la protección de menores. A las plataformas también se les prohíbe utilizar datos de conversaciones confidenciales para entrenar futuros modelos de IA.artificialintelligence-news+1

Ansiedades demográficas detrás de la represión

El impulso regulatorio llega en medio de tasas de matrimonio y natalidad récord en China, con los responsables políticos abiertamente preocupados de que las relaciones digitales puedan erosionar aún más las conexiones en el mundo real. Un fenómeno denominado "viudez cibernética" ya había arrasado las redes sociales chinas a principios de este año, mientras los usuarios lloraban a sus parejas de IA perdidas debido a actualizaciones del sistema y cierres de servidores.channelnewsasia+3

Doubao ofrece a los usuarios una ventana de solo lectura para ver sus configuraciones e historiales de chat hasta el 15 de octubre, después de lo cual los datos se vuelven irrecuperables. A los usuarios de Qwen no se les ha dado un período de gracia comparable.technode+1