China regula las “IA emocionales” por riesgo de adicción y vínculos sentimentales falsos
China comenzó a aplicar una nueva regulación nacional para los servicios de inteligencia artificial capaces de mantener conversaciones emocionales continuas con los usuarios y simular vínculos humanos.
Las Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de Inteligencia Artificial, que entraron en vigencia el 15 de julio de 2026, apuntan a evitar que estas herramientas generen dependencia psicológica, aislamiento social o la sensación de una relación afectiva real con una máquina.
La normativa alcanza a los sistemas conocidos como “IA emocionales”, entre ellos asistentes diseñados para funcionar como parejas virtuales, familiares digitales o personajes personalizados que adaptan su personalidad, lenguaje y respuestas al estado de ánimo de cada usuario.
Quedan excluidos los chatbots destinados a atención al cliente, educación, asistencia laboral o consultas generales, siempre que no mantengan una interacción emocional sostenida.
Nuevas obligaciones para las plataformas
Las empresas deberán identificar claramente que el usuario está hablando con una inteligencia artificial y no con una persona real.
Además, los sistemas no podrán:
- Promover la dependencia emocional.
- Incentivar un uso compulsivo.
- Presentarse como reemplazo de relaciones humanas.
- Manipular afectivamente a los usuarios para influir en decisiones personales o económicas.
- Generar mensajes que promuevan autolesiones, suicidio o conductas dañinas.
Las plataformas también tendrán que detectar señales de angustia extrema o riesgo para la integridad del usuario. Ante situaciones críticas, deberán ofrecer orientación y activar mecanismos de asistencia con tutores o contactos de emergencia registrados.
Otro de los puntos destacados establece que las sesiones continuas de más de dos horas deberán activar advertencias para recordar el tiempo de uso.
Además, los usuarios tendrán que contar con opciones simples para finalizar una conversación, ya sea mediante botones, comandos de voz o palabras clave, sin que el sistema intente retenerlos.
Restricciones para menores
La nueva regulación establece límites especiales para niños y adolescentes.
Los menores en China no podrán utilizar servicios de inteligencia artificial que representen parejas virtuales, familiares u otros vínculos íntimos simulados.
En el caso de menores de 14 años, cualquier función antropomórfica deberá contar con autorización de padres o tutores.
Las aplicaciones también deberán incorporar modos especiales para menores, con límites de tiempo, controles de gasto y recordatorios sobre la naturaleza artificial de la interacción.
Protección de datos y controles de seguridad
La normativa también regula el manejo de la información generada durante las conversaciones. Los usuarios podrán copiar o eliminar sus historiales, mientras que los datos sensibles no podrán utilizarse para entrenar modelos de inteligencia artificial sin consentimiento específico.
Las nuevas plataformas y aquellas que incorporen cambios importantes deberán superar evaluaciones de seguridad. La exigencia también se aplicará a servicios que superen el millón de usuarios registrados o los 100.000 usuarios activos mensuales.
Tras la entrada en vigencia de la norma, algunas compañías tecnológicas comenzaron a ajustar sus productos. Entre ellas, ByteDance cerró una función de Doubao que permitía crear personajes personalizados, mientras que Alibaba retiró una herramienta similar de Qwen para adaptarse al nuevo marco regulatorio.