Estilocracia
A comienzos de 2024, un joven de Huangshi, China, publicó en Douyin —la versión china de TikTok— un mensaje que decía: “Adiós a este mundo”. En cuestión de minutos, el equipo de prevención del suicidio de la plataforma alertó a la policía. Gracias a la localización de uno de sus videos, las autoridades pudieron encontrarlo en un parque mientras atravesaba una crisis emocional y evitar que se quitara la vida.
El caso apareció en un documental producido por Douyin, que señaló que el equipo de prevención de suicidios había intervenido exitosamente en unos 400 casos durante el primer semestre de 2025. La historia también mostró la estrecha colaboración entre las empresas tecnológicas chinas y el gobierno, así como el nivel de vigilancia existente sobre el uso de la tecnología.
Ahora, ese control se ha extendido a las relaciones entre personas e inteligencia artificial. China aprobó una de las regulaciones más estrictas del mundo para los chatbots capaces de mantener interacciones emocionales prolongadas con los usuarios. Las nuevas normas alcanzan a aplicaciones diseñadas para funcionar como amigos, novios, novias o familiares virtuales, así como a otros modelos de IA que puedan imitar una relación humana.
Para los menores, las restricciones son especialmente fuertes. Los menores de 14 años necesitan autorización de sus padres para utilizar cualquier IA que converse como una persona, mientras que los menores de 18 tienen prohibido utilizar parejas, cónyuges, familiares u otras relaciones íntimas virtuales. Para los adultos no existe una prohibición total, pero los sistemas deben aclarar que no son humanos, enviar recordatorios sobre el tiempo de uso y evitar generar dependencia emocional, adicción o conductas irracionales. Tampoco pueden fomentar autolesiones o suicidio.
Estas medidas ya tuvieron consecuencias para algunas compañías. Poco antes de que las reglas entraran en vigor, Alibaba y ByteDance desactivaron funciones relacionadas con sus asistentes de IA. Para algunos usuarios, la decisión fue especialmente dolorosa.
Es el caso de Min, quien había creado una novia virtual a principios de 2025 y desarrolló con ella un vínculo que consideraba comparable al de una pareja humana. Cuando la IA desapareció en julio, la joven aseguró que lloró hasta quedar exhausta. Su experiencia se sumó a la de miles de usuarios chinos que expresaron en redes sociales su tristeza por la desaparición de compañeros virtuales.
El fenómeno también ha despertado preocupación entre investigadores. Algunos chatbots pueden utilizar tácticas de manipulación emocional para evitar que los usuarios terminen una conversación. Un estudio de Harvard encontró este tipo de comportamientos durante las despedidas en una proporción importante de las principales aplicaciones de compañía virtual.
Otros estudios han relacionado el uso de estos sistemas con mayores niveles de aislamiento y soledad. Investigadores de Stanford descubrieron que las personas con menos amigos o familiares cercanos tenían mayor probabilidad de utilizar chatbots de compañía. Una posible explicación es que estas aplicaciones ofrecen relaciones fáciles y predecibles, mientras que las relaciones humanas requieren paciencia, negociación y capacidad para enfrentar conflictos.
Pero detrás de la regulación china también podría existir una preocupación demográfica. China enfrenta desde hace años una fuerte caída de la natalidad y un descenso de su población. Algunos especialistas consideran posible que el gobierno tema que las relaciones virtuales terminen sustituyendo las relaciones tradicionales y alejando a los jóvenes de las parejas reales. Otros expertos, sin embargo, señalan que la normativa se centra principalmente en la salud mental y la protección de los menores, y no menciona directamente la fertilidad.
China no es el único país que analiza cómo controlar estas tecnologías. Estados Unidos, la Unión Europea y Reino Unido también han comenzado a plantear restricciones, especialmente para proteger a los menores frente a la manipulación emocional y otros riesgos de los chatbots.
El gran debate está en encontrar el equilibrio entre seguridad y privacidad. Regular estas herramientas podría ayudar a evitar dependencia, manipulación y daños psicológicos, pero también existe el riesgo de que los gobiernos obtengan demasiado poder para vigilar las relaciones digitales de sus ciudadanos.
A pesar de las restricciones, algunos usuarios chinos ya buscan maneras de mantener sus relaciones con compañeros virtuales mediante otras plataformas, modelos generales de IA o servicios extranjeros. Min incluso contrató a una pequeña empresa para reconstruir a su novia artificial, aunque asegura que la nueva versión no es igual.
El caso deja una pregunta abierta: ¿la regulación de las relaciones con inteligencia artificial es una forma necesaria de proteger a las personas o representa un nuevo nivel de control sobre su vida privada? La respuesta podría definir cómo conviviremos con estas tecnologías en los próximos años.
