Las nuevas normas de China para los compañeros de IA ya están en vigor. Esto es lo que hacen
La semana pasada entraron en vigor nuevas normas chinas sobre las aplicaciones de “compañeros” de IA: prohíben los chatbots románticos para menores y obligan a incluir protecciones contra la dependencia. Un vistazo a los cambios y a por qué se observan en todo el mundo.
La semana pasada, el 15 de julio, entró en vigor un conjunto de normas chinas sobre las aplicaciones de “compañeros” de IA, los chatbots con los que la gente habla de amistad, consuelo o romance. Son de las primeras medidas en cualquier lugar dirigidas específicamente a este sector de la IA, que crece con rapidez, y sus efectos fueron inmediatos: varios grandes proveedores, entre ellos Doubao, de ByteDance, y Qwen, de Alibaba, apagaron sus funciones de compañía en vez de reconstruirlas.
Las normas, publicadas a principios de año por el regulador de internet chino y otros cuatro organismos, establecen límites claros. Los menores no pueden utilizar parejas románticas virtuales ni otras formas de “intimidad virtual”. Los servicios dirigidos a menores de 14 años necesitan el consentimiento explícito de un tutor y deben añadir herramientas de supervisión como límites de gasto y de tiempo. Para todos, los proveedores tienen que incorporar protecciones contra la dependencia: recordatorios para descansar, límites sobre cuánta “memoria” emocional conserva la aplicación sobre ti y sistemas de vigilancia para detectar señales de angustia. Las aplicaciones tampoco pueden producir contenidos que fomenten las autolesiones ni utilizar la manipulación emocional para empujar a las personas a tomar decisiones que de otro modo no tomarían. Las empresas tuvieron aproximadamente tres meses para cumplir y muchas decidieron que no merecía la pena rediseñarlas.
Entonces, ¿qué está pasando realmente? Las aplicaciones de compañía se han vuelto enormes casi sin hacer ruido y están diseñadas deliberadamente para parecer cercanas y conseguir que vuelvas, justo lo que las hace complicadas. Una herramienta pensada para ser un confidente siempre disponible también puede convertirse en algo en lo que te apoyes demasiado, y esa preocupación es especialmente intensa con los adolescentes. El enfoque chino es inusualmente estricto y está ligado a las prioridades sociales del Gobierno, así que no todos los países lo copiarán. Pero las preguntas de fondo se aplican en todas partes: ¿cuánto debería permitirse que una IA conecte con un menor y qué le debe una empresa a alguien que se está encariñando con un chatbot? Los reguladores de Europa y Estados Unidos se plantean versiones de la misma cuestión.
Qué significa esto para ti: Si estás fuera de China, hoy no cambia nada para las aplicaciones que utilizas. Pero conviene saber que “compañero de IA” ya es una categoría lo bastante seria como para regularse, y que las preocupaciones que hay detrás de estas normas se aplican a cualquier producto diseñado para crear un vínculo emocional. Si tú o alguien más joven de tu entorno utiliza un chatbot para sentirse acompañado, los hábitos sensatos son los que estas normas intentan imponer: vigila cuánto tiempo consume, recuerda que es un producto con un modelo de negocio y considéralo un complemento de las relaciones reales, no un sustituto.
Este artículo trata sobre salud mental y dependencia. Si algo de lo que cuenta te resulta cercano, hablar con una persona de confianza o con un profesional siempre merece más la pena que cualquier aplicación.
Fuentes
DeepSeek V4 ya es totalmente estable y los modelos antiguos se apagan hoy
El V4 de DeepSeek pasa de la vista previa a producción y sus antiguos modelos de chat se retiran hoy. La historia más importante es el suelo de precios que establece para los demás.
