Les nouvelles règles chinoises sur les compagnons IA viennent d’entrer en vigueur. Voici ce qu’elles changent
De nouvelles règles chinoises sur les applications de « compagnons » IA sont entrées en vigueur la semaine dernière. Elles interdisent les chatbots romantiques pour les mineurs et imposent des garde-fous contre la dépendance. Voici ce qui change et pourquoi le monde les observe.
Un ensemble de règles chinoises encadrant les applications de « compagnons » IA, ces chatbots auxquels on parle d’amitié, de réconfort ou de romance, est entré en vigueur la semaine dernière, le 15 juillet. Ces mesures comptent parmi les premières au monde à viser directement ce secteur de l’IA en pleine croissance. Leurs effets ont été immédiats : plusieurs grands fournisseurs, dont Doubao de ByteDance et Qwen d’Alibaba, ont simplement désactivé leurs fonctions de compagnon plutôt que de les reconstruire.
Les règles, publiées plus tôt cette année par le régulateur chinois de l’Internet et quatre autres organismes, fixent des limites précises. Les mineurs n’ont plus accès aux partenaires romantiques virtuels ni aux autres formes d’« intimité virtuelle ». Les services destinés aux moins de 14 ans doivent obtenir le consentement explicite d’un responsable légal et ajouter des outils de supervision, comme des plafonds de dépenses et de temps. Pour tous les utilisateurs, les fournisseurs doivent intégrer des garde-fous contre la dépendance : rappels de faire des pauses, limites à la quantité de « mémoire » émotionnelle conservée sur vous et surveillance destinée à détecter les signes de détresse. Les applications ne peuvent pas non plus produire de contenus encourageant l’automutilation, ni manipuler émotionnellement les utilisateurs pour les pousser vers des décisions qu’ils n’auraient pas prises autrement. Les entreprises avaient environ trois mois pour se mettre en conformité, et beaucoup ont jugé que la refonte n’en valait pas la peine.
Alors, que se passe-t-il vraiment ? Les applications de compagnons sont devenues énormes presque sans bruit. Elles sont conçues pour donner une impression de proximité et vous faire revenir, ce qui les rend précisément difficiles à encadrer. Un outil pensé comme un confident disponible à toute heure peut aussi devenir quelque chose dont on dépend trop, et cette inquiétude est particulièrement forte chez les adolescents. L’approche chinoise est exceptionnellement stricte et liée aux priorités sociales du gouvernement ; tous les pays ne la copieront donc pas. Mais les questions de fond sont universelles : jusqu’où une IA doit-elle pouvoir s’attacher à un enfant, et que doit une entreprise à quelqu’un qui s’attache à un chatbot ? Les régulateurs européens et américains se posent des questions similaires.
Ce que cela signifie pour vous : Si vous êtes en dehors de la Chine, rien ne change aujourd’hui pour les applications que vous utilisez. Il est toutefois utile de savoir que les « compagnons IA » sont désormais une catégorie assez sérieuse pour être réglementée, et que les inquiétudes derrière ces règles concernent tout produit conçu pour créer un attachement émotionnel. Si vous, ou un jeune de votre entourage, utilisez un chatbot pour avoir de la compagnie, les bonnes habitudes sont celles que ces règles cherchent à imposer : surveiller le temps qu’il vous prend, se rappeler qu’il s’agit d’un produit avec un modèle économique et le considérer comme un complément aux relations réelles, pas comme un remplacement.
Ce texte aborde la santé mentale et la dépendance. Si certains éléments vous touchent de près, parler à une personne de confiance ou à un professionnel vaut toujours mieux que n’importe quelle application.
Sources
DeepSeek V4 devient pleinement stable, les anciens modèles s’arrêtent aujourd’hui
Le V4 de DeepSeek passe de la préversion à la production et ses anciens modèles de chat sont retirés aujourd’hui. L’enjeu plus large est le seuil de prix qu’il impose à tous les autres.
