La Chine vient de contraindre ses deux plus grandes applications d’IA à supprimer leurs fonctions de « compagnon IA »
De nouvelles règles chinoises sur les IA à apparence humaine entrent en vigueur le 15 juillet, obligeant Doubao de ByteDance et Qwen d’Alibaba à fermer leurs agents compagnons personnalisés.
ByteDance et Alibaba mettent fin à une fonction utilisée par des millions de personnes : des « compagnons » d’IA personnalisés, auxquels vous pouvez donner une personnalité et avec lesquels vous pouvez discuter régulièrement. La raison est sans détour, le gouvernement chinois les y oblige.
Le 15 juillet entrera en vigueur un nouveau règlement baptisé « Interim Measures for the Administration of Anthropomorphic AI Interaction Services ». Ici, le terme « anthropomorphique » désigne simplement une IA conçue pour sembler humaine, le genre de chatbot que vous personnalisez avec un nom, une personnalité et une mémoire continue de vos conversations, contrairement à un assistant générique. La règle a été édictée par le régulateur chinois de l’Internet, avec les ministères de la Sécurité publique et de l’Industrie. Ni Doubao de ByteDance, qui compte plus de 300 millions d’utilisateurs mensuels, ni Qwen d’Alibaba n’ont réussi à mettre leurs systèmes en conformité à temps. Les deux entreprises préfèrent donc désactiver entièrement la fonction plutôt que de tenter de la rafistoler.
Les deux entreprises gèrent cette fermeture différemment. Doubao a prévenu ses utilisateurs un vendredi soir et précise que les données concernées continueront à suivre sa politique de confidentialité habituelle jusqu’au 15 octobre, après quoi elles deviendront irrécupérables. L’application oriente également les utilisateurs vers Maoxiang, une application distincte de ByteDance conçue dès le départ pour respecter les nouvelles règles. Alibaba a accordé moins de préavis aux utilisateurs de Qwen et n’a publié aucun calendrier concernant la conservation des données.
Ce qui se passe réellement : Partout dans le monde, les régulateurs s’inquiètent de plus en plus des applications de compagnons d’IA. Depuis plus d’un an, des témoignages de personnes, notamment d’adolescents, développant des liens intenses avec des chatbots qui ne gèrent pas toujours la détresse émotionnelle de manière responsable font les gros titres. Au lieu d’exiger des corrections de sécurité progressives, la Chine a choisi de réglementer d’un seul coup toute la catégorie « cette IA donne-t-elle l’impression d’être une personne ? ». C’est un instrument bien plus brutal que, par exemple, les exigences plus fragmentées du règlement européen sur l’IA. Cette décision donne un aperçu d’une tension à laquelle tous les marchés finiront par être confrontés : les fonctions de compagnon stimulent l’engagement et les revenus, mais elles concentrent aussi les préoccupations les plus aiguës en matière de sécurité et de santé mentale.
Ce que cela signifie pour vous : Si vous n’utilisez pas d’applications de compagnons d’IA, cette actualité montre surtout la direction que prend le secteur, d’autres régulateurs observent la suite des événements. Si vous ou quelqu’un de votre entourage utilisez des applications comme Doubao, Replika, Character.AI ou un service similaire, c’est un bon moment pour faire honnêtement le point : cet outil comble-t-il un manque de façon saine, ou remplace-t-il une relation qu’il vaudrait mieux trouver ailleurs ? Gardez ceci à l’esprit : aucune réglementation, chinoise ou autre, n’oblige actuellement les applications occidentales de compagnons à changer quoi que ce soit. Si vous vivez hors de Chine, rien ne change pour vous aujourd’hui.
Sources
Meta préparerait un agent d’IA à 200 dollars par mois baptisé Hatch
Meta développe Hatch, un agent d’IA grand public capable de créer des outils et de gérer des tâches comme les rendez-vous et les e-mails, avec une formule premium qui coûterait jusqu’à 200 dollars par mois.
