Instagram va étouffer les influenceurs IA qui prétendent être humains

Instagram a annoncé lundi qu’il renommerait son badge de divulgation de l’IA et, plus important encore, qu’il imposerait une pénalité en cas d’ignorance. L’ancienne étiquette « Créateur d’IA » devient « Profil généré par l’IA », et les comptes dont la personne présentée a été générée ou créée en grande partie avec l’IA doivent désormais le dire. Ceux qui ne le font pas peuvent s’attendre à une réduction de leur portée. Les comptes qui appliquent le label ne sont pas pénalisés pour leur existence.

La portée est plus étroite que ne le suggère le titre, et la distinction est la partie intéressante. Le label est destiné aux profils où la personne que vous regardez n’est pas une personne : un visage entièrement synthétique et une identité affichée comme s’il s’agissait de quelqu’un. Ce n’est pas pour les vrais humains qui utilisent l’IA dans leur travail. Modifier une photo, nettoyer une légende, générer un graphique d’arrière-plan, rien de tout cela ne nécessite l’étiquette. La raison invoquée par Instagram est la simple gêne des utilisateurs. Dans son annonce, la société a écrit que les gens “n’aiment pas voir un profil qui semble humain, pour découvrir plus tard que la personne présentée est générée par l’IA”. Les créateurs qui pensent avoir été rétrogradés à tort peuvent faire appel via le tableau de bord État du compte.

Pourquoi une règle d’étiquetage au lieu d’une interdiction. Meta a vu ce problème s’aggraver d’une manière qui va au-delà de l’irritation. Une enquête de Wired menée plus tôt cette année a révélé que plus de deux douzaines d’influenceurs masculins, apparemment générés par l’IA, faisaient la promotion d’une application de rencontres, certains d’entre eux envoyant directement des messages aux utilisateurs potentiels. Le New York Times a rapporté en juillet qu’il avait trouvé des centaines de médecins et de personnalités du bien-être générés par l’IA proposant des suppléments et faisant des allégations de santé. Interdire purement et simplement les personnages synthétiques serait inapplicable et empêcherait également le travail créatif légitime, de sorte que la plate-forme fait ce que font les plates-formes : elle ne contrôle pas le contenu, elle contrôle la divulgation et l’applique via l’algorithme de recommandation plutôt que par le biais de suppressions. Perdre votre place dans Reels and Explore est une punition plus discrète qu’une interdiction, et pour un compte qui vit à portée de main, une punition plus efficace.

Ce que cela signifie pour vous. En tant que spectateur, vous devriez commencer à voir une étiquette sur les profils que vous auriez autrement pu prendre pour argent comptant, ce qui est véritablement utile dans les deux endroits qui comptent le plus, les conseils de santé et tout ce qui veut votre argent. Ne considérez cependant pas l’absence d’étiquette comme une preuve qu’une personne est réelle. L’application sera imparfaite à cette échelle, et une règle qui repose sur la divulgation personnelle attrape toujours l’honnête en premier. Si vous publiez, la ligne pratique à retenir est qui, et non quoi : utiliser des outils d’IA sur votre propre contenu est une bonne chose et sans étiquette, mais si le visage sur les images a été généré, l’étiquette s’applique. Meta est également sous pression d’autres directions en ce moment, y compris un règlement de 18 milliards de dollars avec les États américains la semaine dernière concernant les préjudices causés aux mineurs, alors attendez-vous à plus de ces règles plutôt qu’à moins.

Sources

• Instagram impose de nouvelles limites aux profils IA non divulgués (TechCrunch)
• Étiquette de profil générée par l’IA (Instagram)
• Instagram rétrogradera les influenceurs générés par l’IA s’ils n’identifient pas clairement leur compte (Engadget)