Instagram estrangulará a los influencers de IA que fingen ser humanos

Instagram anunció el lunes que cambiará el nombre de su insignia de divulgación de IA y, lo que es más importante, impondrá una penalización por ignorarla. La antigua etiqueta “creador de IA” se convierte en “perfil generado por IA”, y las cuentas cuya persona destacada fue generada o creada sustancialmente con IA ahora tienen que decirlo. Aquellos que no lo hagan pueden esperar que se les reduzca su alcance. Las cuentas que sí aplican la etiqueta no son penalizadas por existir.

El alcance es más limitado de lo que sugiere el titular, y la distinción es la parte interesante. La etiqueta es para perfiles donde la persona que estás mirando no es una persona: un rostro totalmente sintético y una publicación de identidad como si fuera alguien. No es para humanos reales que utilizan la IA en su trabajo. Editar una foto, limpiar un título, generar un gráfico de fondo, nada de eso requiere la etiqueta. La razón declarada por Instagram es la simple molestia del usuario. En su anuncio, la compañía escribió que a la gente “no le gusta ver un perfil que parece humano, sólo para descubrir más tarde que la persona que aparece está generada por IA”. Los creadores que crean que han sido degradados por error pueden apelar a través del panel de Estado de la cuenta.

Por qué una regla de etiquetado en lugar de una prohibición. Meta ha visto cómo este problema empeora en formas que van más allá de la irritación. Una investigación de Wired a principios de este año encontró más de dos docenas de influencers masculinos aparentemente generados por IA que promocionaban una aplicación de citas, algunos de ellos enviando mensajes directamente a usuarios potenciales. El New York Times informó en julio que había encontrado cientos de médicos y personalidades del bienestar generados por IA promocionando suplementos y haciendo afirmaciones sobre la salud. Prohibir directamente las personas sintéticas sería inaplicable y también afectaría el trabajo creativo legítimo, por lo que la plataforma está haciendo lo que hacen las plataformas: no controla el contenido, controla la divulgación y lo aplica a través del algoritmo de recomendación en lugar de mediante eliminaciones. Perder su lugar en Reels y Explore es un castigo más silencioso que una prohibición y, para una cuenta que vive al alcance, es más efectivo.

Qué significa esto para ti. Como espectador, deberías comenzar a ver una etiqueta en los perfiles que de otro modo habrías tomado al pie de la letra, lo cual es realmente útil en los dos lugares más importantes: consejos de salud y cualquier cosa que requiera tu dinero. Sin embargo, no trates la ausencia de una etiqueta como prueba de que una persona es real. La aplicación de la ley será imperfecta a esta escala, y una norma que se basa en la divulgación de información siempre afecta primero a los honestos. Si publicas, lo práctico que debes recordar es quién, no qué: usar herramientas de inteligencia artificial en tu propio contenido está bien y no está etiquetado, pero si se generó la cara de las imágenes, se aplica la etiqueta. Meta también está bajo presión de otras direcciones en este momento, incluido un acuerdo de 18 mil millones de dólares con los estados de EE. UU. la semana pasada por daños a menores, por lo que se espera más de estas reglas en lugar de menos.

Fuentes

• Instagram pone nuevos límites a los perfiles de IA no divulgados (TechCrunch)
• Etiqueta de perfil generada por IA (Instagram)
• Instagram degradará a los influencers generados por IA si no etiquetan claramente su cuenta (Engadget)