Instagram wird KI-Influencer drosseln, die vorgeben, Menschen zu sein

Instagram gab am Montag bekannt, dass es sein KI-Offenlegungszeichen umbenennt und, was noch wichtiger ist, das Ignorieren mit einer Strafe verhängt. Die alte Bezeichnung „KI-Ersteller“ wird zu „KI-generiertes Profil“, und Konten, deren vorgestellte Person mit KI generiert oder im Wesentlichen erstellt wurde, müssen dies jetzt angeben. Diejenigen, die dies nicht tun, müssen mit einer Reduzierung ihrer Reichweite rechnen. Konten, die das Label anwenden, werden nicht bestraft.

Der Umfang ist enger, als die Überschrift vermuten lässt, und die Unterscheidung ist der interessante Teil. Die Bezeichnung gilt für Profile, bei denen die Person, die Sie ansehen, keine Person ist: ein völlig synthetisches Gesicht und Identitätsposting, als wäre es jemand. Es ist nichts für echte Menschen, die KI bei ihrer Arbeit einsetzen. Ein Foto bearbeiten, eine Bildunterschrift bereinigen, eine Hintergrundgrafik erstellen, für all das ist keine Beschriftung erforderlich. Der von Instagram angegebene Grund ist schlichte Belästigung der Nutzer. In seiner Ankündigung schrieb das Unternehmen, dass es den Menschen „nicht gefällt, ein Profil zu sehen, das menschlich erscheint, nur um später herauszufinden, dass die abgebildete Person KI-generiert ist.“ Ersteller, die der Meinung sind, dass sie zu Unrecht herabgestuft wurden, können über das Kontostatus-Dashboard Einspruch einlegen.

Warum eine Kennzeichnungsregel statt eines Verbots. Meta hat beobachtet, wie sich dieses Problem auf eine Weise verschlimmerte, die über die Irritation hinausgeht. Eine Wired-Untersuchung Anfang des Jahres ergab, dass mehr als zwei Dutzend offenbar von der KI generierte männliche Influencer für eine Dating-App werben und einige von ihnen potenzielle Nutzer direkt anschreiben. Die New York Times berichtete im Juli, sie habe Hunderte von KI-generierten Ärzten und Wellness-Persönlichkeiten gefunden, die Nahrungsergänzungsmittel propagierten und gesundheitsbezogene Angaben machten. Ein völliges Verbot synthetischer Personas wäre nicht durchsetzbar und würde auch legitime kreative Arbeit fangen, daher tut die Plattform, was Plattformen tun: Sie überwacht nicht den Inhalt, sondern die Offenlegung und setzt die Durchsetzung durch den Empfehlungsalgorithmus statt durch Entfernung durch. Der Verlust Ihres Platzes bei Reels and Explore ist eine sanftere Strafe als ein Verbot und für ein Konto, das von der Reichweite lebt, eine effektivere.

Was das für Sie bedeutet. Als Zuschauer sollten Sie auf Profilen, die Sie sonst vielleicht für bare Münze genommen hätten, ein Label sehen, das an den beiden Stellen, an denen es am wichtigsten ist, wirklich nützlich ist: Gesundheitsratschläge und alles, was Ihr Geld will. Betrachten Sie das Fehlen eines Etiketts jedoch nicht als Beweis dafür, dass es sich um eine Person handelt. Die Durchsetzung wird in diesem Ausmaß unvollkommen sein, und eine Regel, die auf Selbstoffenlegung beruht, trifft immer zuerst die Ehrlichen. Wenn Sie posten, sollten Sie sich praktisch daran erinnern, wer und nicht was: Die Verwendung von KI-Tools für Ihre eigenen Inhalte ist in Ordnung und nicht gekennzeichnet, aber wenn das Gesicht auf den Bildern erstellt wurde, gilt die Kennzeichnung. Meta steht derzeit auch aus anderen Richtungen unter Druck, einschließlich einer Einigung mit US-Bundesstaaten in Höhe von 18 Milliarden Dollar letzte Woche wegen der Schädigung von Minderjährigen. Erwarten Sie also mehr dieser Regeln und nicht weniger.

Quellen

• Instagram setzt neue Grenzen für nicht offengelegte KI-Profile (TechCrunch)
• KI-generiertes Profillabel (Instagram)
• Instagram stuft KI-generierte Influencer herab, wenn sie ihr Konto nicht eindeutig kennzeichnen (Engadget)