Anthropic erweitert sein Textwasserzeichen auf ältere Claude-Modelle, mit einem Haken
Anthropic fügt sein unsichtbares Textwasserzeichen zu vier weiteren Claude-Modellen hinzu, aber bei zwei von ihnen verschwindet das Zeichen, wenn Sie allgemeine Sampling-Einstellungen ändern.
Anthropic führt sein unsichtbares Textwasserzeichen auf vier weitere Claude-Modelle ein: Claude Mythos 5, Opus 4.7, Opus 4.6 und Sonnet 4.6. API-Kunden wurden per E-Mail informiert. Neuere Modelle wie Opus 5.5 tragen bereits das Zeichen, und die Einführung auf Amazon Bedrock kann einige zusätzliche Tage dauern.
Erstens, was ein Textwasserzeichen ist. Es handelt sich nicht um eine sichtbare Bezeichnung oder ein verstecktes Zeichen. Anthropic beschreibt es als ein „nicht wahrnehmbares Muster bei der Wortwahl“: Das Modell steuert, welche Wörter es auswählt, auf eine Art und Weise, die ein Detektor später statistisch erkennen kann, der Leser es jedoch nie bemerkt. Es fügt keine Token hinzu (die kleinen Textblöcke, nach denen die Modelle zählen und abrechnen), ändert keine Preise, verlangsamt die Ausgabe kaum und enthält nichts über Sie oder Ihre Chats. Berichten zufolge handelt es sich um eine Variante der SynthID-Methode von Google DeepMind für Text.
Hier ist der Haken. Bei Opus 4.6 und Sonnet 4.6 wird das Wasserzeichen nur angewendet, wenn die Sampling-Einstellungen temperature, top_p und top_k auf ihren Standardwerten bleiben. Diese Einstellungen steuern, wie abenteuerlich die Wortwahl ist, und wenn auch nur eine davon geändert wird, wird die Markierung vermieden. In der eigenen E-Mail von Anthropic heißt es: „Wenn Sie sich für Ihre eigene Compliance auf das Wasserzeichen verlassen, behalten Sie diese Einstellungen auf ihren Standardwerten bei.“ Die Warnung fehlt für Mythos 5 und Opus 4.7, was darauf hindeutet, dass diese trotzdem markiert sind, obwohl dies eine Schlussfolgerung von The Decoder und keine Anthropic-Anweisung ist.
Was dahintersteckt: Der Treiber ist die Vorschrift. Anthropic weist auf die Dezember-Frist des EU AI Act für die Kennzeichnung maschinengenerierter Inhalte hin, und Modelle, die nach dem 2. August 2026 veröffentlicht werden, werden bereits mit der Markierung ausgeliefert. Ältere Modelle werden stufenweise umgerüstet. Da sich die Markierung im Modell befindet, gilt sie auch für AWS, Google Cloud und Microsoft Foundry und kann vom Kunden nicht ausgeschaltet werden. OpenAI verfügt über ein eigenes System, textGrain, das standardmäßig nur für Benutzer von EU ChatGPT und Codex aktiviert ist, während Google über das Open-Source-System SynthID für Text verfügt.
Es gibt berechtigte Einwände. Der Kommentator John Gruber argumentiert, dass Synonyme selten genau das Gleiche bedeuten, sodass die Wahl von Wörtern, die einen Schlüssel tragen, statt für die beste Passform, Präzision kosten kann. Artificial Lawyer weist darauf hin, dass Anwaltskanzleien entlarvt werden könnten, wenn ein Mandant die Verwendung von KI verboten hat und die Marke erkennen kann. Anthropic verfügt über eine Erkennungs-API, befindet sich jedoch noch in der privaten Vorschau.
Was das für Sie bedeutet: Wenn Sie einfach mit Claude chatten, können Sie keine Änderungen sehen. Wenn Sie ein Entwickler sind, dessen Ausgabe erkennbar KI-generiert sein muss, lassen Sie die Sampling-Einstellungen bei den 4.6-Modellen unverändert. Wenn Sie als Student oder Autor sich fragen, ob ein Detektor Ihren Text markieren könnte, denken Sie daran, dass Wasserzeichen statistischer Natur sind, durch umfangreiche Bearbeitung geschwächt werden können und nur ein Tool mit Zugriff auf den Detektor sie überprüfen kann. Für die meisten Menschen ist dies ein stiller Compliance-Schritt und keine Funktion.
Quellen
Quellen: https://support.claude.com/en/articles/16266773-how-claude-marks-ai-generated-content
Forscher zeigen, wie ein geteilter ChatGPT-Link Ihre privaten Chats hätte lesen können
Das Sicherheitsunternehmen Parameter hat eine Reihe von Fehlern gefunden, die es einer böswilligen öffentlichen ChatGPT-Freigabe ermöglichen, Code in der Sitzung eines Besuchers auszuführen. OpenAI hat das Problem am 26. Oktober behoben.
