Substack führt einen KI-Detektor ein, die Autoren wehren sich
Leser können nun jeden Beitrag mit mehr als 100 Wörtern auf Anzeichen für KI-Texte prüfen. Autoren sprechen von einer Hexenjagd, und die Forschung zur Fehlerquote der Detektoren liefert ihnen gute Argumente.
Substack hat am 21. Juli gemeinsam mit dem Unternehmen Pangram eine Funktion zur Erkennung von KI-Texten eingeführt. Beiträge, Notizen und Kommentare mit mehr als 100 Wörtern lassen sich damit prüfen. Das Werkzeug gibt einen Prozentwert dafür aus, wie wahrscheinlich der Text von einer KI stammt. Leser sehen das Ergebnis nur, wenn sie die Analyse selbst anfordern; erfasst werden ausschließlich Inhalte, die nach dem 21. Juli erschienen sind, und Autoren können die Funktion für ihre eigenen Texte abschalten. Beruhigt hat das niemanden. Autoren auf der Plattform sprechen von einer Hexenjagd. Ihr Haupteinwand ist nicht philosophischer Natur, sondern betrifft die Fehlerquote.
Die Forschung, auf die sie verweisen, ist für Anbieter solcher Detektoren unangenehm. Eine viel zitierte Stanford-Studie von 2023 prüfte sieben Systeme mit Aufsätzen, die nachweislich von Menschen stammten, deren Muttersprache nicht Englisch war. Im Durchschnitt stuften die Detektoren 61 Prozent dieser echten Texte als KI-generiert ein. Die Fehler folgen einem Muster: Die Systeme reagieren auf vorhersehbaren Wortschatz und geringe Satzvariation. Das kennzeichnet zwar manche KI-Texte, aber ebenso sorgfältig formulierte Texte in einer Fremdsprache oder bewusst schlichte Prosa. Die ungleichen Folgen verschärfen das Problem. Ein übersehener KI-Text kostet nichts, eine falsche Anschuldigung kann einen Autor dauerhaft verfolgen, und das Nichtvorliegen von KI-Nutzung lässt sich kaum eindeutig beweisen.
Das grundsätzliche Problem: KI-Erkennung ist technisch nicht auf dieselbe Weise lösbar wie Spamfilterung. Gewöhnlicher Text enthält kein Wasserzeichen. Ein Detektor ist daher ein Stilklassifikator, der eine statistische Vermutung über ein bewegliches Ziel abgibt; mit jeder neuen Modellgeneration klingt dieses Ziel menschlicher. Außerdem erkennt er nicht die Unterscheidung, die viele Leser tatsächlich interessiert. Ein von einem Menschen verfasster und mit KI geglätteter Text kann für den Klassifikator fast genauso aussehen wie ein vollständig aus einem Einzeiler erzeugter. Ein einziger Prozentwert drückt all diese Unterschiede in eine Zahl, die autoritativ wirkt, ohne es zu sein.
Was das für dich bedeutet: Wenn du öffentlich schreibst, solltest du davon ausgehen, dass irgendwann ein System deinen Text prüft und sich zu deinem Nachteil irren kann. Die praktischen Schutzmaßnahmen sind langweilig, aber wirksam: Bewahre Entwürfe, Versionsverläufe und Notizen auf. Damit kannst du deinen Arbeitsprozess zeigen, statt über einen Prozentwert zu streiten. Verändere deine natürliche Stimme nicht, um einem Klassifikator zu gefallen, genau in diese Falle gerieten mehrere Substack-Autoren. Wenn du eine Publikation, Schule oder ein Team leitest, sollte ein Detektorwert höchstens ein schwacher Anlass für ein Gespräch sein, niemals ein abschließender Beweis. Und wenn du KI beim Schreiben einsetzt, schützt dich vor allem eine klare Offenlegung.
Quellen
Quellen: https://www.404media.co/substackers-say-new-ai-detection-tool-is-a-witch-hunt/
Die Gewichte von Kimi K3 sind endlich öffentlich, und 1,4 Terabyte schwer
Moonshot AI hat die vollständigen Gewichte und den technischen Bericht zu seinem Modell Kimi K3 mit 2,8 Billionen Parametern veröffentlicht, dazu Teile der nötigen Betriebsinfrastruktur. Die entscheidende Behauptung: 2,5-mal mehr Intelligenz je Recheneinheit.
