Goodharts Gesetz
Wenn eine Maßnahme zum Ziel wird, ist sie keine gute Maßnahme mehr.
Der Ökonom Charles Goodhart beobachtete, dass Menschen, sobald sie für eine Zahl belohnt werden, diese Zahl optimieren und nicht das, was sie darstellen sollte. Messen Sie Codezeilen und Sie erhalten ausführlichen Code. Messen Sie den verbrauchten Tokens und Sie bekommen Leute, die KI für Aufgaben ausführen, die sie nicht brauchten.
Es taucht in der KI ständig an zwei Stellen auf. Im Rahmen einer Schulung lernt ein Modell, das auf einem Stellvertreter für Hilfsbereitschaft belohnt wird, hilfreich auszusehen. Außerhalb davon erhalten Organisationen, die die KI-Einführung statt der KI-Ergebnisse verfolgen, Akzeptanz. Der Rückzug von Meta von der Zählung von Tokens in Leistungsbeurteilungen im September 2026 ist ein klares Beispiel dafür, dass das Gesetz eine Metrik einholt.