CourionAI
DE
Newsletter
← Glossar Begriff

Klassifikator

Ein kleines Modell mit genau einer Aufgabe: etwas in Kategorien einsortieren, etwa sicher oder gefährlich.

Ein Klassifikator ist ein Modell, das nichts schreibt. Es schaut sich eine Eingabe an und wählt ein Etikett aus einer kurzen Liste. Ist diese Mail Spam oder nicht. Ist dieses Bild eine Katze oder ein Hund. Wird dieser Befehl gleich etwas Wichtiges löschen. Diese enge Aufgabe erlaubt es, den Klassifikator viel kleiner und billiger zu bauen als das Modell, das die eigentliche Arbeit macht, er kann also ständig im Hintergrund mitlaufen, ohne zu bremsen.

Klassifikatoren sind die Standard-Sicherheitsschicht rund um KI-Systeme geworden. Ein großes Modell schlägt eine Aktion vor, ein Klassifikator prüft sie, und nur die markierten Fälle erreichen einen Menschen. Das ist ein sinnvoller Aufbau, weil ein Klassifikator nie müde oder gelangweilt wird, und genau daran scheitern menschliche Prüfer. Eine Garantie ist es nicht. Ein Klassifikator, der 89 Prozent der Probleme fängt, übersieht immer noch jedes neunte, also behandelt man ihn vernünftigerweise als Filter und nicht als Zaun.

Erwähnt in