Guardrail-Modell

Wenn ein Unternehmen einen KI-Chatbot betreibt, ist das Chat-Modell selbst selten das Einzige, was im Kreislauf ist. Ein zweites, viel kleineres Modell liest jede eingehende Nachricht und oft auch jede ausgehende Antwort und markiert alles, was gegen die Richtlinien des Betreibers verstößt. Dieser Checker ist das Leitplankenmodell, und deshalb stoppt ein Chatbot manchmal mitten im Satz oder weigert sich, fortzufahren.

Ältere Leitplankenmodelle wurden anhand einer festen Liste von Kategorien trainiert, sodass das Hinzufügen einer neuen Regel ein erneutes Training erforderte. Neuere, wie Shieldstral von Mistral oder gpt-oss-safeguard von OpenAI, übernehmen die Richtlinie zum Zeitpunkt der Prüfung als Klartext, was sie anpassbar macht, ohne die Gewichte zu berühren.