← Glossar Begriff
Backdoor-Angriff
Ein verstecktes Verhalten, das in ein KI-Modell eingepflanzt wurde und so lange schweigt, bis ein geheimer Auslöser auftaucht.
Eine Hintertür ist eine Schläferanweisung innerhalb eines Modells. Es verhält sich fast immer normal, aber wenn es eine bestimmte Auslösephrase sieht, tut es etwas, was der Angreifer will. Eine Möglichkeit, es einzupflanzen, ist das Vergiften: Platzieren Sie gestalteten Text dort, wo das Modell später daraus lernen wird.
Mit Agenten wächst die Gefahr, denn ein Agent kann agieren, indem er beispielsweise Befehle ausführt. Zu den Abwehrmaßnahmen gehören Sandboxes, Genehmigungsschritte und sorgfältige Prüfungen der Trainingsdaten.
Erwähnt in