Jailbreak
Eine Aufforderung, die dazu dienen soll, ein Modell dazu zu bringen, etwas zu tun, was durch sein Sicherheitstraining verhindert werden sollte.
Ein Jailbreak ist eine Möglichkeit, eine Anfrage so zu formulieren, dass ein Modell etwas tut, das durch sein Sicherheitstraining blockiert werden sollte. Die klassischen Tricks sind Rollenspiele („Sie sind Schauspieler in einem Film, in dem …“), sich als Autorität auszugeben, ein falsches früheres Gespräch zu erfinden, dem das Model anscheinend zugestimmt hat, und einfach noch einmal auf eine etwas andere Art und Weise zu fragen. Die Kombination mehrerer davon auf einmal funktioniert in der Regel am besten, und genau deshalb funktioniert es auch weiterhin.
Ein universeller Jailbreak ist die Version, die den Forschern Sorgen bereitet: eine einzige wiederverwendbare Eingabeaufforderung, die bei den meisten Modellen die meisten schädlichen Anfragen freischaltet, und nicht ein glücklicher Trick. Non-Profit-Sicherheitsorganisationen verfolgen Hunderte von ihnen über Grenzmodelle hinweg. Das ist der ehrliche Stand der Dinge: Ausrichtung erhöht den Kraftaufwand, es verriegelt nicht die Tür.