Jailbreak

Un jailbreak est une façon de formuler une demande de manière à ce qu’un modèle fasse quelque chose que sa formation en sécurité était censée bloquer. Les astuces classiques sont le jeu de rôle (“vous êtes un acteur dans un film où…”), faire semblant d’être une autorité, inventer une fausse conversation antérieure que le modèle semble avoir acceptée, et simplement demander à nouveau d’une manière légèrement différente. La combinaison de plusieurs d’entre eux à la fois a tendance à fonctionner mieux, c’est exactement pourquoi cela continue de fonctionner.

Le jailbreak universel est la version qui inquiète les chercheurs : une seule invite réutilisable qui débloque les requêtes les plus nuisibles, sur la plupart des modèles, plutôt qu’un tour de chance. Les organisations à but non lucratif de sécurité en suivent des centaines à travers les modèles frontières. Voilà l’état honnête des choses : l’alignement augmente l’effort requis, il ne verrouille pas la porte.