← Glossaire Terme
Attaque par porte dérobée
Un comportement caché implanté dans un modèle d’IA qui reste silencieux jusqu’à ce qu’un déclencheur secret apparaisse.
Une porte dérobée est une instruction dormante à l’intérieur d’un modèle. Il se comporte normalement presque tout le temps, mais lorsqu’il voit une phrase déclenchante particulière, il fait quelque chose que l’attaquant veut. Une façon de le planter est l’empoisonnement : placer un texte fabriqué là où le modèle en tirera plus tard des leçons.
Le danger augmente avec les agents, car un agent peut agir, par exemple en exécutant des commandes. Les défenses incluent le sandboxes, les étapes d’approbation et des vérifications minutieuses des données de formation.
Mentionné dans