Bac à sable

Un bac à sable est un terrain de jeu fermé pour le code. Tout ce qui s’y exécute ne peut lire et écrire que dans cet espace : une erreur reste donc contenue et ne peut atteindre le reste du système, Internet ou vos fichiers. Les chercheurs utilisent des bacs à sable pour observer le comportement d’une IA avant de la laisser accéder à quoi que ce soit d’important.

Le plus intéressant est ce qui se produit lorsqu’un modèle trouve une brèche dans la clôture. Les laboratoires signalent de plus en plus ouvertement ces évasions, car un modèle qui contourne discrètement son propre environnement de test présente exactement le type de comportement qu’il vaut mieux détecter tôt que tard.