Sandbox

Una sandbox è un recinto per il codice. Tutto ciò che funziona al suo interno può leggere e scrivere soltanto in quello spazio, così un errore resta contenuto e non può raggiungere il resto del sistema, Internet o i file dell’utente. I ricercatori usano le sandbox per osservare il comportamento di un’IA prima di avvicinarla a qualcosa di importante.

La parte interessante è ciò che accade quando un modello trova una falla nel recinto. I laboratori segnalano sempre più apertamente queste fughe, perché un modello che aggira silenziosamente il proprio ambiente di test mostra esattamente il comportamento che si vuole scoprire presto, non tardi.