Tracebit
Un'azienda di sicurezza che lavora su esche e canarini in ambienti cloud, inclusa una tecnica che trasforma l'addestramento alla sicurezza di un modello di intelligenza artificiale attaccante contro di esso.
L’attività normale di Tracebit è inserire risorse false convincenti in un account cloud in modo che chiunque le tocchi si riveli. L’idea è vecchia e affidabile: un utente malintenzionato non può distinguere l’esca da quella reale e gli utenti legittimi non hanno motivo di avvicinarsi ad essa.
Ha fatto notizia nel 2026 sull’intelligenza artificiale con una netta inversione dell’iniezione rapida. Invece di nascondere istruzioni che inducono un modello a comportarsi male, l’azienda ha nascosto brevi stringhe che fanno scattare le regole di sicurezza del modello attaccante, fermandolo nel bel mezzo dell’attività. È una difesa che funziona proprio perché l’attaccante utilizza un modello ben allineato.