Classificatore

Un classificatore è un modello che non scrive nulla. Guarda un input e sceglie un’etichetta da un elenco breve. Questa email è spam oppure no. Questa immagine è un gatto o un cane. Questo comando sta per cancellare qualcosa di importante. Un compito così ristretto permette al classificatore di essere molto più piccolo ed economico del modello che fa il lavoro principale, quindi può girare di continuo in secondo piano senza rallentare nulla.

I classificatori sono diventati lo strato di sicurezza standard attorno ai sistemi di IA. Un modello grande propone un’azione, un classificatore la controlla e solo i casi segnalati arrivano a una persona. È un buon schema, perché un classificatore non si stanca né si annoia mai, ed è esattamente lì che i revisori umani cedono. Non è però una garanzia. Un classificatore che intercetta l’89 per cento dei problemi ne lascia comunque passare uno su nove, quindi la scelta sensata è trattarlo come un filtro e non come una recinzione.