Classificateur

Un classificateur est un modèle qui n’écrit rien. Il regarde une entrée et choisit une étiquette dans une courte liste. Ce courriel est-il du spam ou non. Cette image montre-t-elle un chat ou un chien. Cette commande est-elle sur le point d’effacer quelque chose d’important. Cette mission étroite permet au classificateur d’être bien plus petit et moins coûteux que le modèle qui fait le travail principal, il peut donc tourner en permanence en arrière-plan sans ralentir quoi que ce soit.

Les classificateurs sont devenus la couche de sécurité standard autour des systèmes d’IA. Un grand modèle propose une action, un classificateur la vérifie, et seuls les cas signalés remontent à un humain. Le principe est bon, car un classificateur ne se fatigue ni ne s’ennuie jamais, et c’est précisément là que les relecteurs humains échouent. Ce n’est pas une garantie pour autant. Un classificateur qui attrape 89 pour cent des problèmes en laisse encore passer un sur neuf, il est donc raisonnable de le traiter comme un filtre et non comme une clôture.