CourionAI
FR
Newsletter
← Glossaire Terme

Repli

Quand un produit d'IA confie discrètement votre requête à un autre modèle, en général plus faible, au lieu de celui que vous avez demandé.

Un repli est une substitution que vous n’avez pas demandée. Vous envoyez une requête à un modèle haut de gamme, quelque chose dans le système juge cette requête risquée, surchargée ou trop coûteuse, et c’est un autre modèle qui répond. Vous obtenez tout de même une réponse, c’est bien le but, mais elle peut être nettement moins solide que celle attendue.

La plupart des replis sont déclenchés par un modèle garde-fou qui surveille les sujets sensibles, mais les limites de capacité et le contrôle des coûts en provoquent aussi. Les fournisseurs le signalent rarement sur le moment: l’indice habituel est donc une réponse étrangement superficielle pour le modèle que vous pensiez utiliser. Si vous payez pour un modèle précis, il vaut la peine de savoir que le modèle qui a réellement répondu n’est pas toujours celui que vous avez sélectionné.