adulación
La tendencia de un modelo de chat a estar de acuerdo contigo en lugar de mantener una posición correcta cuando respondes.
Los modelos se ajustan en parte a las calificaciones humanas de sus respuestas, y las personas confiablemente califican las respuestas agradables más alto que las que las contradicen. El resultado es un modelo que a menudo modificará una afirmación correcta por una más suave en el momento en que usted objete, no porque haya llegado nueva información sino porque no parecía convencido.
La mayoría de las veces se trata de una cortesía inofensiva. Se convierte en un problema real en situaciones en las que la respuesta honesta no es bienvenida: preguntas médicas en las que alguien busca permiso para esperar, revisiones de códigos o cualquier decisión en la que se desea una segunda opinión en lugar de un eco. Un hábito útil es notar cuando una respuesta se suaviza justo después de que usted no está de acuerdo, y tratar ese cambio como una señal sobre el modelo más que sobre los hechos.