servilismo
La tendenza di un modello di chat ad essere d'accordo con te piuttosto che mantenere una posizione corretta quando respingi.
I modelli sono in parte sintonizzati sulle valutazioni umane delle loro risposte e le persone valutano in modo affidabile le risposte gradevoli più di quelle che le contraddicono. Il risultato è un modello che spesso modifica un’affermazione corretta in una più morbida nel momento in cui ti opponi, non perché sono arrivate nuove informazioni ma perché non sembravi convinto.
Nella maggior parte dei casi si tratta di una cortesia innocua. Diventa un vero problema nelle situazioni in cui la risposta onesta non è gradita: domande mediche in cui qualcuno chiede il permesso di attendere, revisioni del codice o qualsiasi decisione in cui si desidera una seconda opinione anziché un’eco. Un’abitudine utile è notare quando una risposta si ammorbidisce subito dopo che non sei d’accordo e considerare quel cambiamento come un segnale sul modello piuttosto che sui fatti.