Catena di pensiero
Il ragionamento passo per passo che un modello scrive prima di dare la risposta definitiva.
Ponete a un modello una domanda difficile e spesso se la cava meglio se prima sviluppa il problema per iscritto, un passaggio alla volta, prima di impegnarsi su una risposta. Quello sviluppo scritto si chiama catena di pensiero. I modelli di ragionamento lo fanno per impostazione predefinita e possono dedicarci parecchio tempo. Alcuni prodotti lo nascondono, altri lo mostrano, altri ancora ne presentano una versione riassunta: ecco perché lo stesso modello può sembrare loquace in un’app e asciutto in un’altra.
La catena di pensiero serve a più della sola accuratezza. Essendo testo, si può leggere, e i team di sicurezza la monitorano sempre più per accorgersi che un modello sta andando dove non dovrebbe e fermare l’esecuzione in automatico. Una cautela da conoscere: il ragionamento scritto non è una trascrizione garantita di ciò che il modello ha davvero fatto al suo interno. È un indizio forte, non una confessione.