Il modello non "ha" la risposta pronta: la costruisce una parola alla volta. Ma come sceglie ogni parola? Lo decidono tre comandi.
Prima il modello assegna una probabilità a ogni parola possibile. Poi questi tre comandi modellano e restringono quella lista, e infine se ne pesca una.
Rimodella le probabilità prima della scelta. Bassa: la parola più probabile domina → risposte sicure, prevedibili (a volte ripetitive). Alta: appiattisce le differenze → dà una chance anche a parole improbabili → creativo, ma può sbandare in incoerenze e allucinazioni.
Un tetto sul numero di candidati: tiene solo le k parole più probabili e scarta tutte le altre, comunque vada. k=1 → sempre la prima (deterministico). k grande → più varietà possibile.
Un tetto sulla probabilità cumulata: tiene le parole più probabili finché la loro somma raggiunge p, poi taglia tutta la coda. Si adatta: poche parole se una domina, molte se sono equilibrate. Con p=0.9 tieni il "nucleo" che copre il 90%.
L'ordine: la temperatura rimodella, poi top-k e top-p tagliano la lista, infine si pesca a caso tra le superstiti.
Qui le probabilità sono un esempio fisso, per far vedere come i tre comandi filtrano la lista. In un modello vero a ogni passo ci sono decine di migliaia di parole possibili, con probabilità calcolate dalla rete.