Atto 3 · Pagina 9

Come ritrova le cose: l'attention

Mentre elabora la frase, il modello decide a quali parole prestare attenzione. È così che "capisce" il contesto: pesando relazioni, non seguendo regole scritte.

🔦 Come un riflettore in un teatro buio: la frase è un palco affollato; per ogni parola, il riflettore illumina le altre parole che contano per capirla.

Clicca una parola: il riflettore illumina quelle a cui "guarda".

🗂️ E gli indici? Per ritrovare in fretta i vettori giusti tra milioni (memoria, ricerca, RAG) il sistema usa un indice, come lo schedario di una biblioteca. L'attention invece lavora dentro la frase. Due meccanismi diversi, stesso scopo: trovare ciò che conta.
💡 La sorpresa: in "il cane insegue il gatto perché lui corre veloce", su chi punta il riflettore di "lui"? Il modello non applica una regola grammaticale: pesa le relazioni e sceglie. È qui che nasce (e a volte sbaglia) la comprensione del contesto.

Qui sto semplificando molto: questi pesi sono illustrativi, scelti a mano. L'attention vera vive dentro la rete e non è esposta da nessuna API di chat, e perciò nessuna pagina può davvero mostrartela. Questa è una metafora onesta, non una misura.