Un cervello con i suoi bias, da solo, commette errori piccoli; una macchina che prevede, da sola, è uno strumento. È quando le due cose si saldano, in un'intelligenza artificiale costruita per sfruttare i nostri bias su scala, che nasce una forza.
I trucchi non sono nuovi: l'ancoraggio, la scarsità, la prova sociale lavorano da sempre. Ciò che è cambiato è la scala. Il marketing classico costruiva un messaggio e lo puntava su una folla, sperando che funzionasse sui più; l'intelligenza artificiale, invece, ritaglia il messaggio sulla singola persona, lo prova, lo corregge, lo ripete, milioni di volte al secondo. Quello che prima si faceva a una piazza, oggi si fa a te.
C'è poi il versante della disinformazione, e qui la generativa cambia le regole. Il millefoglie argomentativo (l'accumulo di tante prove deboli che, messe in fila, sembrano schiaccianti) diventa automatizzabile: testi, voci e video sintetici producono indizi plausibili a getto continuo. E la mutualizzazione, il meccanismo per cui dodici fonti che si copiano valgono in realtà una sola, si industrializza: da un'unica origine si sfornano infinite copie che paiono indipendenti.
Aggiungi eserciti di profili automatici che rilanciano e si danno man forte, e la fabbricazione di un finto consenso costa ormai pochissimo. La polarizzazione, che un tempo richiedeva lavoro, diventa un prodotto a basso prezzo.
L'asimmetria è tutta qui, ed è la cosa che dovrebbe preoccuparci davvero: difendersi è lento e costa attenzione, quella del faticoso Sistema 2; ingannare è rapido e si automatizza. Il pericolo non è una macchina cosciente e malvagia alla Skynet, ma un mercato dell'informazione in cui mentire conviene più che informare.