Consigli sparsi per spendere meno token con l'AI

Quando Filippo di Macedonia minacciò gli spartani scrivendo che, se fosse entrato in Laconia, avrebbe raso al suolo la loro città, la risposta fu di una parola sola: "Se". Da quella regione, la Laconia, deriva l'aggettivo laconico, e da quell'episodio l'idea che il massimo del significato possa stare nel minimo delle parole. È una virtù che l'intelligenza artificiale, con una certa ironia, ci sta facendo riscoprire per ragioni di portafoglio.Ogni scambio con un modello si misura in token, frammenti di parola che si pagano in entrata e in uscita: in denaro su un'API a consumo, in lentezza e confusione su qualsiasi piano. Risparmiare token è quindi un esercizio per metà di economia e per metà di igiene del lavoro, e qualche accortezza sparsa rende entrambe le cose più semplici di quanto sembri.La prima riguarda la concisione. Un prompt prolisso genera quasi sempre una risposta prolissa, perché il modello specchia il registro che gli viene proposto. Chiedere esplicitamente ciò che si vuole nella forma in cui lo si vuole, "solo la tabella, senza premesse", taglia il testo in uscita e il tempo di lettura. La cortesia verso la macchina, il "per favore" e il "grazie mille" rivolti a un sistema che non si commuove, costa qualche token e non cambia una virgola del risultato.L'abitudine più dispendiosa è un'altra: reincollare lo stesso documento a ogni messaggio. Un bilancio di 40 pagine incollato 5 volte si paga 5 volte. Conviene caricarlo una volta sola in un progetto...