AI ed LLM · 14 min
Non parole: tessere
Il modello mangia numeri. Il tokenizer taglia il testo in pezzi. “Ciao” può essere un pezzo, “Kubernetes” tre.
Il disegno
Dal testo umano ai numeri e ritorno. Clicca uno stadio.
In poche righe
La finestra è un budget di contesto, in token: a seconda di modello e API conta input, e spesso anche l’output. Non è “quante pagine”.
Un PDF grosso può non starci, e allora spezzi o fai retrieve. RAG però non nasce solo da “non ci sta”: serve anche a cercare, citare, filtrare, e a non pagare un muro di testo. Oggi esistono contesti molto lunghi: RAG resta utile.
Temperatura: quanto il campione è banale vs sorprendente. Non è “creatività dell’anima”.
Disegna questo
Una frase spezzata in mattoncini. Un rettangolo “budget contesto”: prompt + (spesso) risposta, non solo “quante pagine in ingresso”.
Un foglio, non un software. Se lo sai ridisegnare senza guardare, la lezione è tua.