fol. IV r
AI od základů · paměť

Kontextové okno

Model nemá paměť mezi zprávami. „Pamatuje si" jen to, co je právě teď v okně — a celé okno se posílá znovu při každém kroku.
Co model ví
co je v okně
=
vše, co model ví
·
mimo okno
=
neexistuje
Není to paměť. Je to jedno okno, které se pokaždé posílá celé znovu. Model nezná svou minulost — dostane pokaždé kompletní přepis a čte ho od začátku.
Hrdina listu · rozpočet tokenů v okně (~200 000)
0 50k 100k 150k 200k systémový prompt ~8k definice nástrojů ~16k CLAUDE.md / instrukce ~10k historie konverzace → roste s každým tahem přiložené dokumenty / RAG ~60k rezerva na výstup ~36k okno plné → /compact shrne historii a uvolní místo
Vše sdílí jednu osu — tokeny. Fixní bloky (prompt, nástroje, instrukce) sedí na začátku; historie a dokumenty rostou a tlačí na strop. Když se okno zaplní, /compact shrne dřívější historii do souhrnu a uvolní místo.
Než a po /compact
Před fixní historie konverzace málo rezervy /compact shrne historii Po fixní souhrn uvolněné místo pro další práci 0 200k
Stejná osa, dva stavy. /compact nezmění fixní bloky — jen stlačí dlouhou historii do souhrnu a vrátí oknu volné tokeny.
Stateless
Model si mezi tahy nepamatuje nic. Iluzi paměti dělá to, že se při každém kroku posílá celá dosavadní historie znovu — jinak by začínal od nuly.
Progresivní odhalování
Proto Skills necpou vše najednou — do okna jde jen špička (jména a popisy), tělo se dotáhne, až když je potřeba. Šetří se místo pro to, na čem právě pracuješ.
Ztraceno uprostřed
začátek prostředek konec recall
Model si nejhůř vybavuje informace z prostředka dlouhého okna. Nejlíp drží začátek a konec — důležité věci dávej na kraje.
/compact a /clear
/compact
Shrne dosavadní historii do souhrnu — zachová smysl, uvolní tokeny.
/clear
Začne s čistým oknem — nulová historie, žádná návaznost.
Cena roste s délkou
Každý token na vstupu se platí — a posílá se znovu při každém tahu. Dlouhé okno = dražší i pomalejší každá odpověď. Krátit se vyplatí.
Čísla jsou ilustrativní (velikost okna i rozpad se liší podle modelu a nastavení). Princip zůstává: okno je konečné a posílá se celé znovu.
Gauss Algorithmic