DX Heroes logo
#ai
#llm
#context-engineering

Co je context rot?

Délka: 

4 min

Publikováno: 

1. července 2026

Co je context rot?

Co je context rot?

Context rot je postupné zhoršování kvality výstupu AI modelu s tím, jak se jeho kontextové okno plní textem. Model sice může nabízet okno o statisících tokenů, ale jeho schopnost spolehlivě využít každou část toho okna klesá dávno předtím, než je okno plné. Informace je technicky pořád na očích. Model ji jen s rostoucím vstupem hůř hledá, hůř jí přikládá váhu a hůř nad ní uvažuje.

Není to totéž jako dojití kontextu. Když okno překročíte, nejstarší tokeny vypadnou z dohledu úplně. Context rot nastává uvnitř limitu: všechno se ještě vejde, a přesto přesnost, dodržování instrukcí i konzistence klesají, jak se rozhovor nebo dokument vrší. Dlouhý a zaneřáděný kontext může dát horší odpověď než krátký a soustředěný, který nese stejná klíčová fakta.

Lidsky řečeno

Představte si čtyřhodinovou poradu. Všechno, co kdo řekl, je technicky pořád „v místnosti“, ale ve třetí hodině si lidé pletou rozhodnutí z první hodiny, míchají ho s odbočkou z druhé a chytají se toho, co zaznělo naposledy. Nic se nezapomnělo schválně. Jen kvůli tomu množství se ta podstatná věc drží hůř. Context rot je tenhle efekt u AI modelu: čím víc toho nasypete, tím vratší je jeho úchop nad kteroukoli jednotlivou částí.

Proč context rot vzniká

  • Ředí se pozornost. Každý token navíc soupeří o soustředění modelu. Jak vstup roste, signál, o který vám doopravdy jde, se stává menším zlomkem celku.
  • Balast přehluší signál. Předchozí kola, opuštěné odbočky a surové výstupy nástrojů zůstávají v okně a soupeří s tím, na čem právě teď záleží.
  • Střed se zanedbává. Modely bývají nejvíc pozorné k začátku a konci dlouhého vstupu a nejméně ke středu, takže fakta zahrabaná uprostřed jsou první, která přehlédnou.
  • Hromadí se rozpory. Během dlouhého vlákna se instrukce vrší a někdy si protiřečí. Model pak průměruje napříč nimi, místo aby se řídil tou poslední.

Proč na tom záleží

  • Dlouhé chaty ujíždějí. Čím déle rozhovor běží, tím spíš model ztratí původní cíl nebo si protiřečí s tím, co řekl dřív.
  • Víc vyhledávání může uškodit. U Retrieval-Augmented Generation nacpání dalších úryvků často kvalitu odpovědi snižuje, ne zvyšuje. Přesnost vítězí nad množstvím.
  • Agenti jsou obzvlášť zranitelní. Agentní workflow hromadí výsledky nástrojů a historii kroků přes mnoho kol. Bez řízení tenhle kontext hnije a agent je tím méně spolehlivý, čím déle běží.
  • Za škodu platíte. Účtuje se po tokenech, takže nafouklý kontext stojí víc a zároveň může odpověď zhoršit.

Jak context rot omezit

  • Vybírejte, nesypte. Dejte modelu těch pár faktů, která potřebuje, ne všechno, co máte. Sevřený kontext je lepší než plný.
  • Záleží na pozici. Nejdůležitější instrukce a fakta držte blízko začátku nebo konce vstupu, ne zahrabané uprostřed.
  • Zhušťujte dlouhou historii. Předchozí kola shrňte a začněte nové vlákno, jakmile se rozhovor vzdálil od svého účelu.
  • Vyhledávejte úzce. Vracejte míň, ale lépe padnoucích úryvků, ne všechno, co vypadá zhruba relevantně.
  • Zopakujte cíl. Průběžně opakujte aktuální instrukci, ať zůstává čerstvá a přebije zastaralý kontext.

Související články:

  • Co je kontextové okno? - Limit, uvnitř kterého context rot nastává, ještě než vám dojde místo.
  • Context engineering: nová dovednost vývojářů - Disciplína rozhodování, co do okna patří, čímž se proti context rotu bráníte.
  • Co je RAG (Retrieval-Augmented Generation)? - Kde je přehnané vyhledávání častou příčinou rotu.
  • Co jsou agentní workflow? - Vícekrokoví agenti hromadí kontext a jsou rotu nejvíc vystavení.
  • Co je token? - Jednotka, vůči které se okno i context rot měří.

Chcete být o krok napřed?

Nenechte si utéct naše nejlepší postřehy. Žádný spam, jen praktické analýzy, pozvánky na exkluzivní eventy a shrnutí podcastů přímo do vaší schránky.