Co je human-in-the-loop (HITL)?

Délka:

6 min

Publikováno:

9. září 2026

Co je human-in-the-loop?

Human-in-the-loop (HITL) je způsob návrhu, při kterém se automatizovaný systém zastaví a čeká na člověka, než začne jednat. Ten člověk nesleduje dění zvenčí. Je krokem uvnitř smyčky a nic dalšího se nerozjede, dokud výstup stroje neschválí, neupraví nebo neodmítne.

Ve strojovém učení má stejný pojem ještě druhý, starší význam. Lidé dodávají úsudek, který modelu chybí. Označují trénovací data nebo opravují výstupy, které se pak vracejí do tréninku. Oba významy spojuje jedna vlastnost. Když člověka z procesu vyjmete, smyčka se uzavře i bez něj, jen už bez kontroly.

Užitečná otázka proto nikdy nezní, jestli je do procesu zapojený člověk. Zní, kde přesně stojí a jakou váhu má jeho schválení.

Lidsky řečeno

Vezměte si bankovní převod, který potřebuje druhý podpis. Jeden člověk ho připraví, ale peníze se nikam nepohnou, dokud se na něj nepodívá a nepodepíše ho někdo další. Human-in-the-loop je právě ten druhý podpis, zabudovaný do softwaru. Vrací se s ním ale i otázka, kterou musely vyřešit banky: čte ten druhý člověk převod, nebo jich před obědem odklikne padesát, aniž by se podíval?

In the loop, on the loop, out of the loop

Ty tři pojmy se pletou, přitom popisují tři různé systémy.

In the loop. Systém se zastaví a čeká. Bez schválení se nestane nic. Je to nejpomalejší varianta a jediná, ve které lidské rozhodnutí předchází následku.
On the loop. Systém jedná a hlásí, co udělal. Člověk ho sleduje a může zasáhnout, zastavit ho nebo jeho akci zrušit. Je rychlejší, ale předpokládá, že se akce dá vzít zpět.
Out of the loop. Systém jedná sám. Dohled přichází až potom, z logů, auditů a namátkových kontrol.

Nejde o přepínač, ale o plynulou stupnici. Určují ji dvě otázky: jak velkou škodu špatná akce udělá a jestli se dá vzít zpět. Agent, který připraví návrh textu, může zůstat on the loop. Agent, který vrací zákazníkům peníze nebo maže produkční data, patří dovnitř smyčky.

Co po vás zákon opravdu chce

Tady se vyplatí být přesný, protože „držíme člověka ve smyčce“ často zaznívá ve významu „jsme v souladu s regulací“. Článek 14 evropského AI Actu se věnuje lidskému dohledu nad vysoce rizikovými systémy AI. Žádá, aby takové systémy byly navržené tak, aby nad nimi lidé mohli účinně vykonávat dohled. Kdo dohlíží, musí rozumět možnostem a omezením systému, správně si vyložit jeho výstup a umět se v dané situaci rozhodnout, že ho nepoužije. Musí být také schopen výstup systému nezohlednit, zrušit nebo zvrátit a zasáhnout do běhu systému tlačítkem stop nebo obdobným postupem.

Přečtěte si ta slovesa ještě jednou. Zrušit, zvrátit, přerušit. To je dohled nad běžícím systémem, ne povinné schválení před každou akcí. Nařízení požaduje schopnost zasáhnout, ne podpis pod každým krokem. Jeden případ je přísnější a nařízení ho pojmenovává výslovně. U biometrické identifikace nesmí nikdo podle jejího výsledku jednat, dokud nebyla „samostatně ověřena a potvrzena alespoň dvěma fyzickými osobami“.

Stejný článek pojmenovává i to, jak dohled selhává. Kdo systém nasazuje, má si nadále uvědomovat „možnou tendenci automatického nebo nadměrného spoléhání na výstup“ vysoce rizikového systému AI. Anglicky se tomu říká automation bias. Zákon tedy dopředu počítá s tím, že si člověk ve smyčce výstupy přestane číst.

Jak to funguje v agentovi

Většinu toho, co týmy staví, pokryjí tři mechanismy.

Pauza a pokračování. LangGraph nabízí uvnitř uzlu volání interrupt(). Když se spustí, framework „uloží stav grafu pomocí své persistentní vrstvy a čeká neomezeně dlouho, dokud běh neobnovíte“, takže pauza nedrží žádný běžící proces. Dokumentované vzory jsou schvalovací workflow, kontrola a úprava stavu, přerušení uvnitř nástrojů a validace lidského vstupu.
Dotazy na úrovni protokolu. MCP elicitation umožní serveru s nástroji, aby se uprostřed běhu zeptal uživatele, místo aby hádal nebo spadl.
Dotazy na oprávnění. Coding agenti se ptají, než zapíšou soubor nebo spustí příkaz. Je to stejný vzor, jen na nejmenší možné úrovni.

Mechanismus je ta snazší část. Pauza funguje jedině tehdy, když odpověď na ni stojí málo úsilí a když dotaz nese dost kontextu, aby se podle něj dalo rozhodnout. Výzva „povolit tuto akci?“ bez diffu a bez informace, co z ní bude, lidi naučí klikat na ano.

Na co si dát pozor

Kontrola až po odvedené práci není kontrola

Naučili jsme se to na vlastní pipeline pro tvorbu obsahu. Agent nastudoval téma, napsal článek a otevřel pull request. Člověk to zkontroloval až na konci. Každý jednotlivý krok fungoval. Fronta ne. Když jsme to naposledy počítali, leželo nemergovaných devět hotových dvojjazyčných párů, tedy osmnáct stránek webu, a ten nejstarší z nich 86 dní. Produkce předběhla kontrolu o dva měsíce.

Člověk byl celou dobu ve smyčce. Jen stál až za tou drahou částí, kde už zbývaly tři možnosti: schválit, odmítnout nebo přepsat hotový cizí draft. V září 2026 jsme kontrolu přesunuli dopředu, takže téma teď vybírá člověk, ještě než agent začne cokoli studovat. Stejný počet lidí, mnohem méně plýtvání a „ne“, které stojí jednu větu místo týdne.

Pokud jediný lidský kontrolní bod stojí až na konci práce, není to kontrola. Je to fronta.

Ostatní způsoby, jak to selhává

Schválení bez pozornosti. Kdo za hodinu vidí čtyřicet požadavků, schvaluje je tempem, které s jejich čtením nemá nic společného. Měřte, jak dlouho jedno rozhodnutí trvá, ne kolik jich padne.
V roli hlídače se dovednost vytrácí. Lisanne Bainbridge to popsala v Ironies of Automation (Automatica, 1983): zautomatizujte většinu úkolu a operátor přijde o cvik, který potřebuje právě pro ten vzácný zásah, na němž záleží. Psala o průmyslových dispečincích. Platí to ale pro každého, kdo kontroluje výstupy agenta.
Rozmělněná odpovědnost. Když člověk schválí, co navrhl model, přestává být jasné, komu výsledek patří. Napište si, kdo za něj odpovídá, dřív než workflow nasadíte.
Pauza se skrytou cenou. Čekání na člověka je často nejpomalejší část celého běhu agenta. Schvalování dávkujte, nebo ho nechte jen tam, kde je potřeba, místo abyste výzvy dávali všude.

Související články

Co je MCP elicitation? – Způsob na úrovni protokolu, jakým se AI nástroj uprostřed úkolu zeptá člověka.
Co jsou AI guardrails? – Automatizovaná polovina téhož problému: omezení, která drží, i když se nikdo nedívá.
Co je AI governance? – Kam lidský dohled patří uvnitř širší sady pravidel, rolí a odpovědností.
Co to je agent? – Co vlastně je ten systém, do jehož smyčky člověka stavíte.
Co jsou agentní workflow? – Jak jsou vícekrokové běhy agentů postavené a kam se v nich dá vložit pauza.

Zpět na postřehy

Chcete být o krok napřed?

Nenechte si utéct naše nejlepší postřehy. Žádný spam, jen praktické analýzy, pozvánky na exkluzivní eventy a shrnutí podcastů přímo do vaší schránky.