Co je few-shot prompting?
Few-shot prompting je technika, kdy do promptu vložíte několik příkladů, abyste modelu ukázali přesně to, co chcete. Každý příklad spojí vstup s odpovídajícím výstupem. Model si z toho přečte vzor a použije ho na váš skutečný vstup.
Název vychází z počtu příkladů. Zero-shot nedá modelu žádný příklad, jen pokyn. One-shot mu dá jeden. Few-shot mu dá hrstku, obvykle dva až pět. Více příkladů zpravidla znamená spolehlivější výsledky, ale jen do určité míry.
Lidsky řečeno
Představte si, že chcete po novém kolegovi, aby zformátoval poznámky z porady. Můžete napsat stránku pravidel, nebo mu prostě ukázat tři poznámky, které jste už naformátovali tak, jak se vám líbí. Druhý způsob je rychlejší a jasnější. Few-shot prompting je právě to ukázání tří příkladů modelu.
Kdy se to hodí
- Jednotné formátování. Když potřebujete výstup pokaždé ve stejném tvaru, příklady ho ukotví líp než popis.
- Třídění a štítkování. Ukažte pár označených případů a model se naučí vaše kategorie včetně hraničních případů, které se těžko popisují slovy.
- Trefit tón nebo styl. Příklady hlasu, který chcete, předčí jakékoli přídavné jméno. „Piš jako tyhle tři“ funguje tam, kde „piš profesionálně“ ne.
- Záludné převody. Když je pravidlo snazší předvést než vysvětlit, pár dvojic před a po udělá svoje.
Na co si dát pozor
- Nereprezentativní příklady. Model kopíruje to, co mu ukážete, včetně zvláštností. Když jsou všechny vaše příklady krátké, nedivte se, že dlouhé vstupy dopadnou špatně.
- Příliš mnoho příkladů. Každý stojí tokeny a přidává zpoždění. Za hranicí pár kusů přínos rychle klesá. Přidávejte příklady jen tehdy, dokud výstup zlepšují.
- Zkreslené pořadí. U třídění může pořadí a poměr příkladů odpověď zkreslit. Kategorie raději promíchejte, než abyste je seskupili.
- Použít to tam, kde stačí pokyn. U jednoduchých úkolů je srozumitelná věta levnější a stejně dobrá. Po few-shot sáhněte, když prosté pokyny nestačí.
Související články
- Co je prompt engineering? - Širší disciplína, v níž je few-shot prompting jednou z technik.
- Co je chain-of-thought prompting? - Další klíčová technika, tentokrát pro uvažování, ne pro kopírování vzoru.
- Co je to prompt? - Samotný pokyn a proč jeho formulace mění výsledek.
Chcete být o krok napřed?
Nenechte si utéct naše nejlepší postřehy. Žádný spam, jen praktické analýzy, pozvánky na exkluzivní eventy a shrnutí podcastů přímo do vaší schránky.