DalšíDalší průvodce
Jak promptovat modely myšlení
Jazyk AI
Jazyk AI GUIDE
Úsilí o uvažování a rozpočty myšlení jsou nastavení modelů uvažování, které řídí, kolik interní práce krok za krokem model vykoná, než odpoví.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Větší množství přemýšlení často zlepšuje výsledky u obtížných problémů, jako je matematika, kódování a vícestupňová analýza, ale zvyšuje náklady a prodlevy a po určité hranici už nepomáhá. Výběr správné úrovně pro každý úkol je jedním z nejjednodušších způsobů, jak vyvážit kvalitu, rychlost a cenu.
Reasoning models are trained to produce a chain of intermediate reasoning before their final answer. That reasoning is made of tokens, just like the answer, and generating it takes time and money. Providers let you control how much of it happens. OpenAI exposes a reasoning_effort parameter on its reasoning models with levels such as low, medium and high; some newer models add a minimal level. Anthropic's extended thinking on supported Claude models takes a budget_tokens value that sets the maximum number of tokens Claude may use for thinking; the budget has a minimum of 1,024 tokens and must be smaller than max_tokens. Google's Gemini 2.5 models accept a thinking budget, and some can have thinking turned down or off. The names differ, but the idea is the same: a dial between fast and thorough. These settings are guidance, not exact counts. A model given a large budget may use only part of it on an easy question, and effort levels shift behavior rather than fixing a number. Cost is the part people often miss. Reasoning tokens are generally billed as output tokens even when you cannot see them, and output tokens usually cost more than input tokens. A short visible answer can carry a large hidden bill. Latency grows too, since every reasoning token is generated in sequence. More thinking has diminishing returns. On easy or factual lookup questions, extra reasoning rarely improves accuracy and can sometimes lead a model to overcomplicate or second-guess a correct answer. Gains are largest on problems that genuinely need several steps. A common misconception is that the highest setting is always best. The practical approach is to test your own tasks at several levels and pick the lowest one that meets your quality bar.
Bot zákaznické podpory odpovídající na jednoduché dotazy na objednávky využívá nízkou úroveň uvažování, což zajišťuje rychlé a levné odpovědi bez snížení přesnosti.
Vývojář, který ladí složitou chybu souběžnosti (concurrency), přepne u tohoto jednoho požadavku na vysokou úroveň úsilí a získá správnou diagnózu, kterou nízké nastavení nezaznamenalo.
Tým využívající rozšířené uvažování Anthropic nastavuje rozpočet na několik tisíc tokenů pro rutinní kontrolu dokumentů a mnohem větší rozpočet pouze pro smluvní doložky označené jako neobvyklé.
Analytik spustí stejnou sadu 50 testovacích otázek při nízkém, středním a vysokém úsilí a zjistí, že střední úsilí odpovídá vysokému v přesnosti pro jeho úkoly za nižší cenu, a proto standardně používá střední.
Poskytovatelé směřují k modelům, které se sami rozhodují, jak dlouho mají přemýšlet, přičemž nastavení úsilí fungují spíše jako meze než jako pevné pokyny; novější modely Anthropic například nabízejí adaptivní přemýšlení a některé produkty již automaticky přepínají mezi rychlým režimem a režimem uvažování. Výzkum pokračuje v tom, aby bylo uvažování efektivnější, takže podobná přesnost vyžaduje méně tokenů. Názvy parametrů, povolené hodnoty a ceny se několikrát změnily a pravděpodobně se měnit budou, proto považujte aktuální nastavení za podrobnosti specifické pro poskytovatele a při upgrade modelů spusťte vlastní vyhodnocení znovu.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Úsilí o uvažování a rozpočty na přemýšlení jsou nastavení modelů uvažování, která řídí, kolik interní práce krok za krokem model provede před odpovědí. Větší množství přemýšlení často zlepšuje výsledky u obtížných problémů, jako je matematika, kódování a vícestupňová analýza, ale zvyšuje náklady a prodlevy a po určité hranici už nepomáhá. Výběr správné úrovně pro každý úkol je jedním z nejjednodušších způsobů, jak vyvážit kvalitu, rychlost a cenu.
Tato nastavení upravují, kolik mezilehlého uvažování model uvažování vygeneruje před svou konečnou odpovědí.
Tokeny uvažování se obvykle účtují jako výstupní tokeny, které jsou obvykle dražší než vstupní, a to i v případě, že se nezobrazují.
Rozpočet má minimum 1 024 tokenů a musí být menší než max_tokens, aby zbyl prostor pro odpověď.
Rozpočty jsou horní limity a vodítka. U snadných otázek model často využívá mnohem méně.
Přínosy jsou největší u vícestupňových problémů. Snadné úkoly z toho míchají málokdy a mohou dokonce trpět přílišným přemýšlením.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Jak promptovat modely myšlení
Jazyk AI