DalšíDalší průvodce
Pokračování předtrénování vs jemné ladění
Technický
Jazyk AI GUIDE
Výzva změní to, na co se modelu ptáte, generování rozšířeného načítání (RAG) změní, jaké informace model vidí v době odpovědi, a jemné doladění změní váhy modelu, takže se ve výchozím nastavení chová jinak.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Správná volba závisí na tom, co ve skutečnosti chybí: znalost ukazuje na RAG, konzistentní formát nebo styl ukazuje na výzvu jako první a jemné ladění jako druhé a nová dovednost, kterou model nedokáže spolehlivě provést, ukazuje na jemné ladění. Výběr špatné páky plýtvá penězi a často zhoršuje výsledky.
Užitečný způsob, jak se rozhodnout, je pojmenovat mezeru před pojmenováním řešení. Existují čtyři běžné mezery: znalosti (model nezná vaše fakta), formát (zná, ale odpovídá ve špatném tvaru), styl nebo tón (odpovídá správně, ale nezní správně) a dovednost (nemůže vůbec spolehlivě provést úkol, jako je specializovaná extrakce nebo úsudek specifický pro doménu). Výzva je první pákou pro téměř každou mezeru, protože je levná, rychle se mění a snadno se testuje. Jasné instrukce, definované výstupní schéma a několik příkladů řeší velkou část problémů s formátem a stylem. Jeho limity jsou délka kontextu, cena za hovor, když se výzvy prodlužují, a nekonzistence u náročných úkolů. RAG řeší znalosti. Při dotazu vyhledá retriever relevantní pasáže z vašich dokumentů a umístí je do výzvy, takže model odpovídá z aktuálních, citovatelných zdrojů. Vyhovuje faktům, která se mění, faktům, která musí být dohledatelná, a sbírkám příliš velkým na to, aby se vešly do výzvy. Jeho kvalita silně závisí na vyhledávání: pokud není nalezen správný průchod, model ho nemůže použít. Jemné ladění trénuje model na příkladech požadovaného vstupu a výstupu. Je silný v uzamčení formátu, tónu nebo úzké dovednosti a může nechat menší model nahradit větší, což snižuje latenci a náklady. Obvyklá mylná představa je, že jemné doladění je dobrý způsob, jak přidat fakta. Může to posunout to, co má model tendenci říkat, ale je to nespolehlivý a těžko aktualizovatelný způsob ukládání znalostí a může zvýšit důvěryhodné chyby v materiálu, který model viděl jen několikrát. Metody se kombinují. Mnoho produkčních systémů používá vyladěný model, který dobře čte načtený kontext, řízený dobře navrženou výzvou. Praktické pořadí je obvykle: prompt, pak přidat vyhledávání, pokud chybí znalosti, pak doladit, když máte vyhodnocovací data ukazující přetrvávající mezeru.
Tým podpory chce, aby chatbot odpovídal na otázky týkající se manuálu k produktu, který se mění měsíčně; RAG se hodí, protože fakta se mění a odpovědi potřebují citace na aktuální verzi.
Právní tým potřebuje každý souhrn smlouvy ve stejné pětihlavičkové struktuře; jasná výzva se dvěma vypracovanými příklady to obvykle vyřeší dříve, než se uvažuje o jakémkoli školení.
Společnost zpracovává miliony krátkých požadavků na klasifikaci denně a zjišťuje, že malý vyladěný model odpovídá přesnosti velkého nabídnutého modelu za zlomek nákladů a latence.
Nemocnice se snaží vyladit model na interních dokumentech politiky tak, aby je „znala“, zjistila, že stále vymýšlí podrobnosti, a přepne na RAG, takže odpovědi uvádějí skutečný text politiky.
Delší kontextová okna a levnější vyvozování učinily výzvy a načítání schopnějšími, což snižuje počet případů, kdy je jemné doladění jedinou možností. Současně se používání hostovaných služeb jemného ladění stalo jednodušším, včetně variant založených na preferenci a posílení. Hranice mezi těmito třemi přístupy se budou pravděpodobně stále rozmazávat a systémy, které načítají, vyzývají a používají lehce upravené modely společně. Trvalá dovednost je diagnostická: identifikace, zda selhání pochází z chybějících znalostí, nejasných pokynů nebo skutečné mezery ve schopnostech, a poté měření, zda změna skutečně pomohla.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Výzva změní to, na co se modelu ptáte, generování rozšířeného načítání (RAG) změní, jaké informace model vidí v době odpovědi, a jemné doladění změní váhy modelu, takže se ve výchozím nastavení chová jinak. Správná volba závisí na tom, co ve skutečnosti chybí: znalost ukazuje na RAG, konzistentní formát nebo styl ukazuje na výzvu jako první a jemné ladění jako druhé a nová dovednost, kterou model nedokáže spolehlivě provést, ukazuje na jemné ladění. Výběr špatné páky plýtvá penězi a často zhoršuje výsledky.
Toto je znalostní mezera s měnícími se fakty. RAG poskytuje aktuální, citovatelné informace v době dotazu a jejich aktualizace znamená pouze aktualizaci dokumentů.
Výzvy jsou levné, rychle se mění a snadno se testují a jasné pokyny a několik příkladů řeší mnoho problémů s formátem a stylem.
Jemné dolaďování spíše posunuje tendence než spolehlivě ukládá fakta, je nepohodlné aktualizovat, když se fakta mění, a může způsobit, že se model sebevědomě zmýlí.
Jemné ladění je silné pro uzamčení úzké dovednosti nebo formátu a ponechání menšího modelu nahradit větší, aby se snížily náklady a latence.
Pokud se při načítání nevynoří správný průchod, model jej nemůže použít. Samostatné měření zpětného odběru problém izoluje.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Pokračování předtrénování vs jemné ladění
Technický