Technický PRŮVODCE

Nástrojař a použití nástrojů pro samouky

Toolformer je metoda umělé inteligence 2023 Meta, která umožňuje jazykovému modelu, aby se sám naučil, kdy a jak volat externí nástroje, jako jsou kalkulačky, vyhledávače a překladače.

Poslechněte si tento návodAI-vyprávěný · ~2 min

Na této stránce2 minuty čtení
  1. Přehled
  2. Hluboký ponor
  3. Real-World Implementace
  4. Budoucnost nástrojařů a používání nástrojů pro samouky
  5. Uvedení do praxe
  6. Pokračujte v objevování
  7. Často kladené otázky

Přehled

Místo toho, aby lidé označovali volání nástrojů, model generuje a filtruje své vlastní příklady školení a poté dolaďuje ty, které skutečně pomáhají.

Hluboký ponor

Toolformer, od Schick et al. na Meta AI řeší paradox: velké modely jsou skvělé v jazyce, ale špatné v aritmetice, nových faktech a přesných vyhledáváních. Tréninková smyčka je pod dohledem. Model obsahuje několik příkladů napsaných lidmi, které ukazují syntaxi volání API, a poté jsou vyzvány k vložení kandidátských volání (zabalených do speciálních tokenů) na mnoho pozic ve velkém textovém korpusu. Každé volání kandidáta se skutečně provede a výsledek se spojí. Krok filtrování klíčů zachová volání nástroje pouze v případě, že výsledek API snižuje zmatek modelu nad nadcházejícím skutečným textem více než nevolání nebo volání jinak. Model je poté doladěn na této filtrované, samostatně generované datové sadě a učí se používat pět nástrojů: kalkulačku, systém kontroly kvality, vyhledávač, překladač a kalendář.

Real-World Implementace

Volání rozhraní API kalkulačky uprostřed věty za účelem získání přesné aritmetiky namísto hádání číselné odpovědi.

Dotazování systému vyhledávání nebo QA za účelem získání aktuálních nebo zřídka vídaných faktických informací.

Vyvolání nástroje strojového překladu k vykreslení fráze v jiném jazyce v rámci generovaného textu.

Použití nástroje kalendář/datum k vyřešení relativních odkazů jako „příští pátek“ na konkrétní datum.

Budoucnost nástrojařů a používání nástrojů pro samouky

Toolformer nasadil dnešní agenty využívající nástroje a vyvolávající funkce. Hranice se posouvá od pevné hrstky nástrojů k desítkám či stovkám objeveným za běhu, přičemž modely zvažují, který nástroj zavolat, řetězí volání a řeší selhání. Očekávejte těsnější integraci s posilovacím učením a smyčkami agentů plus průběžné učení nových API, takže používání nástrojů pro samouky se stane spíše standardní schopností než specializovaným doladěním.

Uvedení do praxe

Proč na tom záleží

  • Cena a rozpočet. Rozhodnutí o architektuře zvyšují výkon a provozní náklady po mnoho let.
  • Jasnější rozhodnutí. Technické vzdělání pomáhá týmům vybrat ten správný stack, nejen ten nejnovější.
  • Kontrola kvality. Lepší konstrukční volby snižují výskyt problémů se spolehlivostí ve výrobě.

Pozor na

  • Optimalizace jednoho benchmarku může skrýt širší systémové slabiny.
  • Náklady na infrastrukturu a údržbu jsou často podceňovány.
  • Mezery v zabezpečení a pozorovatelnosti se mohou zvětšovat, jak se systémy stávají složitějšími.

Další kroky

  1. Před implementací definujte cíle latence, kvality a nákladů.
  2. Benchmark za realistických podmínek zatížení a dat.
  3. Monitorování chyb, posunu a dopadu na uživatele.
  4. Před škálováním připravte cesty vrácení zpět a reakce na incidenty.

Pokračujte v objevování

Newsletter zdarma

Získejte denní přehled o AI

Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.

Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.

Otestujte se

Take the Toolformer and Self-Taught Tool Use quiz

Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.

Spustit kvíz

Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte

Často kladené otázky

Co je to Toolformer a nástroj pro samouky?

Toolformer je metoda umělé inteligence 2023 Meta, která umožňuje jazykovému modelu, aby se sám naučil, kdy a jak volat externí nástroje, jako jsou kalkulačky, vyhledávače a překladače. Místo toho, aby lidé označovali volání nástrojů, model generuje a filtruje své vlastní příklady školení a poté dolaďuje ty, které skutečně pomáhají.

Čím je přístup Toolformeru k používání učebních nástrojů charakteristický?

Toolformer je pod dohledem: model navrhuje kandidátská volání API, provádí je a uchovává pouze ta užitečná, bez lidské anotace správného použití.

Jaké kritérium používá Toolformer k rozhodnutí, zda zachovat kandidátské volání API?

Volání je zachováno pouze v případě, že vložení jeho výsledku sníží zmatek/ztrátu modelu nad nadcházejícím skutečným textem nad prahovou hodnotu, což znamená, že bylo skutečně užitečné.

Jakou sadu nástrojů se naučil používat původní Toolformer?

Toolformer byl vyškolen k vyvolání pěti API: kalkulačky, systému odpovědí na otázky, vyhledávače, strojového překladače a kalendáře.

Jak jsou volání nástrojů reprezentována v textu během procesu Toolformer?

Volání kandidátů a jejich vrácené výsledky jsou vloženy přímo do textu pomocí speciálních tokenů, takže se model učí umístění a argumenty společně.

Jaká základní slabina velkých jazykových modelů motivovala Toolformer?

Navzdory výborným jazykovým znalostem se LLM potýkají s přesnou aritmetikou, aktuálními fakty a přesným vyhledáváním informací, které mohou poskytnout externí nástroje.