Szerszámformázó és autodidakta szerszámhasználat
A Toolformer egy 2023-as Meta AI-módszer, amely lehetővé teszi a nyelvi modell számára, hogy megtanulja, mikor és hogyan hívjon meg külső eszközöket, például számológépeket, keresőmotorokat és fordítókat.
Áttekintés
Instead of humans labeling tool calls, the model generates and filters its own training examples, then fine-tunes on the ones that actually help.
Mély merülés
Toolformer, Schick et al. az Meta AI-nál egy paradoxont old meg: a nagy modellek kiválóak a nyelvezetben, de rosszak az aritmetikában, a friss tényekben és a pontos keresésben. Az edzéskör önfelügyelt. A modell egy maroknyi ember által írt példát mutat be, amelyek bemutatják az API-hívás szintaxisát, majd felkérést kap, hogy beszúrjon jelölthívásokat (speciális tokenekbe csomagolva) egy nagy szövegkorpusz sok helyére. Valamennyi jelölt hívás ténylegesen végrehajtásra kerül, és az eredmény összeillesztésre kerül. A kulcsszűrési lépés csak akkor tartja meg az eszközhívást, ha az API eredménye jobban csökkenti a modell zavarodottságát a közelgő valós szöveggel kapcsolatban, mintha nem hívna, vagy másképp hívna. A modell ezután finomhangolásra kerül ezen a szűrt, saját generált adatkészleten, megtanulva öt eszköz meghívását: egy számológépet, egy minőségbiztosítási rendszert, egy keresőmotort, egy fordítót és egy naptárt.
Technikai betekintés
A döntő ötlet az önfelügyelt szűrési cél. A Toolformer minden jelölt pozíciónál összehasonlítja a következő tokenek előrejelzésének veszteségét a beszúrt API-eredménnyel, illetve a nélküle. A veszteséget egy küszöbértéknél nagyobb mértékben csökkentő felhívások megmaradnak; a haszontalan vagy zajos hívásokat elveti. Ez azt jelenti, hogy nincs szükség emberi megjegyzésekre a „helyes” eszközhasználatról, a modell maga dönti el, hogy mely hívások voltak igazán informatívak, és közösen tanulja meg az elhelyezést és az érveket.
Stratégiai hatás
Költség és költségvetés
Az építészeti döntések évekig növelik a teljesítményt és a működési költségeket.
Tisztább döntések
A technikai oktatás segít a csapatoknak a megfelelő verem kiválasztásában, nem csak a legújabb készletben.
Minőségellenőrzés
A jobb mérnöki döntések csökkentik a termelés megbízhatósági incidenseit.
A szerszámformázó és az autodidakta szerszámhasználat jövője
A Toolformer bevetette a mai szerszámhasználó és funkcióhívó ágenseket. A határ egy maroknyi rögzített eszközről a futás közben felfedezett tucatokra vagy százokra halad, a modellekkel, amelyek megfontolják, melyik eszközt hívják meg, láncolják a hívásokat és kezelik a hibákat. Szorosabb integrációra számíthat a megerősítő tanulással és az ügynökhurkokkal, valamint az új API-k menet közbeni tanulásával, hogy az autodidakta eszközhasználat standard képességgé váljon, nem pedig speciális finomhangolás.
Valós megvalósítás
Számológép API meghívása a mondat közepén, hogy pontos aritmetikát kapjon, ahelyett, hogy numerikus választ találna ki.
Keresési vagy minőségbiztosítási rendszer lekérdezése naprakész vagy ritkán látható tényszerű információk lekérése céljából.
Gépi fordítóeszköz meghívása egy kifejezés más nyelven történő megjelenítéséhez a generált szövegen belül.
Egy naptár/dátum eszköz használata a relatív hivatkozások, például a „jövő pénteken” konkrét dátumra való feloldására.
Kockázatok és védőkorlátok
Egy benchmark optimalizálása elrejtheti a rendszer általános hiányosságait.
Az infrastrukturális és karbantartási költségeket gyakran alábecsülik.
A biztonsági és megfigyelhetőségi hiányosságok a rendszerek bonyolultabbá válásával nőhetnek.
Végrehajtási ütemterv
Határozza meg a késleltetési, minőségi és költségcélokat a megvalósítás előtt.
Benchmark reális terhelési és adatviszonyok mellett.
Műszerfigyelés a hibák, az eltolódás és a felhasználói hatások szempontjából.
A méretezés előtt készítse elő a visszagörgetési és az incidensre adott válaszútvonalakat.
Folytassa a felfedezést
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Toolformer and Self-Taught Tool Use quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Következő útmutató
Önreflexió az ügynökhurkokban
Gyakran ismételt kérdések
What is Toolformer and Self-Taught Tool Use?
A Toolformer egy 2023-as Meta AI-módszer, amely lehetővé teszi a nyelvi modell számára, hogy megtanulja, mikor és hogyan hívjon meg külső eszközöket, például számológépeket, keresőmotorokat és fordítókat. Emberi címkézési eszközhívások helyett a modell saját képzési példákat generál és szűr, majd finomhangolja azokat, amelyek valóban segítenek.
Mitől megkülönböztethető a Toolformer megközelítése a tanulási eszközök használatához?
A Toolformer önfelügyelt: a modell javaslatot tesz az API-hívásokra, végrehajtja azokat, és csak a hasznosakat tartja meg, a helyes használat emberi megjegyzése nélkül.
Milyen kritériumok alapján dönti el a Toolformer, hogy megtartja-e a jelölt API-hívást?
A hívás csak akkor marad meg, ha az eredmény beszúrása egy küszöbön túl csökkenti a modell zavartságát/veszteségét a közelgő valós szöveggel kapcsolatban, jelezve, hogy valóban hasznos volt.
Melyik eszközkészletet tanulta meg az eredeti Toolformer használni?
A Toolformert öt API meghívására képezték ki: egy számológépet, egy kérdésre válaszoló rendszert, egy keresőt, egy gépi fordítót és egy naptárt.
Hogyan jelennek meg az eszközhívások a szövegben a Toolformer folyamata során?
A jelölt hívások és a visszaadott eredmények speciális tokenek segítségével bekerülnek a szövegbe, így a modell együtt tanulja meg az elhelyezést és az argumentumokat.
A nagy nyelvi modellek milyen gyengesége motiválta a Toolformert?
Az erős nyelvtudás ellenére az LLM-ek pontos számtani, naprakész tényekkel és precíz információ-visszakereséssel küszködnek, amelyet külső eszközök biztosítanak.