Műszaki ÚTMUTATÓ

Szerszámformázó és autodidakta szerszámhasználat

A Toolformer egy 2023-as Meta AI-módszer, amely lehetővé teszi a nyelvi modell számára, hogy megtanulja, mikor és hogyan hívjon meg külső eszközöket, például számológépeket, keresőmotorokat és fordítókat.

Hallgassa meg ezt az útmutatótAI-narrált · ~2 min

Ezen az oldalon2 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. A szerszámformázó és az autodidakta szerszámhasználat jövője
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

Instead of humans labeling tool calls, the model generates and filters its own training examples, then fine-tunes on the ones that actually help.

Mély merülés

Toolformer, Schick et al. az Meta AI-nál egy paradoxont ​​old meg: a nagy modellek kiválóak a nyelvezetben, de rosszak az aritmetikában, a friss tényekben és a pontos keresésben. Az edzéskör önfelügyelt. A modell egy maroknyi ember által írt példát mutat be, amelyek bemutatják az API-hívás szintaxisát, majd felkérést kap, hogy beszúrjon jelölthívásokat (speciális tokenekbe csomagolva) egy nagy szövegkorpusz sok helyére. Valamennyi jelölt hívás ténylegesen végrehajtásra kerül, és az eredmény összeillesztésre kerül. A kulcsszűrési lépés csak akkor tartja meg az eszközhívást, ha az API eredménye jobban csökkenti a modell zavarodottságát a közelgő valós szöveggel kapcsolatban, mintha nem hívna, vagy másképp hívna. A modell ezután finomhangolásra kerül ezen a szűrt, saját generált adatkészleten, megtanulva öt eszköz meghívását: egy számológépet, egy minőségbiztosítási rendszert, egy keresőmotort, egy fordítót és egy naptárt.

Valós megvalósítás

Számológép API meghívása a mondat közepén, hogy pontos aritmetikát kapjon, ahelyett, hogy numerikus választ találna ki.

Keresési vagy minőségbiztosítási rendszer lekérdezése naprakész vagy ritkán látható tényszerű információk lekérése céljából.

Gépi fordítóeszköz meghívása egy kifejezés más nyelven történő megjelenítéséhez a generált szövegen belül.

Egy naptár/dátum eszköz használata a relatív hivatkozások, például a „jövő pénteken” konkrét dátumra való feloldására.

A szerszámformázó és az autodidakta szerszámhasználat jövője

A Toolformer bevetette a mai szerszámhasználó és funkcióhívó ágenseket. A határ egy maroknyi rögzített eszközről a futás közben felfedezett tucatokra vagy százokra halad, a modellekkel, amelyek megfontolják, melyik eszközt hívják meg, láncolják a hívásokat és kezelik a hibákat. Szorosabb integrációra számíthat a megerősítő tanulással és az ügynökhurkokkal, valamint az új API-k menet közbeni tanulásával, hogy az autodidakta eszközhasználat standard képességgé váljon, nem pedig speciális finomhangolás.

A gyakorlatba ültetés

Miért számít

  • Költség és költségvetés. Az építészeti döntések évekig növelik a teljesítményt és a működési költségeket.
  • Tisztább döntések. A technikai oktatás segít a csapatoknak a megfelelő verem kiválasztásában, nem csak a legújabb készletben.
  • Minőségellenőrzés. A jobb mérnöki döntések csökkentik a termelés megbízhatósági incidenseit.

Vigyázz

  • Egy benchmark optimalizálása elrejtheti a rendszer általános hiányosságait.
  • Az infrastrukturális és karbantartási költségeket gyakran alábecsülik.
  • A biztonsági és megfigyelhetőségi hiányosságok a rendszerek bonyolultabbá válásával nőhetnek.

Következő lépések

  1. Határozza meg a késleltetési, minőségi és költségcélokat a megvalósítás előtt.
  2. Benchmark reális terhelési és adatviszonyok mellett.
  3. Műszerfigyelés a hibák, az eltolódás és a felhasználói hatások szempontjából.
  4. A méretezés előtt készítse elő a visszagörgetési és az incidensre adott válaszútvonalakat.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the Toolformer and Self-Taught Tool Use quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

What is Toolformer and Self-Taught Tool Use?

A Toolformer egy 2023-as Meta AI-módszer, amely lehetővé teszi a nyelvi modell számára, hogy megtanulja, mikor és hogyan hívjon meg külső eszközöket, például számológépeket, keresőmotorokat és fordítókat. Emberi címkézési eszközhívások helyett a modell saját képzési példákat generál és szűr, majd finomhangolja azokat, amelyek valóban segítenek.

Mitől megkülönböztethető a Toolformer megközelítése a tanulási eszközök használatához?

A Toolformer önfelügyelt: a modell javaslatot tesz az API-hívásokra, végrehajtja azokat, és csak a hasznosakat tartja meg, a helyes használat emberi megjegyzése nélkül.

Milyen kritériumok alapján dönti el a Toolformer, hogy megtartja-e a jelölt API-hívást?

A hívás csak akkor marad meg, ha az eredmény beszúrása egy küszöbön túl csökkenti a modell zavartságát/veszteségét a közelgő valós szöveggel kapcsolatban, jelezve, hogy valóban hasznos volt.

Melyik eszközkészletet tanulta meg az eredeti Toolformer használni?

A Toolformert öt API meghívására képezték ki: egy számológépet, egy kérdésre válaszoló rendszert, egy keresőt, egy gépi fordítót és egy naptárt.

Hogyan jelennek meg az eszközhívások a szövegben a Toolformer folyamata során?

A jelölt hívások és a visszaadott eredmények speciális tokenek segítségével bekerülnek a szövegbe, így a modell együtt tanulja meg az elhelyezést és az argumentumokat.

A nagy nyelvi modellek milyen gyengesége motiválta a Toolformert?

Az erős nyelvtudás ellenére az LLM-ek pontos számtani, naprakész tényekkel és precíz információ-visszakereséssel küszködnek, amelyet külső eszközök biztosítanak.