Verktøyformer og selvlært verktøybruk
Toolformer er en 2023 Meta AI-metode som lar en språkmodell lære seg selv når og hvordan man kaller eksterne verktøy som kalkulatorer, søkemotorer og oversettere.
Oversikt
Instead of humans labeling tool calls, the model generates and filters its own training examples, then fine-tunes on the ones that actually help.
Dypdykk
Toolformer, fra Schick et al. på Meta AI, takler et paradoks: store modeller er gode på språk, men dårlige på aritmetikk, ferske fakta og presise oppslag. Treningssløyfen er selvstyrt. Modellen er gitt en håndfull menneskeskrevne eksempler som viser API-anropssyntaks, og blir deretter bedt om å sette inn kandidatanrop (innpakket i spesielle tokens) på mange posisjoner over et stort tekstkorpus. Hvert kandidatkall utføres faktisk, og resultatet spleises inn. Nøkkelfiltreringstrinnet beholder et verktøykall bare hvis det å ha API-resultatet reduserer modellens forvirring om den kommende virkelige teksten mer enn å ikke ringe eller ringe annerledes. Modellen finjusteres deretter på dette filtrerte, egengenererte datasettet, og lærer å bruke fem verktøy: en kalkulator, et QA-system, en søkemotor, en oversetter og en kalender.
Teknisk innsikt
Den avgjørende ideen er det selvovervåkede filtreringsmålet. For hver kandidatstilling sammenligner Toolformer tapet av å forutsi følgende tokens med API-resultatet satt inn versus uten. Samtaler som reduserer tap med mer enn en terskel, beholdes; ubrukelige eller støyende samtaler forkastes. Dette betyr at ingen menneskelig merknad om "riktig" verktøybruk er nødvendig, modellen bestemmer selv hvilke samtaler som var genuint informative, og den lærer plassering og argumenter i fellesskap.
Strategisk innvirkning
Cost and budget
Arkitekturbeslutninger driver ytelse og driftskostnader i årevis.
Tydeligere avgjørelser
Teknisk utdanning hjelper team med å velge riktig stabel, ikke bare den nyeste.
Quality control
Bedre ingeniørvalg reduserer pålitelighetshendelser i produksjonen.
Fremtiden for bruk av verktøyformer og selvlært verktøy
Toolformer seedet dagens verktøybrukende og funksjonskallende agenter. Grensen beveger seg fra en fast håndfull verktøy til dusinvis eller hundrevis oppdaget under kjøring, med modeller som resonnerer om hvilket verktøy de skal ringe, lenke anrop og håndtere feil. Forvent tettere integrasjon med forsterkende læring og agentløkker, pluss læring av nye APIer underveis, slik at selvlært verktøybruk blir en standardfunksjon i stedet for en spesialisert finjustering.
Real-World Implementering
Kalle en kalkulator API midt i setningen for å få nøyaktig aritmetikk i stedet for å gjette et numerisk svar.
Spørre et søk eller QA-system for å hente oppdatert eller sjeldent sett faktainformasjon.
Å påkalle et maskinoversettelsesverktøy for å gjengi en frase på et annet språk i generert tekst.
Bruke et kalender-/datoverktøy for å løse relative referanser som "neste fredag" til en konkret dato.
Risikoer og rekkverk
Optimalisering av ett benchmark kan skjule bredere systemsvakheter.
Infrastruktur- og vedlikeholdskostnader er ofte undervurdert.
Sikkerhets- og observerbarhetsgap kan vokse etter hvert som systemene blir mer komplekse.
Veikart for implementering
Definer ventetid, kvalitet og kostnadsmål før implementering.
Benchmark under realistiske belastnings- og dataforhold.
Instrumentovervåking for feil, drift og brukerpåvirkning.
Forbered tilbakerulling og hendelsesresponsbaner før skalering.
Fortsett å utforske
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Toolformer and Self-Taught Tool Use quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Neste guide
Selvrefleksjon i Agent Loops
Ofte stilte spørsmål
What is Toolformer and Self-Taught Tool Use?
Toolformer er en 2023 Meta AI-metode som lar en språkmodell lære seg selv når og hvordan man kaller eksterne verktøy som kalkulatorer, søkemotorer og oversettere. I stedet for at mennesker merker verktøykall, genererer og filtrerer modellen sine egne treningseksempler, og finjusterer deretter de som faktisk hjelper.
Hva er det som gjør Toolformers tilnærming til læringsverktøybruk særegen?
Toolformer er selvovervåket: modellen foreslår kandidat-API-kall, utfører dem og beholder bare de nyttige, uten menneskelig merknad om riktig bruk.
Hvilket kriterium bruker Toolformer for å avgjøre om et kandidat-API-kall skal beholdes?
En samtale beholdes bare hvis innsetting av resultatet reduserer modellens forvirring/tap på den kommende virkelige teksten utover en terskel, noe som indikerer at den var virkelig nyttig.
Hvilket sett med verktøy lærte den originale Toolformer å bruke?
Toolformer ble opplært til å bruke fem APIer: en kalkulator, et spørsmålssvarssystem, en søkemotor, en maskinoversetter og en kalender.
Hvordan blir verktøykall representert i teksten under Toolformers prosess?
Kandidatanrop og deres returnerte resultater settes inn i teksten ved hjelp av spesielle tokens, slik at modellen lærer plassering og argumenter sammen.
Hvilken underliggende svakhet ved store språkmodeller motiverte Toolformer?
Til tross for sterke språkkunnskaper, sliter LLM-er med nøyaktig aritmetikk, oppdaterte fakta og presis informasjonsinnhenting, som eksterne verktøy kan levere.